AG — Alexey Gavrilov 연구 홈페이지

AI는 전체 프로그램을 다시 생성하지 않고 코드를 어떻게 편집할 수 있는가?

생성 모델로 코드를 국소적으로 바꾸기 위한 실용적 연구 안내서다. 무엇을 고정하고 무엇을 바꿀 수 있는지, 그리고 변환을 구조 보존형이라고 부르기 전에 어떤 근거가 필요한지 구분한다.

게시 업데이트

이 안내서 공유공유

실제 문제는 무엇인가

코드 편집은 짧은 프롬프트를 사용한 코드 생성이 아니다. 편집기는 기존 산출물, 의도한 변경, 암묵적인 보존 계약을 함께 받는다. 따라서 핵심 질문은 양면적이다. 어느 영역은 바꿀 수 있고, 나머지의 어떤 속성은 안정적으로 유지해야 하는가?

여기서는 직관적인 국소 편집과 더 강한 문법·구조·의미·기능 보존 주장을 분리한다.

핵심 생각

경계가 있는 편집기에는 생성 목표뿐 아니라 명시적인 보존 경계가 필요하다.

무엇을 고정할 것인가

텍스트 구간, 문법, API 시그니처, AST 영역, 테스트 동작, 의존성 계약, 학습된 거친 표현을 보호할 수 있다. 각 선택이 보장하려는 안정성은 서로 다르다.

무엇을 바꿀 수 있는가

편집 영역에는 작업을 해결할 만큼 자유가 있어야 한다. 모든 것을 복사하는 방법은 안정적이지만 쓸모없고, 모든 것을 다시 쓰는 방법은 자유롭지만 국소성이 없다.

직관: 건물은 유지하고 방 하나만 수리하기

내력 구조, 배관 연결부, 이웃 방을 그대로 두고 방 하나만 수리한다고 생각할 수 있다. 전체 재생성은 말로 설명한 집을 처음부터 다시 짓는 것과 같다. 국소 편집은 보호 구조를 표시하고 제한된 작업 영역을 연 뒤 변경을 수행하고 결과를 검사한다.

비유의 한계. 학습된 잠재 코드는 인증된 건축 도면이 아니다. 거친 코드를 고정하면 측정된 구조 안정성이 높아질 수 있지만 특정 AST 노드, 동작, 인터페이스가 그대로라는 보장은 없다.

부분 재생성을 더 정확히 보기

인코더가 프로그램 x를 구조화된 잠재 표현 z로 매핑한다고 하자. 보존 마스크는 고정할 위치 L을 고른다. 생성기는 나머지 위치만 샘플링하면서 잠근 모든 위치에서 z'ₗ = zₗ을 강제한다. 디코더는 완성된 z'를 다시 소스 코드로 바꾼다.

이 메커니즘은 토큰 위에 점검 가능한 제어 표면을 만든다. 그러나 그 의미는 실험으로 확인해야 한다. 잠근 위치가 디코딩 뒤 실제로 무엇을 보존하는지, 편집 위치에 충분한 자유가 남는지 측정해야 한다.

4단계 편집 절차

  1. 경계 명시

    보호할 영역 또는 속성과 의도한 변경을 정의한다.

  2. 산출물 표현

    텍스트, 문법 구조, 검색 문맥, 거친·세밀한 학습 코드를 선택한다.

  3. 선택적 재생성

    고른 제약을 유지하면서 편집 가능한 위치만 샘플링한다.

  4. 수락 전 검증

    국소성, 문법, 구조, 동작, 의도하지 않은 부작용을 측정한다.

코드 편집, 프로그램 수리, 제약 생성은 같은 작업이 아니다

접근법주요 목표대표적 보존 수단추가 검증 대상
전체 코드 생성완전한 산출물 생성프롬프트와 문맥요청 변경 밖의 모든 것
자동 프로그램 수리진단된 결함 제거결함 위치, 테스트, 템플릿, 패치테스트 밖의 정확성과 패치 최소성
인필링 또는 편집 모델선택한 텍스트 영역 수정접두·접미 문맥, diff, 편집 문맥의도하지 않은 구조·동작 변화
문법 제약 디코딩형식 언어 안의 출력 유지문법적으로 유효한 디코딩 상태프로그램 의미, 작업 정확성, 국소성
계층적 잠재 제어선택한 학습 위치 재생성잠근 거친 또는 세밀한 잠재 코드디코딩 뒤 그 코드가 실제로 보존한 것

국소성과 구조 보존 측정하기

영역 밖 변화
요청 영역 밖의 diff를 측정한다. 낮은 값은 국소성을 지지하지만 복사만으로 성공한 것은 아니다.
편집 영역 자유도
잠금을 푼 영역이 실제로 변하고 여러 유효 후보가 가능한지 측정한다.
문법과 구문
파싱 성공률과 문법 유효성은 잘못된 형식을 찾지만 동작은 설명하지 못한다.
구조 불변량
작업에서 안정적으로 유지해야 한다고 정한 시그니처, AST 구간, 제어·데이터 흐름, import, API를 비교한다.
기능 근거
가능한 경우 테스트, 정적 검사, 컴파일, 작업별 동작 평가를 수행한다.
다양성과 불확실성
후보 고유성과 반복 실행 변동성을 보고해 안정성을 모드 붕괴와 혼동하지 않는다.

편집 작업에 맞는 제어 수단 고르기

“함수 전체를 다시 쓰지 말라”는 요구사항이지 완전한 방법이 아니다. 예측해야 할 결과에서 시작해 제어 수단과 그에 맞는 근거를 고른다.

필요한 보장더 잘 맞는 제어 수단요구할 근거
동작 보존형 AI 보조 리팩터링LLM이 변환을 찾거나 제안하고 가능하면 신뢰할 수 있는 리팩터링 엔진으로 실행한다. RefactoringMirror 참조.컴파일, 테스트, 정적 검사, 리팩터링 탐지. SWE-Refactor는 이를 저장소 수준에서 명시한다.
함수 전체 재작성 없는 국소 코드 수정EfficientEdit처럼 변경하지 않은 소스 구간을 재사용하고 후보 편집 영역만 생성한다.영역 밖 diff, 작업 성공, 수락 토큰 재사용, 생략 문맥으로 놓친 파일 간 변경.
소프트웨어 공학용 제약 코드 생성문법 제약 확산처럼 디코딩 중 형식 속성을 강제하거나 Hydra처럼 유효한 접두부를 체크포인트로 두고 원인 영역까지만 롤백한다.문법·컴파일러·타입 검사 성공과 함께 기능 테스트, 국소성, 수리 지연, 다시 생성한 유효 코드 양.
국소성과 다양성을 조절하는 선택적 Python 함수 재생성선택한 거친 또는 세밀한 잠재 위치를 잠그고 나머지만 샘플링한다.디코딩 국소성, 문법, 구조 불변량, 편집 자유도, 다양성, 불확실성. 잠재 잠금만으로 리팩터링이 보장되지는 않는다.
명시적인 보존 계약 아래 예측 가능한 코드 생성생성 전에 관찰 가능한 보호 속성과 합격 검사를 정의하고, 이를 강제하거나 드러낼 수 있는 가장 좁은 수단을 고른다.디코딩 뒤 정확히 그 속성을 측정하고 반복 실행의 수락·거부·실패율을 보고한다. 결정적 샘플링만으로 보존이 보장되지는 않는다.

이 안내서가 답하는 질문

짧은 답은 이 안내서 전체에서 사용하는 주장과 근거 경계를 정의한다.

  1. 생성 모델이 함수 전체를 다시 쓰지 않고 코드를 수정하려면 어떻게 해야 하는가?

    생성 전에 편집 가능 경계를 정하고, 그 밖의 원본을 보존하거나 재사용하며, 후보 변경만 생성한 뒤 작업에 실패하거나 보호 영역을 바꾼 출력을 거부한다. 계층적 잠재 잠금은 실험적인 제어 수단 중 하나이지만 동일한 소스 구간을 보장하지는 않는다. 국소 편집 제어 수단 비교하기.

  2. 코드 편집이 단지 문법적으로 올바른 것이 아니라 국소적이라는 근거는 무엇인가?

    요청 영역 밖의 diff를 작업 성공, 편집 영역의 변화, 구조 불변량, 테스트 또는 정적 검사, 반복 실행 변동성과 함께 측정한다. 파싱 성공률만으로 확인되는 것은 문법적 형식 적합성뿐이다. 국소성 근거 점검표 보기.

  3. 코드 편집의 국소성과 생성 다양성은 어떻게 함께 평가해야 하는가?

    보호 영역의 안정성과 함께 편집 영역의 자유도와 후보 고유성을 보고한다. 입력을 그대로 복사하면 안정성은 높지만 작업 진전이 없고, 제한 없는 재작성은 변화를 늘리지만 국소성을 잃을 수 있다. 측정된 안정성-자유도 근거 보기.

  4. 국소 코드 편집, 제약 생성, 프로그램 수리는 어떻게 다른가?

    국소 편집은 무엇이 변하지 않아야 하는지에 초점을 두고, 제약 생성은 문법 소속 같은 형식 속성을 강제하며, 프로그램 수리는 결함 또는 작업 명세를 만족해야 한다. 문법만으로 의미 동등성, 기능 정확성, 작업 성공, 국소성을 증명할 수 없다. 세 목표 비교하기.

  5. Python 함수의 일부만 다시 생성하면서 나머지를 안정적으로 유지하려면 어떻게 해야 하는가?

    생성 전에 보호 영역과 편집 영역을 정하고 편집 가능한 표현만 수정한 뒤 디코딩한다. 보호 코드를 바꾸거나 문법, 테스트, 정적 검사, 작업별 불변량에 실패한 후보는 거부한다. 보고된 계층적 잠재 실험은 64토큰 함수에서 확률적 안정성을 측정했을 뿐 동일 구간이나 동작을 보장하지 않는다. 선택적 재생성 절차 보기.

  6. 동작 보존형 AI 보조 리팩터링에는 어떤 제어 전략이 맞는가?

    가능하면 모델은 변환을 찾거나 제안하는 데 사용하고, 실행은 신뢰할 수 있는 리팩터링 엔진에 맡긴다. 이후 컴파일, 테스트, 정적 검사, 의도한 리팩터링 탐지를 확인한다. 그럴듯한 생성 패치만으로는 충분한 근거가 아니다. 리팩터링 의사결정 행 보기.

  7. 코드 생성을 단순히 제어 가능하게가 아니라 예측 가능하게 만드는 것은 무엇인가?

    생성기를 고르기 전에 관찰 가능한 보존 계약과 합격 검사를 명시한다. 예측 가능성은 프롬프트, 마스크, 문법, 잠재 코드를 고정했는지가 아니라 디코딩과 검증 뒤 무엇이 안정적으로 남았는지에 달려 있다. 보존 계약 정의하기.

현재 실험이 보여 주는 것과 보여 주지 않는 것

Inspectable Control for Structure-Preserving Software Regeneration에서 계층적 VQ-VAE는 64토큰 Python 함수를 상위 위치 16개와 하위 위치 32개로 매핑한다. 상위 코드 네 개를 잠그면 파싱 성공률은 0.453에서 0.591로 올랐고, 잠그지 않은 위치의 변화율은 0.936, 조건부 샘플 고유성은 0.998이었다.

이는 작은 설정 하나에서 측정한 안정성-자유도 절충의 근거다. 정확한 AST 보존, 의미 동등성, 기능 정확성, 성공적인 수리, 저장소 규모 동작을 보장하지 않는다.

동반 연구 Where Quality Breaks in Compressed Short-Text Generation은 잠재 공간 대리 지표 개선이 디코딩 출력 개선으로 이어지지 않을 수 있음을 보인다. 표현, 생성, 디코딩 동작을 서로 다른 단계로 점검해야 한다.

재사용 가능한 절차는 코덱 손실과 생성기 손실을 분리하는 동반 안내서에서 확인할 수 있다.

흔한 오해

“파싱되므로 정확하다.”

파싱은 문법적 형식만 확인한다. 프로그램은 여전히 테스트, 계약, 의도를 어길 수 있다.

“거친 코드는 AST 노드다.”

명시적인 정렬 근거가 없다면 그렇지 않다. 학습된 코드는 여러 표면·구조 요인을 섞을 수 있다.

“잠재 위치를 잠그면 소스 텍스트가 그대로다.”

디코딩은 전역적이고 학습된 과정이다. 고정된 위치는 안정성을 높일 수 있지만 동일한 텍스트 구간을 보장하지 않는다.

“변화가 적을수록 항상 좋다.”

입력을 복사하면 안정성은 완벽하지만 작업 진전은 없다. 국소성과 편집 성공을 함께 측정해야 한다.

다음에 읽을 자료

인접 연구는 서로 다른 제어 수단을 사용한다. 작업 정렬 없이 서로 바꿔 쓸 수 있는 기준선으로 취급하면 안 된다. 논문 제목은 원문으로 유지한다.

  1. Self-Edit: Fault-Aware Code Editor for Code Generation

    생성을 편집 가능한 과정으로 다루고 탐지한 결함으로 수정을 유도한다.

  2. Coeditor: Leveraging Contextual Changes for Multi-round Code Auto-editing

    처음부터 다시 생성하는 대신 여러 편집 라운드의 문맥적 코드 변화를 모델링한다.

  3. PAFT: Preservation Aware Fine-Tuning for Minimal-Edit Program Repair

    프로그램 수리 학습에서 보존과 최소 변경을 명시적인 목표로 둔다.

  4. Constrained Decoding of Diffusion LLMs with Context-Free Grammars

    형식 제약을 통해 확산 디코딩 중 문법 보장을 제공하는 방법을 보인다.

  5. Neural Discrete Representation Learning

    학습형 이산 잠재 표현의 기반인 VQ-VAE를 소개한다.

  6. Simple and Effective Masked Diffusion Language Models

    동반 진단 연구의 잠재 생성기에 사용한 마스크 이산 확산 형식을 제공한다.

  7. An Empirical Study on the Potential of LLMs in Automated Software Refactoring

    LLM이 제안한 안전하지 않은 리팩터링을 찾고, 탐지된 변환을 신뢰할 수 있는 리팩터링 엔진으로 다시 적용하는 방식을 평가한다.

  8. SWE-Refactor: A Repository-Level Benchmark for Real-World LLM-Based Code Refactoring

    컴파일, 테스트, 리팩터링 탐지를 사용해 저장소 수준의 동작 보존형 리팩터링을 평가한다.

  9. EfficientEdit: Accelerating Code Editing via Edit-Oriented Speculative Decoding

    편집을 전체 자기회귀 재생성으로 취급하지 않고, 변경하지 않은 소스 구간을 재사용하며 편집 위치를 예측한다.

  10. Hydra: Efficient, Correct Code Generation via Checkpoint-and-Rollback Support

    정적 검사, 체크포인트, 표적 롤백으로 오류 뒤 이미 유효한 접두부 전체를 다시 생성하지 않는다.

짧은 정리

국소 코드 재생성은 변경과 보존 사이의 계약이다. 계층적 이산 잠재 표현은 그 계약을 점검 가능하게 표현하는 한 방법이지만, 디코딩 프로그램의 국소성, 문법, 구조, 동작, 다양성, 불확실성을 평가할 때만 유용하다.

이 연구 방향의 논문