# 研究專案

Canonical HTML: https://aogavrilov.com/zh-hant/projects/

Document language: zh-Hant

從可觀察到的失效著手,再依循與其相符的方法、證據及範圍邊界。

## 依據觀察到的失敗情形選擇

相同徵狀可能源自表示、生成、控制或驗證。

| 觀察到的問題 | 第一項診斷 | 必須具備的證據 | 方法 |
| --- | --- | --- | --- |
| 解碼輸出品質不佳,但未知失效階段 | 以相同的外部評估器為來源文本、配對重建結果與生成輸出評分。 | 各階段均採用可比較的分布與尾端行為。 | [分階段瓶頸診斷](https://aogavrilov.com/zh-hant/projects/codec-bottleneck-diagnosis/#workflow) |
| 潛在空間指標有所改善,但最終品質並未提升 | 檢驗代理指標的改善能否延續至解碼之後。 | 採用配對的解碼輸出指標,而非僅依賴潛在表示診斷。 | [代理指標遷移檢查](https://aogavrilov.com/zh-hant/projects/codec-bottleneck-diagnosis/#decision-table) |
| 程式碼編輯器改寫了超出要求範圍的區域 | 明確陳述保存邊界,並量測邊界外區域的差異。 | 同時衡量局部性與任務成功。 | [局部編輯評估](https://aogavrilov.com/zh-hant/projects/discrete-latent-generation/#measurement) |
| 重構必須保留行為,而不只是語法 | 將提案與執行及驗證分開。 | 編譯、測試、靜態檢查與重構偵測。 | [控制介面決策圖](https://aogavrilov.com/zh-hant/projects/discrete-latent-generation/#control-surface) |

目前研究方向

## 離散潛在生成

運用離散表徵選擇性地重新生成程式碼,並依循證據,在受約束生成、AI 輔助重構與可預測的程式碼編輯之間作出選擇。

評估指南

## 編解碼器瓶頸診斷

用以判斷解碼品質究竟受限於重建、潛在變數生成,或無法轉移至最終文本之代理指標的分階段方法。

## 聚焦回答

供不以論文標題為起點之廣泛搜尋使用的獨立證據筆記;每則筆記皆連回相關出版品及其全文。

1. [編碼空間與詞元空間遮罩式擴散:如何比較](https://aogavrilov.com/zh-hant/research-notes/code-space-vs-token-space-masked-diffusion/) 離散編解碼器有損時,用於比較編碼空間與詞元空間遮罩式擴散語言模型的跨階段一致評估協定。
2. [運用生成模型進行局部程式碼修改](https://aogavrilov.com/zh-hant/research-notes/localized-code-modification-generative-models/) 如何避免不必要地改寫整個函式,同時保留足夠自由度,使生成模型得以完成所要求的程式碼變更。
3. [面向軟體工程的受約束程式碼生成](https://aogavrilov.com/zh-hant/research-notes/constrained-code-generation-software-engineering/) 實務上區分生成程式碼的文法約束、型別約束、保留邊界與行為層級驗收檢查。
4. [AI 輔助重構:方法與證據](https://aogavrilov.com/zh-hant/research-notes/ai-assisted-refactoring-evidence/) 如何評估近期的 AI 輔助重構方法,並避免將看似合理的生成修補誤認為已驗證的行為保持。
5. [可預測的程式碼生成需要保留契約](https://aogavrilov.com/zh-hant/research-notes/predictable-code-generation-preservation-contract/) 為何確定性取樣仍不足夠,以及可觀察的受保護性質與驗收檢查如何使程式碼生成行為成為可測試的對象。

## 本站可回答的研究問題

開啟一項實務問題以取得精簡答覆,再循證據連結查閱方法、量測與限制。這些內容是進入本研究的途徑,並非普遍適用的保證。

1. 生成模型如何在不重寫整個函式的情況下修改程式碼? 在生成前界定可編輯邊界,保全或重用邊界以外的原始碼,僅生成候選變更,並拒絕未完成任務或更動受保全區域的輸出。階層式潛在表示鎖定是一種實驗性控制介面,但不保證原始碼範圍完全相同。 [比較局部編輯的控制介面](https://aogavrilov.com/zh-hant/projects/discrete-latent-generation/#control-surface) .
2. 哪些證據能表明程式碼編輯確屬局部變更,而非僅在語法上有效? 除衡量所要求區域以外的差異,也應一併衡量任務成功與否、可編輯區域的變化、結構不變量、測試或靜態檢查,以及重複執行時的變異性。僅憑剖析成功率只能確認語法形式良好。 [檢視局部性證據核對表](https://aogavrilov.com/zh-hant/projects/discrete-latent-generation/#measurement) .
3. 程式碼編輯的局部性應如何與生成多樣性取得平衡? 同時報告受保護區域的穩定性、可編輯區域的自由度,以及候選結果的獨特性。複製輸入雖能使穩定性最大化,卻可能對任務毫無進展;不受限制的改寫則可能使變更最大化,同時破壞局部性。 [查看有界的穩定性—自由度證據](https://aogavrilov.com/zh-hant/projects/discrete-latent-generation/#evidence) .
4. 局部程式碼編輯、受約束生成與程式修復有何差異? 局部編輯著重於哪些內容必須維持不變;受約束生成會強制輸出符合某種形式屬性,例如隸屬特定文法;程式修復則要求變更滿足缺陷或任務規格。僅憑語法無法證明語意等價、功能正確、任務成功或局部性。 [比較三項目標](https://aogavrilov.com/zh-hant/projects/discrete-latent-generation/#comparison) .
5. 如何只重新生成 Python 函式的指定部分,同時維持其餘部分穩定? 生成前先界定受保護區域與可編輯區域,只修改可編輯的表徵,完成解碼後,拒絕任何更動受保護程式碼,或未通過語法、測試、靜態檢查或任務特定不變量的候選結果。文中階層式潛在表徵實驗衡量的是 64 詞元函式上的機率穩定性,並不保證指定範圍或行為維持不變。 [檢視選擇性重新生成工作流程](https://aogavrilov.com/zh-hant/projects/discrete-latent-generation/#workflow) .
6. 何種控制策略適合 AI 輔助的行為保留重構? 使用模型識別或提出轉換;在可行時,再以可信賴的重構引擎執行,並驗證編譯、測試、靜態檢查及預期重構。看似合理的生成修補程式本身並不足以構成證據。 [開啟重構決策列](https://aogavrilov.com/zh-hant/projects/discrete-latent-generation/#control-surface) .
7. 什麼使程式碼生成具可預測性,而不只是可控制? 選擇生成器前,先明定可觀察的保留契約與驗收檢查。可預測性取決於解碼並驗證後哪些內容仍保持穩定,而不只取決於提示、遮罩、文法或潛在碼是否固定。 [界定保留契約](https://aogavrilov.com/zh-hant/projects/discrete-latent-generation/#core-idea) .
8. 在文中所報告的文字實驗中,編碼空間與詞元空間的遮罩式擴散表現如何? 在同一外部評分器下,編碼空間 MDLM 的困惑度中位數為 26.55,詞元空間基準則為 38.42,前者降低 30.9%。然而,編解碼器重建結果的中位數已達 27.36,因此必須結合重建瓶頸來解讀此結果。 [檢視所報告的分階段數值](https://aogavrilov.com/zh-hant/projects/codec-bottleneck-diagnosis/#code-space-vs-token-space) .
9. 編解碼器有損時,應如何比較編碼空間與詞元空間的遮罩式擴散? 對原始文本、編解碼器重建結果、詞元空間輸出與編碼空間輸出,使用相同的留出樣本及解碼文本評分器。重建落差應另行報告,因為即使潛在生成器更強,也無法恢復已被編解碼器移除的資訊。 [以同一評分器比較各階段](https://aogavrilov.com/zh-hant/projects/codec-bottleneck-diagnosis/#code-space-vs-token-space) .
10. 如何診斷兩階段文字生成器的品質損失? 在同一個保持不變的解碼文字評估器下,先衡量原文至重建結果的落差,再衡量重建結果至生成結果的落差。如此可將編解碼器所設下的品質上限,與潛在生成造成的額外劣化區分開來。 [依循四個檢查點的診斷程序](https://aogavrilov.com/zh-hant/projects/codec-bottleneck-diagnosis/#workflow) .
11. 何時較佳的潛在空間指標仍無法改善解碼輸出? 潛在代理指標可能有所改善,卻未能追蹤所關注的下游性質。應解碼相互匹配的輸出,並以相同的最終指標評估,以檢驗改善能否轉移;否則,碼本幾何或使用率僅屬診斷證據,不能視為文本品質的提升。 [採用代理指標轉移診斷](https://aogavrilov.com/zh-hant/projects/codec-bottleneck-diagnosis/#decision-table) .

## 兩組有明確邊界的證據快照

這些數值表明實際量測的項目,並非模型在所有情境下的保證。

### 壓縮診斷

在一項 TinyStories 64-to-16 設定中,困惑度中位數由 **15.17** (來源文本)變為 **27.36** (重建後)。編碼空間 MDLM 達到 **26.55** 相較於 **38.42** ;此為相同外部評分器下的詞元空間基線。

### 可檢視編輯控制

在一項 64 詞元 Python 函式設定中,鎖定四個頂層編碼後,剖析率由 **0.453** 至 **0.591** ,而未鎖定位置的變更率為 **0.936** ,且條件式樣本維持在 **0.998** 唯一。

## 此圖譜未作出的主張

已發布的實驗並未證實可精確保存 AST、達成語意等價、功能正確性或儲存庫規模修復,也未確立編解碼器與生成器瓶頸的普遍次序。這些指南將有界證據轉化為可重複使用的診斷程序;每個新系統仍須各自驗證其解碼輸出及行為層級表現。
