# מיזמי מחקר

Canonical HTML: https://aogavrilov.com/he/projects/

Document language: he

יש להתחיל בכשל הניתן לצפייה, ולאחר מכן לבחור בשיטה, בראיות ובגבול התחולה המתאימים לו.

## בחרו לפי הכשל שנצפה

אותו תסמין עשוי לנבוע מן הייצוג, היצירה, השליטה או האימות.

| הבעיה שנצפתה | אבחון ראשון | הראיות הנדרשות | שיטה |
| --- | --- | --- | --- |
| הפלט המפוענח ירוד, אך לא ידוע באיזה שלב אירע הכשל | יש להעריך את המקור, את השחזור המזווג ואת הפלט שנוצר באמצעות אותו מעריך חיצוני. | התפלגויות בנות־השוואה והתנהגות זנב בכל שלב. | [אבחון מדורג של צוואר הבקבוק](https://aogavrilov.com/he/projects/codec-bottleneck-diagnosis/#workflow) |
| מדד במרחב הלטנטי משתפר, אך האיכות הסופית אינה משתפרת | יש לבדוק אם השיפור במדד העקיף נשמר לאחר הפענוח. | מדדים מזווגים של הפלט המפוענח, ולא אבחונים לטנטיים בלבד. | [בדיקת העברה של מדד עקיף](https://aogavrilov.com/he/projects/codec-bottleneck-diagnosis/#decision-table) |
| עורך קוד משכתב מעבר לאזור שהתבקש | יש להגדיר גבול שימור מפורש ולמדוד את ההבדל מחוץ לאזור. | מקומיות והצלחה במשימה נמדדות יחד. | [הערכת עריכה מקומית](https://aogavrilov.com/he/projects/discrete-latent-generation/#measurement) |
| ארגון קוד מחדש חייב לשמר התנהגות, ולא רק תחביר | יש להפריד בין ההצעה לבין הביצוע והאימות. | הידור, בדיקות, בדיקות סטטיות וזיהוי שכתוב. | [מפת החלטה לבחירת ממשק שליטה](https://aogavrilov.com/he/projects/discrete-latent-generation/#control-surface) |

כיוון פעיל

## יצירה במרחב סמוי בדיד

ייצוגים בדידים ליצירה בררנית מחדש של קוד, לצד בחירה מונחית־ראיות בין יצירה תחת אילוצים, ארגון קוד מחדש בסיוע בינה מלאכותית ועריכת קוד ניתנת לחיזוי.

מדריך הערכה

## אבחון צוואר הבקבוק בקודק

שיטה מדורגת לקביעה אם איכות הפענוח מוגבלת בידי השחזור, היצירה הלטנטית או מדד עקיף שאינו מועבר לטקסט הסופי.

## תשובות ממוקדות

רשומות ראיות עצמאיות לחיפושים רחבים שאינם מתחילים בכותרת מאמר. כל אחת מהן מפנה חזרה לפרסום הרלוונטי ולטקסט המלא.

1. [דיפוזיה ממוסכת במרחב הקוד לעומת מרחב האסימונים: כיצד להשוות ביניהן](https://aogavrilov.com/he/research-notes/code-space-vs-token-space-masked-diffusion/) פרוטוקול השוואה עקבי בין שלבים למודלי שפה בדיפוזיה ממוסכת במרחב הקוד ובמרחב האסימונים, כאשר הקודק הבדיד מאבד מידע.
2. [שינוי מקומי של קוד באמצעות מודלים גנרטיביים](https://aogavrilov.com/he/research-notes/localized-code-modification-generative-models/) כיצד למנוע שכתוב מיותר של פונקציה שלמה, ובה בעת להותיר למודל גנרטיבי חופש מספיק לבצע את שינוי הקוד המבוקש.
3. [יצירת קוד תחת אילוצים להנדסת תוכנה](https://aogavrilov.com/he/research-notes/constrained-code-generation-software-engineering/) הבחנה מעשית בין אילוצי דקדוק, אילוצי טיפוסים, גבולות שימור ובדיקות קבלה ברמת ההתנהגות עבור קוד שנוצר.
4. [ארגון קוד מחדש בסיוע AI: שיטות וראיות](https://aogavrilov.com/he/research-notes/ai-assisted-refactoring-evidence/) כיצד להעריך שיטות עדכניות לארגון קוד מחדש בסיוע בינה מלאכותית, בלי לבלבל בין טלאי שנוצר ונראה סביר לבין שימור מאומת של ההתנהגות.
5. [יצירת קוד ניתנת לחיזוי מחייבת חוזה שימור](https://aogavrilov.com/he/research-notes/predictable-code-generation-preservation-contract/) מדוע דגימה דטרמיניסטית אינה מספיקה, וכיצד תכונות מוגנות בנות־צפייה ובדיקות קבלה הופכות את התנהגותה של מערכת ליצירת קוד לניתנת לבדיקה.

## שאלות המחקר שאתר זה יכול להשיב עליהן

פתחו שאלה מעשית לקבלת תשובה תמציתית, ולאחר מכן עברו לקישור הראיות לעיון בשיטות, במדידות ובמגבלות. אלה נתיבי כניסה למחקר, לא הבטחות אוניברסליות.

1. כיצד יכול מודל גנרטיבי לשנות קוד בלי לכתוב מחדש את הפונקציה כולה? הגדירו את הגבול הניתן לעריכה לפני היצירה, שמרו את קוד המקור שמחוץ לו או השתמשו בו מחדש, צרו רק שינויי מועמדים ודחו פלטים שנכשלים במשימה או משנים אזורים מוגנים. נעילה לטנטית היררכית היא ממשק שליטה ניסויי אחד, אך היא אינה מבטיחה טווחים זהים בקוד המקור. [השוואת ממשקי שליטה לעריכה מקומית](https://aogavrilov.com/he/projects/discrete-latent-generation/#control-surface) .
2. אילו ראיות מראות שעריכת קוד היא מקומית ולא רק תקפה מבחינה תחבירית? יש למדוד את ההבדל מחוץ לאזור המבוקש לצד הצלחת המשימה, השינוי באזור הניתן לעריכה, אינווריאנטים מבניים, בדיקות או ניתוחים סטטיים, והשונות בין הרצות חוזרות. שיעור הניתוח התחבירי לבדו מעיד רק על תקינות תחבירית. [עיון ברשימת התיוג לראיות בדבר מקומיות](https://aogavrilov.com/he/projects/discrete-latent-generation/#measurement) .
3. כיצד יש לאזן בין מקומיות עריכת הקוד לבין גיוון ביצירה? יש לדווח על יציבות האזור המוגן לצד חופש הפעולה באזור הניתן לעריכה וייחודיות המועמדים. העתקת הקלט עשויה למקסם יציבות בלי לקדם את המשימה כלל; שכתוב בלתי מוגבל עשוי למקסם שינוי תוך הרס המקומיות. [לעיון בראיות התחומות ליציבות ולחופש](https://aogavrilov.com/he/projects/discrete-latent-generation/#evidence) .
4. במה נבדלים עריכת קוד מקומית, יצירה תחת אילוצים ותיקון תוכניות? עריכה מקומית מדגישה את מה שחייב להישאר ללא שינוי; יצירה תחת אילוצים אוכפת תכונה פורמלית של הפלט, כגון השתייכות לדקדוק; ותיקון תוכניות מחייב שהשינוי יעמוד במפרט של ליקוי או משימה. תחביר לבדו אינו מוכיח שקילות סמנטית, נכונות תפקודית, הצלחה במשימה או מקומיות. [השוואת שלוש המטרות](https://aogavrilov.com/he/projects/discrete-latent-generation/#comparison) .
5. כיצד אפשר ליצור מחדש חלקים נבחרים של פונקציית Python, תוך שמירה על יציבות שאר הפונקציה? הגדירו לפני היצירה אזורים מוגנים ואזורים הניתנים לעריכה, שנו רק את הייצוג הניתן לעריכה, פענחו ודחו מועמדים שמשנים קוד מוגן או נכשלים בתחביר, בבדיקות, בבדיקות סטטיות או באינווריאנטים ייחודיים למשימה. הניסוי המדווח במשתנים לטנטיים היררכיים מודד יציבות הסתברותית בפונקציות בנות 64 אסימונים; הוא אינו מבטיח שטווחי הקוד או ההתנהגות יישארו ללא שינוי. [בחינת תהליך העבודה ליצירה בררנית מחדש](https://aogavrilov.com/he/projects/discrete-latent-generation/#workflow) .
6. איזו אסטרטגיית בקרה מתאימה לשכתוב קוד בסיוע AI המשמר התנהגות? יש להשתמש במודל כדי לזהות התמרה או להציעה, ולאחר מכן, ככל האפשר, לבצע אותה באמצעות מנוע שכתוב קוד מהימן ולאמת הידור, בדיקות, ניתוחים סטטיים ואת השכתוב המיועד. טלאי שנוצר ונראה סביר אינו בגדר ראיה מספקת. [פתיחת שורת ההחלטה על ארגון הקוד מחדש](https://aogavrilov.com/he/projects/discrete-latent-generation/#control-surface) .
7. מה הופך יצירת קוד לצפויה ולא רק לניתנת לבקרה? לפני בחירת המחולל יש להגדיר חוזה שימור הניתן לצפייה ובדיקות קבלה. יכולת החיזוי תלויה במה שנותר יציב לאחר הפענוח והאימות, ולא רק בשאלה אם קובעו הנחיה, מסכה, דקדוק או קוד לטנטי. [הגדרת חוזה השימור](https://aogavrilov.com/he/projects/discrete-latent-generation/#core-idea) .
8. כיצד השתוו דיפוזיה ממוסכת במרחב הקוד ודיפוזיה ממוסכת במרחב האסימונים בניסוי הטקסט המדווח? לפי אותו מעריך חיצוני, חציון המבוכה של MDLM במרחב הקוד היה 26.55, לעומת 38.42 בקו הבסיס שבמרחב האסימונים — הפחתה של 30.9%. חציון המבוכה של שחזור הקודק כבר היה 27.36, ולכן יש לפרש את התוצאה לצד צוואר הבקבוק של השחזור. [בחינת הנתונים המדווחים לפי שלב](https://aogavrilov.com/he/projects/codec-bottleneck-diagnosis/#code-space-vs-token-space) .
9. כיצד יש להשוות בין דיפוזיה ממוסכת במרחב הקוד לבין דיפוזיה ממוסכת במרחב האסימונים כאשר הקודק מאבד מידע? יש להשתמש באותן דגימות שהוחזקו בצד ובאותו מעריך טקסט מפוענח עבור המקורות, שחזורי הקודק, הפלטים במרחב האסימונים והפלטים במרחב הקוד. יש לדווח בנפרד על פער השחזור, משום שמחולל חבוי חזק יותר אינו יכול להשיב מידע שכבר הוסר בידי הקודק. [השוואת השלבים באמצעות מעריך ניקוד אחד](https://aogavrilov.com/he/projects/codec-bottleneck-diagnosis/#code-space-vs-token-space) .
10. כיצד אפשר לאבחן ירידה באיכות במחולל טקסט דו־שלבי? יש למדוד תחילה את הפער בין המקור לשחזור, ורק אחר כך את הפער בין השחזור ליצירה, באמצעות מעריך יחיד ובלתי משתנה של הטקסט המפוענח. כך ניתן להבחין בין תקרת האיכות שכופה הקודק לבין הידרדרות נוספת שמקורה ביצירה הלטנטית. [ביצוע האבחון בן ארבע נקודות הביקורת](https://aogavrilov.com/he/projects/codec-bottleneck-diagnosis/#workflow) .
11. מתי מדדים טובים יותר במרחב החבוי עלולים שלא לשפר את הפלט המפוענח? מדד עקיף במרחב הלטנטי עשוי להשתפר בלי לעקוב אחר תכונת היעד בהמשך הצינור. יש לבדוק העברה באמצעות פענוח פלטים תואמים והערכתם באותם מדדים סופיים; אחרת, הגאומטריה או הניצול של ספר הקודים נותרים ראיה אבחונית ולא שיפור באיכות הטקסט. [יש להשתמש באבחון העברת מדדי העקיפין](https://aogavrilov.com/he/projects/codec-bottleneck-diagnosis/#decision-table) .

## שתי תמונות מצב תחומות של הראיות

מספרים אלה מציינים מה נמדד; אין הם בגדר ערבויות אוניברסליות למודל.

### אבחון דחיסה

בתצורת 64-to-16 אחת של TinyStories, חציון המבוכה עלה מ־ **15.17** בטקסט המקור ל־ **27.36** לאחר השחזור. MDLM במרחב הקודים הגיע ל־ **26.55** לעומת **38.42** בקו הבסיס של מרחב הטוקנים, תחת אותו מעריך חיצוני.

### בקרת עריכה הניתנת לבחינה

בתצורה אחת של פונקציות Python בנות 64 אסימונים, נעילת ארבעה קודים ברמה העליונה העלתה את שיעור הניתוח התחבירי מ־ **0.453** אל **0.591** , ואילו המיקומים שלא ננעלו השתנו בשיעור **0.936** והדגימות המותנות נותרו **0.998** ייחודי.

## מה מפה זו אינה טוענת

הניסויים שפורסמו אינם מבססים שימור מדויק של AST, שקילות סמנטית, נכונות תפקודית, תיקון בקנה מידה של מאגר או סדר אוניברסלי של צווארי הבקבוק בקודק ובמחולל. המדריכים הופכים ראיות תחומות להליכי אבחון ניתנים לשימוש חוזר; כל מערכת חדשה עדיין מחייבת אימות משלה לפלט המפוענח וברמת ההתנהגות.