Aktuell inriktning
Diskret latent generering
Diskreta representationer för selektiv regenerering av kod, tillsammans med evidensbaserade val mellan begränsad generering, AI-assisterad refaktorisering och förutsägbar kodredigering.
Utforska projektetUtgå från det observerbara felet och följ sedan den metod, evidens och avgränsning som passar det.
Samma symtom kan härröra från representation, generering, styrning eller verifiering.
| Observerat problem | Första diagnostiken | Belägg som krävs | Metod |
|---|---|---|---|
| Det avkodade resultatet är bristfälligt, men det är okänt vilket steg som fallerar | Poängsätt källtext, motsvarande rekonstruktion och genererat resultat med samma externa utvärderare. | Jämförbara fördelningar och svansbeteenden i varje steg. | Stegvis flaskhalsdiagnos |
| Ett mått i det latenta rummet förbättras, men inte slutkvaliteten | Pröva om förbättringen i proxymåttet kvarstår efter avkodning. | Parvisa mått på avkodad utdata, inte enbart diagnostik i latentrummet. | Kontroll av proxymåttets överförbarhet |
| En kodredigerare skriver om mer än den begärda regionen | Ange en explicit bevarandegräns och mät differensen utanför regionen. | Lokalitet och uppgiftsframgång mäts tillsammans. | Utvärdering av lokal redigering |
| En refaktorering måste bevara beteendet, inte enbart syntaxen | Håll förslag åtskilda från exekvering och verifiering. | Kompilering, tester, statiska kontroller och detektering av refaktorisering. | Beslutskarta för styrningsytor |
Aktuell inriktning
Diskreta representationer för selektiv regenerering av kod, tillsammans med evidensbaserade val mellan begränsad generering, AI-assisterad refaktorisering och förutsägbar kodredigering.
Utforska projektetUtvärderingsguide
En stegvis metod för att avgöra om den avkodade kvaliteten begränsas av rekonstruktionen, den latenta genereringen eller ett proxymått som inte överförs till sluttexten.
Öppna diagnostikguidenFristående evidensanteckningar för bredare sökningar som inte utgår från en artikeltitel. Varje anteckning länkar tillbaka till relevant publikation och fulltext.
Ett stegkonsistent jämförelseprotokoll för maskerade diffusionsspråkmodeller i kod- respektive tokenrum när den diskreta kodeken är informationsförlorande.
Hur onödig omskrivning av hela funktioner kan undvikas, samtidigt som en generativ modell behåller tillräcklig frihet för att genomföra den begärda kodändringen.
En praktisk åtskillnad mellan grammatikbegränsningar, typbegränsningar, bevarandegränser och acceptanskontroller på beteendenivå för genererad kod.
Hur nya metoder för AI-assisterad refaktorering kan utvärderas utan att en plausibel genererad programfix förväxlas med verifierat beteendebevarande.
Varför deterministisk sampling inte är tillräcklig och hur observerbara skyddade egenskaper och acceptanskontroller gör kodgenereringens beteende testbart.
Öppna en praktisk fråga för ett kortfattat svar och följ sedan beläggslänken för metoder, mätningar och begränsningar. Detta är ingångar till forskningen, inte universella garantier.
Definiera redigeringsgränsen före genereringen, bevara eller återanvänd källkod utanför den, generera endast ändringskandidater och förkasta resultat som inte löser uppgiften eller som ändrar skyddade regioner. Hierarkisk latent låsning är en experimentell styrningsyta, men garanterar inte identiska spann i källkoden. Jämför styrningsytor för lokaliserad redigering.
Mät diffen utanför det begärda området tillsammans med uppgiftsframgång, förändringen i det redigerbara området, strukturella invarianter, tester eller statiska kontroller samt variationen mellan upprepade körningar. Enbart parsningstakten fastställer endast syntaktisk välformadhet. Granska checklistan för evidens om lokalitet.
Redovisa de skyddade regionernas stabilitet tillsammans med friheten i den redigerbara regionen och kandidaternas unikhet. Att kopiera indata kan maximera stabiliteten utan att uppgiften förs framåt, medan obegränsad omskrivning kan maximera förändringen men förstöra lokaliteten. Se den avgränsade evidensen för stabilitet och frihet.
Lokal redigering betonar vad som måste förbli oförändrat, villkorsstyrd generering upprätthåller en formell egenskap hos utdata, exempelvis tillhörighet till en grammatik, och programreparation kräver att ändringen uppfyller en fel- eller uppgiftsspecifikation. Enbart syntax bevisar varken semantisk ekvivalens, funktionell korrekthet, uppgiftsframgång eller lokalitet. Jämför de tre målfunktionerna.
Definiera skyddade och redigerbara regioner före genereringen, ändra endast den redigerbara representationen, avkoda och förkasta kandidater som ändrar skyddad kod eller inte klarar syntaxkontroller, tester, statiska kontroller eller uppgiftsspecifika invarianter. Det redovisade experimentet med hierarkiska latenta representationer mäter probabilistisk stabilitet hos funktioner med 64 token; det garanterar inte oförändrade kodavsnitt eller beteenden. Granska arbetsflödet för selektiv omgenerering.
Använd modellen för att identifiera eller föreslå en transformation och utför den därefter, om möjligt, med en betrodd refaktoriseringsmotor. Verifiera kompilering, tester, statiska kontroller och den avsedda refaktoriseringen. En plausibel genererad patch utgör inte tillräcklig evidens. Öppna beslutsraden för refaktorering.
Formulera ett observerbart bevarandekontrakt och acceptanskontroller innan generatorn väljs. Förutsägbarheten beror på vad som förblir stabilt efter avkodning och verifiering, inte enbart på huruvida en prompt, mask, grammatik eller latent kod fixerades. Definiera bevarandekontraktet.
Med samma externa bedömare hade MDLM i kodrymden medianperplexitet 26.55, jämfört med 38.42 för referensmodellen i tokenrymden, vilket motsvarar en minskning med 30.9%. Medianen för kodekrekonstruktionen var redan 27.36, varför resultatet måste tolkas tillsammans med rekonstruktionsflaskhalsen. Granska de redovisade mätvärdena för varje steg.
Använd samma undanhållna sampel och samma bedömare av avkodad text för original, kodekrekonstruktioner, utdata i tokenrymden och utdata i kodrymden. Rapportera rekonstruktionsskillnaden separat, eftersom en starkare latent generator inte kan återvinna information som kodeken redan har avlägsnat. Jämför stegen med en och samma bedömningsmodell.
Mät först skillnaden mellan original och rekonstruktion och därefter skillnaden mellan rekonstruktion och generering med samma oförändrade utvärderare av avkodad text. Därmed särskiljs det kvalitetstak som kodeken sätter från den ytterligare försämring som latentgenereringen medför. Följ diagnostiken med fyra kontrollpunkter.
Ett latent proxymått kan förbättras utan att följa den relevanta efterföljande egenskapen. Pröva överförbarheten genom att avkoda matchade utdata och utvärdera dem med samma slutmått; annars utgör kodbokens geometri eller nyttjande diagnostisk evidens, inte en förbättring av textkvaliteten. Använd diagnostiken för överföring av proxymått.
Dessa tal anger vad som mättes; de utgör inte universella garantier för modellen.
I en TinyStories-konfiguration med komprimering från 64 till 16 steg medianperplexiteten från 15.17 för källtext till 27.36 efter rekonstruktion. MDLM i kodrummet uppnådde 26.55 jämfört med 38.42 för baslinjen i tokenutrymmet med samma externa poängsättare.
Läs artikelns evidensunderlagI en konfiguration med Python-funktioner om 64 token ökade låsning av fyra koder på högsta nivån andelen parsingsbara program från 0.453 till 0.591, medan olåsta positioner ändrades med 0.936 och de villkorade samplen förblev 0.998 unik.
Läs artikelns evidensunderlagDe publicerade experimenten belägger inte exakt bevarande av AST, semantisk ekvivalens, funktionell korrekthet, reparation i repositorieomfattning eller en universell rangordning av flaskhalsar i kodek och generator. Vägledningarna omvandlar avgränsad evidens till återanvändbara diagnostiska procedurer; varje nytt system kräver fortfarande egen validering av avkodade utdata och beteende.