Aktiv retning
Diskret latent generering
Diskrete representasjoner for selektiv regenerering av kode, sammen med evidensbaserte valg mellom begrenset generering, KI-assistert refaktorering og forutsigbar koderedigering.
Utforsk prosjektetBegynn med feilen du kan observere, og følg deretter metoden, evidensen og avgrensningen som passer.
Det samme symptomet kan skyldes representasjon, generering, kontroll eller verifikasjon.
| Observert problem | Første diagnostikk | Påkrevd dokumentasjon | Metode |
|---|---|---|---|
| Det dekodede resultatet er svakt, men det er ukjent hvilket trinn som svikter | Skår kilden, den tilhørende rekonstruksjonen og det genererte resultatet med den samme eksterne evaluatoren. | Sammenlignbare fordelinger og haleatferd på hvert trinn. | Trinnvis diagnostikk av flaskehalser |
| En metrikk i latentrommet forbedres, men sluttkvaliteten gjør det ikke | Undersøk om forbedringen i surrogatmålet består etter dekoding. | Parede måleverdier for dekodede resultater, ikke bare latentdiagnostikk. | Kontroll av proxyoverføring |
| Et koderedigeringssystem skriver om mer enn den forespurte regionen | Angi en eksplisitt bevaringsgrense og mål differansen utenfor regionen. | Lokalitet og oppgavesuksess måles samlet. | Evaluering av lokalisert redigering |
| En refaktorering må bevare atferd, ikke bare syntaks | Skill forslag fra utførelse og verifikasjon. | Kompilering, tester, statiske kontroller og deteksjon av refaktorering. | Beslutningskart for kontrollflater |
Aktiv retning
Diskrete representasjoner for selektiv regenerering av kode, sammen med evidensbaserte valg mellom begrenset generering, KI-assistert refaktorering og forutsigbar koderedigering.
Utforsk prosjektetEvalueringsveiledning
En trinnvis metode for å avgjøre om kvaliteten etter dekoding begrenses av rekonstruksjonen, genereringen i latentrommet eller et surrogatmål som ikke samsvarer med sluttteksten.
Åpne diagnoseveiledningenSelvstendige forskningsnotater for bredere søk som ikke begynner med en artikkeltittel. Hvert notat leder tilbake til den relevante publikasjonen og fullteksten.
En trinnkonsistent sammenligningsprotokoll for maskerte diffusjonsspråkmodeller i kode- og tokenrom når den diskrete kodeken er tapsbringende.
Hvordan unngå unødvendig omskriving av hele funksjoner, samtidig som en generativ modell beholder tilstrekkelig frihet til å utføre den ønskede kodeendringen.
Et praktisk skille mellom grammatikkbegrensninger, typebegrensninger, bevaringsgrenser og akseptkontroller på atferdsnivå for generert kode.
Hvordan nyere metoder for KI-assistert refaktorering kan evalueres uten å forveksle en plausibel generert endring med verifisert bevaring av atferd.
Hvorfor deterministisk sampling ikke er nok, og hvordan observerbare beskyttede egenskaper og akseptkontroller gjør kodegeneratorens atferd testbar.
Åpne et praktisk spørsmål for å få et kortfattet svar, og følg deretter evidenslenken for metoder, målinger og begrensninger. Dette er innganger til forskningen, ikke universelle garantier.
Definer bevaringsgrensen før generering, bevar eller gjenbruk kildekoden utenfor det redigerbare området, generer bare endringskandidater, og forkast resultater som ikke løser oppgaven eller som endrer beskyttede områder. Hierarkisk låsing i latentrommet er én eksperimentell kontrollflate, men garanterer ikke identiske spenn i kildekoden. Sammenlign kontrollflater for lokalisert redigering.
Mål differansen utenfor det ønskede området sammen med oppgaveløsning, endring i det redigerbare området, strukturelle invarianter, tester eller statiske kontroller og variasjon mellom gjentatte kjøringer. Parseraten alene fastslår bare syntaktisk velformethet. Gå gjennom sjekklisten for evidens om lokalitet.
Rapporter stabiliteten i det beskyttede området sammen med friheten i det redigerbare området og kandidatenes unikhet. Kopiering av inndataene kan maksimere stabiliteten uten å gi fremdrift i oppgaven, mens ubegrenset omskriving kan maksimere endringen og samtidig ødelegge lokaliteten. Se den avgrensede evidensen for stabilitet og frihet.
Lokalisert redigering fremhever hva som må forbli uendret, begrenset generering håndhever en formell egenskap ved utdataene, for eksempel tilhørighet til en grammatikk, og programreparasjon krever at endringen oppfyller en feil- eller oppgavespesifikasjon. Syntaks alene dokumenterer verken semantisk ekvivalens, funksjonell korrekthet, vellykket oppgaveløsning eller lokalitet. Sammenlign de tre målfunksjonene.
Definer beskyttede og redigerbare områder før generering, endre bare den redigerbare representasjonen, dekod og forkast kandidater som endrer beskyttet kode eller ikke oppfyller krav til syntaks, tester, statiske kontroller eller oppgavespesifikke invarianter. Det rapporterte eksperimentet med hierarkiske latentvariabler måler probabilistisk stabilitet for funksjoner på 64 token; det garanterer verken uendrede spenn eller uendret atferd. Undersøk arbeidsflyten for selektiv regenerering.
Bruk modellen til å identifisere eller foreslå en transformasjon. Utfør den deretter om mulig med en pålitelig refaktoreringsmotor, og kontroller kompilering, tester, statiske analyser og den tiltenkte refaktoreringen. En plausibel generert endring er ikke tilstrekkelig evidens. Åpne beslutningsraden for refaktorering.
Angi en observerbar bevaringskontrakt og akseptansekontroller før generatoren velges. Forutsigbarhet avhenger av hva som forblir stabilt etter dekoding og verifikasjon, ikke bare av om en prompt, maske, grammatikk eller latent kode ble låst. Definer bevaringskontrakten.
Med den samme eksterne skåringsmodellen hadde MDLM i koderommet en median perpleksitet på 26.55, mot 38.42 for referansemodellen i tokenrommet, en reduksjon på 30.9%. Medianen for kodekrekonstruksjonen var allerede 27.36, så resultatet må tolkes i sammenheng med rekonstruksjonsflaskehalsen. Undersøk de rapporterte tallene for hvert trinn.
Bruk de samme hold-out-eksemplene og den samme skåringsmodellen for dekodet tekst på originaler, kodekrekonstruksjoner samt resultater fra token- og koderommet. Rapporter rekonstruksjonsavviket separat, fordi en sterkere latent generator ikke kan gjenskape informasjon som kodeken allerede har fjernet. Sammenlign trinnene med én evalueringsmodell.
Mål først avviket fra original til rekonstruksjon og deretter avviket fra rekonstruksjon til generering med én uendret evaluator for dekodet tekst. Slik skilles kvalitetstaket som kodeken pålegger, fra ytterligere forringelse som latentgenereringen tilfører. Følg diagnostikken med fire kontrollpunkter.
Et surrogatmål i latentrommet kan forbedres uten å følge den relevante egenskapen i sluttresultatet. Undersøk overføringen ved å dekode sammenlignbare resultater og evaluere dem med de samme sluttmålene; ellers er kodebokgeometri eller -utnyttelse fortsatt diagnostisk dokumentasjon, ikke en forbedring av tekstkvaliteten. Bruk diagnosen for overføring av proksymål.
Tallene angir hva som ble målt; de utgjør ikke universelle garantier for modellen.
I én TinyStories-konfigurasjon med komprimering fra 64 til 16 steg median perpleksitet fra 15.17 for kildetekst til 27.36 etter rekonstruksjon. MDLM i koderommet oppnådde 26.55 mot 38.42 for referansenivået i tokenrommet med den samme eksterne skåringsmodellen.
Les evidensgrunnlaget for artikkelenI én konfigurasjon med Python-funksjoner på 64 tokener økte låsing av fire koder på øverste nivå parseraten fra 0.453 til 0.591, mens ulåste posisjoner ble endret med 0.936 og de betingede prøvene var fortsatt 0.998 unik.
Les evidensgrunnlaget for artikkelenDe publiserte eksperimentene dokumenterer ikke eksakt bevaring av AST, semantisk ekvivalens, funksjonell korrekthet, reparasjon på repositorienivå eller en universell rangering av flaskehalser i kodek og generator. Veiledningene omformer avgrenset evidens til gjenbrukbare diagnostiske prosedyrer; hvert nytt system krever fortsatt egen validering av dekodede resultater og virkemåte.