# Where Quality Breaks in Compressed Short-Text Generation: Staged Bottleneck Localization

Canonical HTML: https://aogavrilov.com/te/publications/where-quality-breaks/

Document language: te

సంపీడిత స్వల్ప-పాఠ్య ఉత్పాదనలో నాణ్యత ఎక్కడ దెబ్బతింటుంది: దశలవారీ అవరోధ స్థానీకరణ

కోడెక్ పునర్నిర్మాణ నష్టాన్ని గుప్త-ఉత్పాదన నష్టం నుంచి వేరు చేసే సంపీడిత స్వల్ప-పాఠ్య ఉత్పాదన దశలవారీ నిర్ధారణ.

[Alexey Gavrilov](https://orcid.org/0009-0006-3147-5430) 1 [Alan-Barsag Gazzaev](https://orcid.org/0009-0000-0334-312X) 1 [Sergey Muravyov](https://orcid.org/0000-0002-4251-1744) 1

1. [ITMO University, Saint Petersburg, Russia](https://en.itmo.ru/)

[పూర్తి పత్రాన్ని HTMLలో చదవండి](https://aogavrilov.com/publications/where-quality-breaks/full-text/) సూత్రాలు, పట్టికలు, బొమ్మలు, సూచనలతో కూడిన శోధించదగిన పాఠ్యం.

చివరిగా ఆమోదించిన మాన్యుస్క్రిప్ట్ (రచయిత ప్రచురించిన DOIతో కూడిన సంచిక). © 2026 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses, in any current or future media, including reprinting or republishing this material for advertising or promotional purposes, creating new collective works, for resale or redistribution to servers or lists, or reuse of any copyrighted component of this work in other works. [ప్రచురణ, పునర్వినియోగ నిబంధనలు](https://journals.ieeeauthorcenter.ieee.org/become-an-ieee-journal-author/publishing-ethics/guidelines-and-policies/post-publication-policies/) .

## 30 సెకన్లలో పత్రం

**పరిశోధనా ప్రశ్న** సంకుచిత పాఠ్య-ఉత్పాదన పైప్‌లైన్‌లోని నాణ్యత నష్టాన్ని కోడెక్‌కు, గుప్త ఉత్పాదకానికి విడివిడిగా ఎలా ఆపాదించవచ్చు?

### సమస్య

సంకుచిత స్వల్ప-పాఠ్య ఉత్పాదనలో, నాసిరకంగా డీకోడ్ అయిన పాఠ్యం కోడెక్ కోల్పోయిన సమాచారం వల్లగానీ, బలహీనమైన గుప్త-స్థల ఉత్పాదన వల్లగానీ రావచ్చు. అంత్యాది స్కోర్లు ఈ వైఫల్య రీతుల మధ్య భేదాన్ని మసకబార్చి, అనుకూలీకరణ ప్రయత్నాన్ని తప్పు భాగంపై కేంద్రీకరింపజేయవచ్చు.

### విధానం

దశలవారీ ప్రోటోకాల్ మూల పాఠాలు, జత కోడెక్ పునర్నిర్మాణాలు, టోకెన్-స్థల MDLM అవుట్‌పుట్‌లు, కోడ్-స్థల వ్యాప్తి అవుట్‌పుట్‌లకు ఒక బాహ్య GPT-2 మూల్యాంకనకర్తతో స్కోరు ఇస్తుంది. కోడ్‌బుక్, జ్యామితి కొలతలు డీకోడ్ చేసిన పాఠ్య నాణ్యతకు ప్రత్యామ్నాయాలు కాకుండా నిర్ధారణ సాధనాలుగానే ఉంటాయి.

### ప్రధాన ఫలితం

కోడెక్ పునర్నిర్మాణం మధ్యస్థ బాహ్య పర్ప్లెక్సిటీని 15.17 నుంచి 27.36కు, p95ను 25.10 నుంచి 98.91కు పెంచుతుంది. అయినప్పటికీ, టోకెన్-స్థల MDLMతో పోలిస్తే కోడ్-స్థల MDLM మధ్యస్థ పర్ప్లెక్సిటీని 30.9% తగ్గిస్తుంది.

### ఇది ఎందుకు ముఖ్యం

ఈ ఫలితం కోడెక్ అవరోధ నిర్ధారణను ఆచరణయోగ్య కార్యక్రమంగా మారుస్తుంది: ముందుగా కోడెక్‌ను మెరుగుపరచాలి; తరువాత టోకెన్-స్థల, కోడ్-స్థల ఉత్పాదనలను పోల్చాలి; డీకోడ్ చేసిన పాఠ్యం కూడా మెరుగుపడినప్పుడే గుప్త ప్రత్యామ్నాయ కొలమానాల లాభాలను విశ్వసించాలి.

## సారాంశం

సంపీడిత స్వల్ప-పాఠ్య ఉత్పాదకాలు రెండు వేర్వేరు చోట్ల విఫలం కావచ్చు: ఉత్పాదన మొదలవకముందే కోడెక్ సమాచారాన్ని తొలగించవచ్చు లేదా గుప్త ఉత్పాదకం బలహీన కోడ్‌లను రూపొందించవచ్చు. ఈ వైఫల్య రీతులను వేరు చేయకపోతే, పరిశోధకులు తప్పు భాగాన్ని మెరుగుపరచడానికి గణన వనరులను వెచ్చించే ప్రమాదం ఉంది. క్రమానుగత VQ-VAE-2 కోడెక్, మాస్క్‌డ్ వివిక్త డిఫ్యూజన్ ఉత్పాదకం (MDLM)తో నిర్మించిన నియంత్రిత 64-నుంచి-16 TinyStories కేస్ అధ్యయనంలో ఈ సమస్యను పరిశీలించాము. ఒకే ఉమ్మడి బాహ్య GPT-2 స్కోరర్ కింద కోడెక్ పునర్నిర్మాణ యథార్థత, గుప్త ఉత్పాదన నాణ్యత, సహాయక గుప్త నిర్ధారణలను వేరు చేసే దశలవారీ ధ్రువీకరణ ప్రోటోకాల్‌ను ఉపయోగించాము; జ్యామితి అధ్యయనానికి పూరక అర్థసంబంధ కొలమానాలను కూడా నివేదించాము. పరీక్షించిన అమరికలో, కోడెక్ పునర్నిర్మాణం మాత్రమే మధ్యస్థ బాహ్య పర్ప్లెక్సిటీని 15.17 నుంచి 27.36కు (+80.4%), p95ను 25.10 నుంచి 98.91కు (+294.1%) పెంచింది; ప్రధాన నాణ్యత నష్టం గుప్త ఉత్పాదన ప్రారంభానికి ముందే సంభవిస్తుందని ఇది సూచిస్తుంది. అదే స్కోరర్ కింద, టోకెన్-స్థల డిఫ్యూజన్ కంటే కోడ్-స్థల MDLM గణనీయంగా బలంగా ఉండి, సగటు, మధ్యస్థం, p95లను వరుసగా 32.9%, 30.9%, 36.6% తగ్గించింది. జ్యామితి-అవగాహన నియమీకరణ స్థానిక గుప్త ప్రాక్సీలను మెరుగుపరుస్తుంది గానీ, అందుబాటులోని ప్రయోగాల్లో డీకోడ్ చేసిన పాఠ్య కొలమానాలను మెరుగుపరచలేదు. ఈ కృషి అల్గోరిథమిక్ కంటే పద్ధతిశాస్త్ర సంబంధమైనది: ఒక నిర్దిష్ట పైప్‌లైన్‌కు పునర్వినియోగించదగిన దశలవారీ నిర్ధారణను పత్రం అందిస్తుంది; ఈ అమరికలో ఆచరణాత్మక నాణ్యత గరిష్ఠ పరిమితిని గుప్త డీనాయిజింగ్ కాక కోడెక్ యథార్థత నిర్ణయిస్తుందని చూపుతుంది.

ప్రచురిత వేదిక 2026 39th Conference of Open Innovations Association (FRUCT)

కృషి రకం నిర్ధారణ పద్ధతిశాస్త్రం

ఏప్రిల్ 28, 2026 సంచిక 1 pp. 69–76 ప్రధాన సదస్సు

DOI [https://doi.org/10.23919/FRUCT70069.2026.11506553](https://doi.org/10.23919/FRUCT70069.2026.11506553)

## విషయసూచిక ఈ పేజీలో

## కీలక ఫలితాలు

| మూల్యాంకన స్థానం | n | సగటు PPL | మధ్యమాన PPL | p95 PPL |
| --- | --- | --- | --- | --- |
| మూల పాఠ్యాలు | 256 | 16.24 | 15.17 | 25.1 |
| కోడెక్ పునర్నిర్మాణాలు | 256 | 37.26 | 27.36 | 98.91 |
| AR ప్రాతిపదిక | 251 | 30.98 | 23.27 | 56.11 |
| టోకెన్-స్థల MDLM | 256 | 44.74 | 38.42 | 93.6 |
| కోడ్-స్థల MDLM | 256 | 30.01 | 26.55 | 59.36 |

**కీలక ఫలితం.** గమనించిన నాణ్యత నష్టంలో అధిక భాగం ఉత్పత్తికి ముందే కలుగుతుంది; అయినప్పటికీ టోకెన్-స్థల విసరణతో పోలిస్తే కోడ్-స్థల విసరణ మధ్యమాన పర్ప్లెక్సిటీని 30.9% తగ్గిస్తుంది.

ఫలితాలను డౌన్‌లోడ్ చేయండి: [CSV](https://aogavrilov.com/publications/where-quality-breaks/results.csv) [JSON](https://aogavrilov.com/publications/where-quality-breaks/results.json) [మార్క్‌డౌన్](https://aogavrilov.com/publications/where-quality-breaks/results.md) బాహ్య ప్రతిబింబం: [Hugging Face డేటాసెట్ కార్డు](https://huggingface.co/datasets/aogavrilov/where-quality-breaks-results)

## PDF మరియు ఉదహరణ

**ఈ పరిశోధన పత్రాన్ని ఉల్లేఖించండి** BibTeX సిఫారసు చేసిన ఆకృతి. దిగువనున్న ప్రతి రూపాంతరం ఒకే ప్రచురణ రికార్డు నుంచి రూపొందించబడింది.

```
@inproceedings{Gavrilov2026WhereQuality,
  title      = {Where Quality Breaks in Compressed Short-Text Generation: Staged Bottleneck Localization},
  author     = {Gavrilov, Alexey and Gazzaev, Alan-Barsag and Muravyov, Sergey},
  booktitle  = {2026 39th Conference of Open Innovations Association (FRUCT)},
  publisher  = {IEEE},
  year       = {2026},
  pages      = {69--76},
  doi        = {10.23919/FRUCT70069.2026.11506553},
  url        = {https://doi.org/10.23919/FRUCT70069.2026.11506553},
  isbn       = {978-952-65246-5-8},
}
```

ఉల్లేఖన ఫైళ్లు: [APA పాఠ్యం](https://aogavrilov.com/publications/where-quality-breaks/citation-apa.txt) [IEEE పాఠ్యం](https://aogavrilov.com/publications/where-quality-breaks/citation-ieee.txt) [RIS](https://aogavrilov.com/publications/where-quality-breaks/citation.ris) [CSL-JSON](https://aogavrilov.com/publications/where-quality-breaks/citation.json) [Schema.org JSON-LD](https://aogavrilov.com/publications/where-quality-breaks/metadata.jsonld) [OAI-DC XML](https://aogavrilov.com/publications/where-quality-breaks/oai-dc.xml) [OpenAIRE v4 XML](https://aogavrilov.com/publications/where-quality-breaks/openaire.xml) [MODS XML](https://aogavrilov.com/publications/where-quality-breaks/mods.xml) [JATS 1.4 మెటాడేటా XML](https://aogavrilov.com/publications/where-quality-breaks/metadata.jats.xml) [సంపూర్ణ-పాఠ్య JATS 1.4 XML](https://aogavrilov.com/publications/where-quality-breaks/full-text/article.jats.xml) [RDF Turtle](https://aogavrilov.com/publications/where-quality-breaks/metadata.ttl) [లింక్ సమితి (JSON)](https://aogavrilov.com/publications/where-quality-breaks/linkset.json) [లింక్ సమితి (HTTP)](https://aogavrilov.com/publications/where-quality-breaks/linkset) [RO-Crate](https://aogavrilov.com/publications/where-quality-breaks/ro-crate-metadata.json)

DOI: [https://doi.org/10.23919/FRUCT70069.2026.11506553](https://doi.org/10.23919/FRUCT70069.2026.11506553)

సంపూర్ణ మార్గదర్శిని

## సంపూర్ణ పరిశోధనా మార్గదర్శిని

## పద్ధతి

## 

ప్రతి అదనపు పరివర్తనను కొలవదగిన నాణ్యత అంతరంతో అనుసంధానించేందుకు ఈ పరిశోధన పత్రం మూడు మూల్యాంకన దశలన్నింటిలో ఒకే స్కోరర్‌ను ఉపయోగిస్తుంది.

1. పునర్నిర్మించండి కోడెక్ పునర్నిర్మాణ నష్టాన్ని కొలవడానికి, ప్రతి 64-token TinyStories నమూనాను 16 ఉన్నత-స్థాయి కోడ్‌లుగా ఎన్‌కోడ్ చేసి వెంటనే డీకోడ్ చేయండి.
2. ఉత్పాదించండి MDLMతో పాఠ్య టోకెన్‌లను లేదా వివిక్త గుప్త సంకేతాలను ఉత్పాదించి, ఆపై అదే శిక్షణ పొందిన కోడెక్ ద్వారా కోడ్-స్థల నమూనాలను డీకోడ్ చేయండి.
3. పోల్చండి మధ్యగత, టెయిల్ గణాంకాలతో సహా, ఒకే బాహ్య GPT-2 ప్రోటోకాల్‌తో మూల పాఠ్యాలు, పునర్నిర్మాణాలు, జనిత పాఠ్యాలకు స్కోర్లు కేటాయించండి.

![మూల పాఠ్యం, కోడెక్ పునర్నిర్మాణం, కోడ్-స్థల MDLM, డీకోడ్ చేసిన పాఠ్యాన్ని పోల్చి కోడెక్ నష్టాన్ని ఉత్పాదన నష్టం నుంచి వేరు చేసే దశలవారీ సంపీడిత-పాఠ్య ఉత్పాదన పైప్‌లైన్.](https://aogavrilov.com/publications/where-quality-breaks/staged-codec-bottleneck-localization.svg)

**దశలవారీ అవరోధ స్థానీకరణ, ఒకే ఉమ్మడి డీకోడ్-పాఠ్య మూల్యాంకన ప్రోటోకాల్ కింద కోడెక్ పునర్నిర్మాణ నష్టాన్ని గుప్త-ఉత్పాదన నష్టం నుంచి వేరు చేస్తుంది.* మూలం: [ప్రచురిత పద్ధతి, ఫలితాల ఆధారంగా రచయిత రూపొందించిన వివరణాత్మక రేఖాచిత్రం.](https://doi.org/10.23919/FRUCT70069.2026.11506553) . పునర్వినియోగ నిబంధనలు: [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/) . సూచిత ఆపాదన: Gavrilov, Gazzaev, and Muravyov (2026), Where Quality Breaks in Compressed Short-Text Generation. [SVGను డౌన్‌లోడ్ చేయండి](https://aogavrilov.com/publications/where-quality-breaks/staged-codec-bottleneck-localization.svg) .*

### కీలక భావన

కోడెక్ ఇప్పటికే విస్మరించిన సమాచారాన్ని దిగువస్థాయి ఉత్పాదకం తిరిగి పొందలేదు. అందువల్ల గుప్త-ఉత్పాదన ఫలితాలను వ్యాఖ్యానించే ముందు పునర్నిర్మాణ దశను ఆడిట్ చేయాలి.

### సమీప విధానాల నుంచి భేదం

ప్రామాణిక ఆద్యంత పోలికలు ఒకే తుది ఉత్పాదన స్కోరును నివేదిస్తాయి. ఈ ప్రోటోకాల్ జతచేసిన పునర్నిర్మాణ తనిఖీ-స్థానాన్ని చేర్చి, గుప్త-స్థల ఆరోగ్య కొలమానాలను డీకోడ్ చేసిన పాఠ్యంపై ఆధారాల నుంచి వేరు చేస్తుంది.

### కొత్తదేమిటి

ఈ కృషి కొత్త డీనాయిజింగ్ అల్గోరిథం కాదు; ఒక నిర్దిష్ట సంపీడిత-పాఠ్య పైప్‌లైన్‌కు పునర్వినియోగించదగిన దశలవారీ నిర్ధారణ పద్ధతిశాస్త్రం.

## ఈ పత్రం సమాధానం కనుగొనడంలో తోడ్పడే ప్రశ్నలు

## 

పరిశోధనా పత్రంపై ఆధారపడిన సంక్షిప్త సమాధానం కోసం ఒక ప్రశ్నను తెరవండి. సాక్ష్యానికి సంబంధించిన విపులమైన సరిహద్దులు పరిమితులు విభాగంలో ఇవ్వబడ్డాయి.

1. సంపీడిత స్వల్ప-పాఠ్య ఉత్పాదనలో నాణ్యత ఎక్కడ క్షీణిస్తుంది? పరీక్షించిన TinyStories 64-to-16 పైప్‌లైన్‌లో, ప్రధాన నాణ్యత క్షీణత గుప్త ఉత్పాదన మొదలయ్యే ముందే కోడెక్ పునర్నిర్మాణ దశలో కనిపిస్తుంది. మధ్యస్థ బాహ్య GPT-2 perplexity మూల పాఠ్యానికి 15.17 నుంచి పునర్నిర్మాణానంతరం 27.36కు పెరగగా, p95 25.10 నుంచి 98.91కు పెరుగుతుంది. ఇది సార్వత్రిక కోడెక్ శ్రేణీకరణ కాదు; ఒకే కాన్ఫిగరేషన్‌కు సంబంధించిన ఫలితం.
2. కోడెక్ నష్టాన్ని గుప్త-ఉత్పాదన నష్టం నుంచి ఎలా వేరు చేయవచ్చు? దశలవారీ ప్రోటోకాల్ మూల పాఠాలు, జతచేసిన కోడెక్ పునర్నిర్మాణాలు, తుది ఉత్పాదిత పాఠాన్ని ఒకే ఉమ్మడి బాహ్య స్కోరర్‌తో మూల్యాంకనం చేస్తుంది. మూలం నుంచి పునర్నిర్మాణానికి ఉన్న అంతరం కోడెక్ వాటాను అంచనా వేస్తే, పునర్నిర్మాణం నుంచి ఉత్పాదిత అవుట్‌పుట్‌కు చేసే పోలిక అదనపు ఉత్పాదన-దశ నష్టాన్ని స్థానీకరించడంలో తోడ్పడుతుంది. గుప్త స్థల ఆరోగ్య కొలమానాలను డీకోడ్ చేసిన పాఠ్య సాక్ష్యం నుంచి విడిగా నివేదిస్తారు.
3. విచ్ఛిన్న-గుప్త పాఠ్య ఉత్పాదనను ఎలా మూల్యాంకనం చేయాలి? ఉత్పాదకాలను పోల్చే ముందు పునర్నిర్మాణ యథార్థతను తనిఖీ చేయాలని, ప్రతి దశలో ఒకే డీకోడ్-పాఠ్య స్కోరర్‌ను వర్తింపజేయాలని, కేంద్ర మరియు తోక గణాంకాలను నివేదించాలని ఈ పరిశోధన పత్రం సిఫారసు చేస్తుంది. కోడ్‌బుక్ వినియోగం, జ్యామితి, ఇతర గుప్త ప్రత్యామ్నాయ కొలమానాలను కూడా డీకోడ్ చేసిన పాఠ్య నాణ్యతకు ప్రత్యామ్నాయాలుగా కాక నిర్ధారణ సూచికలుగా పరిగణిస్తుంది.
4. కోడ్-స్థల డిఫ్యూషన్, టోకెన్-స్థల డిఫ్యూషన్‌ను మించుతుందా? ఉమ్మడి స్కోరర్, పరీక్షించిన అమరిక కింద కోడ్-స్థల MDLM, టోకెన్-స్థల MDLMతో పోలిస్తే సగటు, మధ్యమ, p95 పర్‌ప్లెక్సిటీలను వరుసగా 32.9%, 30.9%, 36.6% తగ్గిస్తుంది. ఈ పోలిక వివరణాత్మకమైనది, నిర్దిష్ట కాన్ఫిగరేషన్‌కు పరిమితమైనది; డేటాసెట్‌లు, సంపీడన నిష్పత్తులు, కోడెక్‌లు లేదా వ్యాప్తి నిర్మాణాలన్నింటిలో సార్వత్రిక క్రమాన్ని స్థాపించదు.
5. మెరుగైన గుప్త జ్యామితి కొలమానాలు మరింత నాణ్యమైన ఉత్పాదిత పాఠ్యానికి హామీ ఇస్తాయా? లేదు. అందుబాటులోని సరిపోల్చిన అమలుల్లో, జ్యామితి-అవగాహన గల క్రమబద్ధీకరణ స్థానిక గుప్త-స్థల ప్రత్యామ్నాయ సూచికలను మెరుగుపరిచింది; కానీ డీకోడ్ చేసిన పాఠ్య మాపకాలను మెరుగుపరచలేదు. ప్రతి ప్రత్యామ్నాయ సూచిక లాభాన్ని తుది డీకోడ్ అవుట్‌పుట్ వద్ద తనిఖీ చేయాలని, బదిలీ లేకపోవడాన్ని ఉత్పత్తి మెరుగుదలకు సాక్ష్యంగా కాక ఉపయోగకరమైన ప్రతికూల ఫలితంగా పరిగణించాలని ఈ ఫలితం సూచిస్తుంది.

## సమీప విధానాలతో తులన

## 

| విధానం | ప్రాతినిధ్యం | నియంత్రణ / నిర్ధారణ | పరిరక్షించేది లేదా కొలిచేది ఏమిటి |
| --- | --- | --- | --- |
| టోకెన్-స్థల వ్యాప్తి | పాఠ్య టోకెన్‌లు | టోకెన్ స్థలంలో ఉత్పాదన నాణ్యత | ప్రత్యక్ష ఉత్పాదనలో ధారాళత మరియు స్కోరర్ ప్రవర్తన |
| సంపీడిత గుప్త ఉత్పాదన | కోడెక్ ద్వారా వివిక్త గుప్త సంకేతాలు | తుది ఆద్యంత ఉత్పాదన నాణ్యత | కోడెక్, గుప్త ఉత్పాదకాల సంయుక్త ప్రవర్తన |
| తెలుగు అకాడెమిక్ స్థానీకరణ — Staged bottleneck localization | పాఠ్యం, కోడెక్ పునర్నిర్మాణాలు, వివిక్త గుప్త చరరాశులు | కోడెక్ నష్టాన్ని ఉత్పాదన నష్టం నుంచి వేరు చేయండి | ఒకే ఉమ్మడి స్కోరర్ కింద నాణ్యత ఎక్కడ క్షీణిస్తుంది |

ఈ పోలిక మూల్యాంకన పరిధిని, ఆధారాల స్థాయిని వేరు చేస్తుంది; ఇది విధానాలకు సార్వత్రిక శ్రేణీకరణ కాదు.

## సంబంధితత మరియు పరిధి

## 

ఉత్పాదక పైప్‌లైన్‌లో అభ్యసిత కోడెక్‌తో పాటు గుప్త-స్థల ఉత్పాదకం ఉండి, అవుట్‌పుట్ నాణ్యత క్షీణతకు మూలం స్పష్టంగా లేనప్పుడు దశలవారీ ప్రోటోకాల్ ఉపయోగకరం.

1. సంపీడిత, వివిక్త-గుప్త పాఠ్య ఉత్పాదన
2. ఉత్పాదక పైప్‌లైన్‌లలో కోడెక్ పునర్నిర్మాణ యథార్థత
3. కోడ్ స్థలంలో మాస్క్ చేసిన విసరణ భాషా నమూనీకరణ
4. అవరోధ స్థానీకరణ మరియు దశ-సంగత మూల్యాంకనం
5. డీకోడ్ పాఠ్యంతో పోల్చి గుప్త-స్థల ప్రత్యామ్నాయ ప్రమాణ మెరుగుదలలను ఆడిట్ చేయడం

## పరిమితులు

## 

- అనుభవాధార అధ్యయనం TinyStoriesను మాత్రమే ఉపయోగిస్తుంది.
- ప్రధాన విశ్లేషణ ఒకే తీవ్ర 64-నుంచి-16 సంపీడన అమరికకు పరిమితం.
- మూల్యాంకనం చేసిన వ్యవస్థ ఒక శ్రేణీకృత VQ-VAE-2 కోడెక్ కుటుంబాన్ని ఒక MDLM ఉత్పాదకంతో కలుపుతుంది.
- తులనలు ఒక్కో ప్రయోగంపై ఆధారపడి ఉన్నాయి; అవి బహుళ-సీడ్ గణాంక అంచనాలు కాక, వివరణాత్మక ఫలితాలు మాత్రమే.
- బాహ్య GPT-2 perplexity ఒక ఉమ్మడి నిర్ధారణ సూచిక మాత్రమే; అది సార్వత్రిక అర్థ-నాణ్యత కొలమానం కాదు.
- ఈ నిర్ధారణలను అన్ని డేటాసెట్‌లు, కోడెక్ నిర్మాణాలు లేదా సంపీడన నిష్పత్తులకు నేరుగా వర్తింపజేయకూడదు.

## పత్రంలో ఉదహరించిన మూలాలు

## 

ఈ నమోదులు పరిశోధన పత్రం PDFలో సంఖ్యలతో ఇచ్చిన References విభాగానికి అనుగుణంగా ఉంటాయి.

1. Subham Sekhar Sahoo, Marianne Arriola, Yair Schiff, Aaron Gokaslan, Edgar Marroquin, Justin T Chiu, Alexander Rush, Volodymyr Kuleshov. 2024 . [Simple and Effective Masked Diffusion Language Models](https://arxiv.org/abs/2406.07524) . Advances in Neural Information Processing Systems .
2. Aaron van den Oord, Oriol Vinyals, Koray Kavukcuoglu. 2017 . [Neural Discrete Representation Learning](https://arxiv.org/abs/1711.00937) . Advances in Neural Information Processing Systems .
3. Ali Razavi, Aaron van den Oord, Oriol Vinyals. 2019 . [Generating Diverse High-Fidelity Images with VQ-VAE-2](https://arxiv.org/abs/1906.00446) . Advances in Neural Information Processing Systems .
4. Jacob Austin, Daniel D. Johnson, Jonathan Ho, Daniel Tarlow, Rianne van den Berg. 2021 . [Structured Denoising Diffusion Models in Discrete State-Spaces](https://arxiv.org/abs/2107.03006) . Advances in Neural Information Processing Systems .
5. Aaron Lou, Chenlin Meng, Stefano Ermon. 2024 . [Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution](https://arxiv.org/abs/2310.16834) . Proceedings of the 41st International Conference on Machine Learning .
6. Xiaochuang Han, Sachin Kumar, Yulia Tsvetkov. 2023 . [SSD-LM: Semi-autoregressive Simplex-based Diffusion Language Model for Text Generation and Modular Control](https://doi.org/10.18653/v1/2023.acl-long.647) . Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics .
7. Xiang Lisa Li, John Thickstun, Ishaan Gulrajani, Percy Liang, Tatsunori B. Hashimoto. 2022 . [Diffusion-LM Improves Controllable Text Generation](https://arxiv.org/abs/2205.14217) . Advances in Neural Information Processing Systems .
8. Huiwen Chang, Han Zhang, Lu Jiang, Ce Liu, William T. Freeman. 2022 . [MaskGIT: Masked Generative Image Transformer](https://openaccess.thecvf.com/content/CVPR2022/html/Chang_MaskGIT_Masked_Generative_Image_Transformer_CVPR_2022_paper.html) . Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition .
9. Marjan Ghazvininejad, Omer Levy, Yinhan Liu, Luke Zettlemoyer. 2019 . [Mask-Predict: Parallel Decoding of Conditional Masked Language Models](https://doi.org/10.18653/v1/D19-1633) . Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing .
10. Emiel Hoogeboom, Didrik Nielsen, Priyank Jaini, Patrick Forré, Max Welling. 2021 . [Argmax Flows and Multinomial Diffusion: Learning Categorical Distributions](https://arxiv.org/abs/2102.05379) . Advances in Neural Information Processing Systems .
11. Alec Radford, Jeffrey Wu, Rewon Child, David Luan, Dario Amodei, Ilya Sutskever. 2019 . [Language Models are Unsupervised Multitask Learners](https://cdn.openai.com/better-language-models/language-models.pdf) . OpenAI Technical Report .
12. Nils Reimers, Iryna Gurevych. 2019 . [Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks](https://doi.org/10.18653/v1/D19-1410) . Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing .
13. Tianyi Zhang, Varsha Kishore, Felix Wu, Kilian Q. Weinberger, Yoav Artzi. 2020 . [BERTScore: Evaluating Text Generation with BERT](https://arxiv.org/abs/1904.09675) . International Conference on Learning Representations .
14. Krishna Pillutla, Swabha Swayamdipta, Rowan Zellers, John Thickstun, Sean Welleck, Yejin Choi, Zaid Harchaoui. 2021 . [MAUVE: Measuring the Gap Between Neural Text and Human Text using Divergence Frontiers](https://arxiv.org/abs/2102.01454) . Advances in Neural Information Processing Systems .
15. Lianmin Zheng, Wei-Lin Chiang, Ying Sheng, Siyuan Zhuang, Zhanghao Wu, Yonghao Zhuang, Zi Lin, Zhuohan Li, Dacheng Li, Eric P. Xing, Hao Zhang, Joseph E. Gonzalez, Ion Stoica. 2023 . [Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena](https://arxiv.org/abs/2306.05685) . Advances in Neural Information Processing Systems, Datasets and Benchmarks Track .

## వనరులు మరియు పునరుత్పాదకత

## 

### దత్తాంశ ప్రకటన

## సంచికలు

## 

1. **ప్రచురిత సంచిక** [IEEE / FRUCT, 2026](https://doi.org/10.23919/FRUCT70069.2026.11506553)
2. **arXiv రికార్డు** [ప్రిప్రింట్ రికార్డు తెరవండి, arXiv:2607.24176](https://arxiv.org/abs/2607.24176)
3. **AI పరిశోధన సూచిక** [ధ్రువీకరించిన తొలి రచయిత గుర్తింపు, అనుసంధానిత ఫలిత సారాంశం కలిగిన Hugging Face పేపర్ పేజీ](https://huggingface.co/papers/2607.24176)
4. **రచయిత మాన్యుస్క్రిప్ట్** [తెలుగు అకాడెమిక్ స్థానీకరణ — Text-accessible local PDF](https://aogavrilov.com/publications/where-quality-breaks/paper.pdf)
5. **సదస్సు ప్రసంగం** [FRUCT 39 ప్రజెంటేషన్](https://www.youtube.com/watch?v=JExX7cxa63s)
6. **సదస్సు ప్రొసీడింగ్స్ సూచిక** [అధికారిక FRUCT 39 సంపుటం](https://fruct.org/publications/volume-39/fruct39)
7. **సదస్సు ప్రొసీడింగ్స్ PDF** [FRUCT బహిరంగ సంపూర్ణ పాఠ్యం](https://www.fruct.org/files/publications/volume-39/fruct39/Gav.pdf)
8. **పరిశోధనా రికార్డును తెరవండి** [OpenAlex](https://openalex.org/W7160914887)
9. **ఉల్లేఖన గ్రాఫ్ రికార్డు** [Semantic Scholar](https://www.semanticscholar.org/paper/11b5a0e8f75f0dfd141659e9a82ac58982a65ce1)
10. **రచయిత పంచుకున్న పూర్తి పాఠ్యం** [ResearchGate](https://www.researchgate.net/publication/404794122_Where_Quality_Breaks_in_Compressed_Short-Text_Generation_Staged_Bottleneck_Localization)

ప్రచురిత DOI ప్రధాన గ్రంథసూచి గుర్తింపు. సంచికలు మారినా ఈ పేజీయే ప్రాజెక్టుకు ఏకైక ప్రామాణిక URLగా కొనసాగుతుంది.

## సంబంధిత ప్రచురణ

- [Inspectable Control for Structure-Preserving Software Regeneration](https://aogavrilov.com/te/publications/inspectable-control/)

దీనిని చదవండి: [కోడెక్ అవరోధ నిర్ధారణ](https://aogavrilov.com/te/projects/codec-bottleneck-diagnosis/) పరిశోధనా మార్గదర్శకం. [రచయిత గురించి](https://aogavrilov.com/about/) .

### కేంద్రీకృత పరిశోధనా గమనికలు

ఆధారాల పరిమితులను స్పష్టం చేస్తూ, ఈ పరిశోధనా పత్రానికి తిరిగి అనుసంధానించే ఉద్దేశ-నిర్దిష్ట సమాధానాలు.

- [కోడ్-స్థల, టోకెన్-స్థల మాస్క్‌డ్ డిఫ్యూజన్: వాటిని ఎలా పోల్చాలి](https://aogavrilov.com/te/research-notes/code-space-vs-token-space-masked-diffusion/)