# Sıkıştırılmış bir metin üretecindeki başarısızlığın kodekten mi yoksa üreteçten mi kaynaklandığı nasıl anlaşılır?

Canonical HTML: https://aogavrilov.com/tr/research/codec-bottleneck-diagnosis/

Document language: tr

Metni önce ayrık kodlara sıkıştırıp ardından kod uzayında üretim yapan iki aşamalı sistemler için uygulamaya dönük bir tanılama. Amaç, hesaplama kaynağını yanlış bileşene harcamadan önce kodu çözülmüş çıktıyı hangi aşamanın sınırladığını belirlemektir.

Yayımlandı 29 Temmuz 2026 Güncellendi 30 Temmuz 2026 [Alexey Gavrilov](https://aogavrilov.com/about/)

## Kısa yanıt

Özgün metni, onunla eşleştirilmiş kodek yeniden yapılandırmasını ve nihai üretilen metni aynı harici değerlendiriciyle puanlayın. Özgün metin ile yeniden yapılandırma arasındaki fark, üretimden önce dayatılan kalite tavanını ölçer. Yeniden yapılandırma ile üretim arasındaki fark ise örtük üreticinin yol açtığı ek bozulmayı ayrıştırır.

**Kodu çözülmüş çıktı yerine bir gizil uzay vekil ölçütü kullanmayın.** Daha iyi kod kitabı geometrisi, kullanımı veya desteği yararlı tanısal göstergeler olabilir; ancak bunlar yalnızca kodu çözülmüş metin ilgili nihai ölçütlere göre iyileştiğinde bir kalite artışını ortaya koyar.

## Dört denetim noktalı bir tanılama

1. Referansı belirleyin Ayrılmış özgün metinleri, sonraki tüm aşamalarda kullanılan harici değerlendiriciyle puanlayın.
2. Kodek yeniden oluşturmasını ölçün Aynı örnekleri üretim yapmadan kodlayıp çözün. Bu işlem, darboğazda yitirilen bilgiyi ortaya çıkarır.
3. Gizil üretimi ölçün Kodlar üretin, bunları çözün ve elde edilen metni değiştirilmemiş değerlendiriciyle puanlayın.
4. Vekil ölçüt aktarımını denetleyin Vekil ölçütlerdeki kazanımların aktarılacağını varsaymak yerine, gizil tanı ölçütlerini nihai çözülmüş metin ölçütleriyle karşılaştırın.

## Aşamalar arasındaki farklar nasıl yorumlanır?

| Gözlenen örüntü | En olası darboğaz | Sonraki deney |
| --- | --- | --- |
| Özgün metinler yüksek puan alırken yeniden oluşturmalarda keskin bir bozulma görülüyor | Kodek doğruluğu | Üreteci ayarlamadan önce yeniden yapılandırmayı iyileştirin veya sıkıştırmayı azaltın |
| Yeniden yapılandırmalar güçlü kalırken üretilen çıktılar bozulur | Gizil üreteç | Gürültü giderme, örnekleme, koşullandırma ve kod dağılımı uyuşmazlığını inceleyin |
| Gizil vekil ölçütler iyileşirken kodu çözülmüş çıktıya ilişkin ölçütler değişmiyor | Vekil ölçüt aktarımı | Vekil ölçütün, ilgilenilen aşağı akış özelliğini izleyip izlemediğini yeniden değerlendirin |
| Her aşama düşük puan alıyor | Veri, değerlendirici veya deney düzeneği | Model başarısızlığını atfetmeden önce referans dağılımını ve puanlayıcıyı doğrulayın |

## Yayımlanan TinyStories vaka çalışmasının bulguları

İçinde [*Sıkıştırılmış Kısa Metin Üretiminde Kalitenin Bozulduğu Noktalar: Aşamalı Darboğaz Yerelleştirmesi*](https://aogavrilov.com/tr/publications/where-quality-breaks/) , 64 belirteçli metinler, hiyerarşik bir VQ-VAE-2 ile 16 üst düzey koda sıkıştırılır. Tek bir haricî GPT-2 puanlayıcısına göre medyan şaşkınlık değeri şu düzeyden yükselir: **15.17** özgün metinlerde şu değerden **27.36** kodek yeniden yapılandırmalarında; buna karşılık p95 şu değerden yükselir: **25.10** -e/-a **98.91** .

### Kod uzayında ve belirteç uzayında maskeli difüzyon dil modellemesinin karşılaştırılması

Sınanan işlem hattında yeniden yapılandırma açığı baskındır. Bu üst sınır içinde kod uzayı maskeli difüzyon dil modellemesi (MDLM), ortak puanlayıcı altında belirteç uzayı MDLM'sinden yine de daha iyi sonuç vermektedir: medyan şaşkınlık değeri **26.55** karşı **38.42** ; bu, %30.9'luk bir azalmadır.

Geometriyi gözeten düzenlileştirme, mevcut eşleştirilmiş koşularda yerel gizil vekil ölçütleri iyileştirir; ancak kodu çözülmüş metin ölçütlerini iyileştirmez. Bu olumsuz aktarım sonucu tanının bir parçasıdır; düzenlileştiricinin nihai metni iyileştirdiğine dair kanıt değildir.

## Her aşamada nelerin ölçüleceği

## Bu rehberin yanıtladığı araştırma soruları

Bu kısa yanıtlar, yaygın tanılama sorularını aşamalar bazında ölçülen kanıtlarla ilişkilendirir.

1. Bildirilen metin deneyinde kod uzayındaki ve belirteç uzayındaki maskeli difüzyon nasıl karşılaştırıldı? Aynı haricî puanlayıcı altında kod uzayı MDLM'nin medyan şaşkınlık değeri 26.55, belirteç uzayı temel modelinin ise 38.42'dir; bu, %30.9'luk bir azalmaya karşılık gelir. Kodek yeniden oluşturumunun medyanı zaten 27.36 olduğundan sonuç, yeniden oluşturum darboğazıyla birlikte yorumlanmalıdır. [Bildirilen aşama bazındaki sayıları inceleyin](https://aogavrilov.com/tr/research/codec-bottleneck-diagnosis/#code-space-vs-token-space) .
2. Kodek kayıplıyken kod uzayındaki ve belirteç uzayındaki maskeli ayrık difüzyon nasıl karşılaştırılmalıdır? Özgün metinler, kodek yeniden oluşturumları, belirteç uzayı çıktıları ve kod uzayı çıktıları için aynı ayrılmış örnekleri ve kodu çözülmüş metin puanlayıcısını kullanın. Yeniden oluşturum farkını ayrıca raporlayın; çünkü daha güçlü bir gizil üreteç, kodeğin daha önce ortadan kaldırdığı bilgiyi geri getiremez. [Aşamaları tek bir puanlayıcıyla karşılaştırın](https://aogavrilov.com/tr/research/codec-bottleneck-diagnosis/#code-space-vs-token-space) .
3. İki aşamalı bir metin üretecindeki kalite kaybı nasıl teşhis edilebilir? Aynı kodu çözülmüş metin değerlendiricisiyle önce özgün metin ile yeniden oluşturum arasındaki farkı, ardından yeniden oluşturum ile üretim arasındaki farkı ölçün. Böylece kodeğin belirlediği kalite tavanı, gizil üretimin yol açtığı ek bozulmadan ayrılır. [Dört kontrol noktalı tanı sürecini izleyin](https://aogavrilov.com/tr/research/codec-bottleneck-diagnosis/#workflow) .
4. Daha iyi gizil uzay ölçütleri hangi durumlarda kodu çözülmüş çıktıyı iyileştirmeyebilir? Bir gizil vekil ölçüt, ilgilenilen aşağı akış özelliğini izlemeden iyileşebilir. Aktarımı, eşleştirilmiş çıktıların kodunu çözerek ve bunları aynı nihai ölçütlerle değerlendirerek sınayın; aksi hâlde kod kitabı geometrisi veya kullanımı, metin kalitesinde bir artış değil, tanısal kanıt olarak kalır. [Vekil ölçüt aktarımı tanılamasını kullanın](https://aogavrilov.com/tr/research/codec-bottleneck-diagnosis/#decision-table) .

## Yaygın tanı hataları

### Yalnızca nihai çıktıları karşılaştırmak

Uçtan uca bir puan, kayba temsilin mi yoksa üretecin mi yol açtığını gösteremez.

### Aşamalar arasında puanlayıcıları değiştirmek

Farklı değerlendiriciler, aşamalar arasındaki farkları karşılaştırılamaz hâle getirir ve nedensel ilişkilendirmeyi zayıflatır.

### Kod kitabı sağlığını “metin kalitesi” olarak adlandırmak

Sağlıklı kullanım, zayıf yeniden yapılandırmalarla ya da kodu çözülmüş zayıf üretimlerle birlikte görülebilir.

### Tek bir sıkıştırma düzenini genelleme

Yayımlanan kanıtlar, tek bir TinyStories 64'ten 16'ya yapılandırmasını ve betimleyici tekil çalıştırmaları kapsamaktadır.

## Temel kaynaklar

Bu kaynaklar, tanılama çalışmasında atıf yapılan veri kümesi ve model ailelerini tanımlar.

1. [Sinirsel Ayrık Temsil Öğrenimi](https://arxiv.org/abs/1711.00937) VQ-VAE'yi ve sonraki gizil üreteçlerin kullandığı öğrenilmiş ayrık darboğazı tanıtır.
2. [Generating Diverse High-Fidelity Images with VQ-VAE-2](https://arxiv.org/abs/1906.00446) Ayrı kod düzeylerine sahip hiyerarşik bir ayrık temsil geliştirir.
3. [TinyStories: How Small Can Language Models Be and Still Speak Coherent English?](https://arxiv.org/abs/2305.07759) Tanısal vaka çalışmasında kullanılan sentetik kısa öykü derlemini tanıtır.
4. [Simple and Effective Masked Diffusion Language Models](https://arxiv.org/abs/2406.07524) Örtük üreticide kullanılan maskeli ayrık difüzyon formülasyonunu sunar.

## Kanıt sınırı

Aşamalı yöntem yeniden kullanılabilir, ancak bildirilen sıralama evrensel değildir. Yayımlanan deneyde TinyStories, tek bir yüksek oranlı sıkıştırma düzeni, tek bir hiyerarşik kodek ailesi, tek bir maskeli ayrık üreteç ve betimleyici tekil çalıştırmalar kullanılmıştır. Tanılama protokolünü yeni sisteme uygulayın; sayısal sonucu farklı bir ortama doğrudan taşımayın.

## İlgili yayınlar

### [Where Quality Breaks in Compressed Short-Text Generation: Staged Bottleneck Localization](https://aogavrilov.com/tr/publications/where-quality-breaks/)

Sıkıştırılmış Kısa Metin Üretiminde Kalitenin Bozulduğu Noktalar: Aşamalı Darboğaz Yerelleştirmesi

Tanı yöntemi FRUCT 39 2026 Ana konferans

### [Inspectable Control for Structure-Preserving Software Regeneration](https://aogavrilov.com/tr/publications/inspectable-control/)

Yapıyı Koruyan Yazılımın Yeniden Üretimi İçin İncelenebilir Denetim

Gizil uzay denetim yöntemi FSE Companion '26 2026 Tamamlayıcı poster