TurnTurk-GPT: Türkçe İçin Metin Tabanlı Konuşma Sırası (Turn-Taking) Tahmini
Kaynak: Hugging Face Papers
İçindekiler 4 başlık
Mimari Yaklaşım ve Model Eğitimi#
Gerçek zamanlı sesli asistanlar ve diyalog sistemleri geliştirirken en kritik zorluklardan biri, kullanıcının sözünü ne zaman bitirdiğini doğru tespit etmektir. TurnTurk-GPT, Türkçe bir GPT-2 modelinin sentetik ve gerçek diyalog verileri üzerinde TurnGPT hedefiyle ince ayar (fine-tuning) yapılmasıyla elde edilmiş, metin tabanlı bir konuşma sırası tahmincisidir. Model; gerçek Türkçe konuşmalar üzerinde kural tabanlı referans modeller, sıfır-örneklem (zero-shot) bir Türkçe dil modeli ve yaygın olarak kullanılan çok dilli bir konuşma sonu (end-of-turn) tespit edicisi ile karşılaştırmalı olarak değerlendirilmiştir.
Gerçekçi Değerlendirme Protokolü ve Streaming ASR Simülasyonu#
Üretim ortamındaki akan (streaming) konuşma tanıma (ASR) sistemlerinin çıktısını simüle etmek amacıyla, değerlendirme süreci noktalama işareti bulunmayan ve küçük harflere dönüştürülmüş metinler üzerinde kelime düzeyinde karar noktaları (word-level decision points) kullanılarak gerçekleştirilmiştir. Ölçüm güvenilirliğini sağlamak adına şu mühendislik protokolleri uygulanmıştır:
- Veri Ayrımı: Kayıt-ayrık (recording-disjoint) ve konuşmacı-ayrık (speaker-disjoint) çapraz doğrulama katmanları.
- İstatistiksel Doğrulama: İç içe eşik seçimi (nested threshold selection) ve eşleştirilmiş küme önyükleme (paired cluster bootstrap) testleri.
Performans Bulguları ve Türkçe Morfolojisinin Etkisi#
Deneysel sonuçlar, dilin yapısal özelliklerinin model performansı üzerindeki doğrudan etkisini ortaya koymaktadır:
- Çok Dilli ve Zero-Shot Karşılaştırması: TurnTurk-GPT, hem kayıt-ayrık hem de konuşmacı-ayrık değerlendirmelerde çok dilli tespit ediciyi geride bırakmaktadır. Ancak sıfır-örneklem (zero-shot) dil modelini yalnızca test konuşmacıları eğitim verisinde yer aldığında geçebilmekte; daha önce görülmemiş konuşmacılarda iki model istatistiksel olarak ayırt edilemez düzeyde kalmaktadır.
- Sondan Eklemeli Morfoloji: Konuşma sırasının sonundaki kelimenin eklerini kaldırmak ortalama duyarlılığı (AP) %44'e kadar düşürürken, cümle içindeki bir kelimede bu düşüş yalnızca %2 olmaktadır. Bu bulgu, Türkçedeki konuşma sonu ipuçlarının yüklem sonu morfolojisinde (verb-final morphology) yer aldığını kanıtlar.
- Sentetik Veri ve Duraksamalar: Yalnızca sentetik diyaloglarla eğitilen model en zayıf performansı göstermektedir. Ayrıca bir konuşmacı duraksadığında, sıfır-örneklem ve çok dilli referans modellerin başarımı rastgele tahmin (şans) seviyesine yakın kalmaktadır.
Yazılım Geliştirme ve Mühendislik Çıkarımları#
Sesli ajanlar ve Live / Stream mimarileri inşa eden geliştiriciler için bu çalışma kritik pratik dersler barındırır:
- Tokenizasyon ve Ön İşleme: Türkçe gibi sondan eklemeli dillerde kök-ek bütünlüğünü bozan agresif metin ön işleme adımlarından kaçınılmalıdır; son kelimedeki ekler konuşma sırası tahmini için anahtar sinyaldir.
- Veri Stratejisi: Sadece LLM'lerle üretilmiş sentetik diyaloglar gerçek konuşma dinamiklerini (duraksamalar, devrik yapılar) yakalamakta yetersizdir. Golden Dataset Oluşturma süreçlerinde mutlaka gerçek kullanıcı kayıtları ve konuşmacı-ayrık test setleri kullanılmalıdır.
- Açık Kaynak Katkısı: Model ve değerlendirme protokolü geliştiricilerin kullanımı için açık olarak yayınlanmıştır.
Kaynak ve atıf
Bu yazı, Hugging Face Papers üzerinde yayımlanan içerikten yararlanılarak Edumints tarafından yapay zekâ desteğiyle Türkçe hazırlandı. Ayrıntılar ve yazarların kendi anlatımı için orijinaline bakabilirsin:
- huggingface.co/papers/2610.42010