Akıl Yürütme Yörüngeleri Olmadan Uzman Model Eğitimi ve Alan Uzmanı Damıtımı

Büyük dil modellerinde uzmanlık bilgisinin daha küçük ve hesaplama açısından verimli öğrenci modellere aktarılmasında (knowledge distillation), öğretmen model tarafından üretilen akıl yürütme yörüngeleri (reasoning trajectories) kritik bir köprü görevi görür. Geleneksel yaklaşımlar bu aktarımı adım adım düşünce zincirlerini içeren açık denetim verileriyle destekler. Ancak uzman modeller, explicit akıl yürütme denetimi olmaksızın yalnızca soru-cevap çiftleriyle eğitildiğinde, ürettikleri akıl yürütme yörüngelerini neyin yönettiği temel bir soru işaretidir. Bu araştırma, altın standartta akıl yürütme verisi (gold reasoning) bulunmadığında dahi, uzman optimizasyonunun gizil yörünge uzayından örtük seçimler yaptığını ortaya koymaktadır.

Araştırmacılar, bu gizil dağılımı izole edip doğrudan gözlemlemek amacıyla öğrenci model damıtımını bir nihai amaç yerine agnostik bir sonda (agnostic probe) olarak kullanmaktadır. Öğrenci modeller uzman öğretmenden herhangi bir parametre veya optimizasyon kısıtı devralmadığı; yalnızca örneklenen yörüngelerin kendisini miras aldığı için bu gizil uzayı tarafsız biçimde yansıtır.

Araştırmanın Öne Çıkan Bulguları

Güçlü Korelasyon ve Yönetici İlişki: 27 farklı uzman-öğrenci eşleşmesinde yapılan ampirik analizler, öğretmen ile öğrencinin uzmanlaşma ve genel yetenek profilleri arasında olağanüstü güçlü bir korelasyon olduğunu göstermektedir.
Kontrol Edilebilir Dağılım Kayması (Distributional Drift): Uzman modelin dağılımsal kaymasını açık bir şekilde kontrol etmek; hem öğretmeni hem de damıtılan öğrenciyi alan uzmanlığı ile genel yeteneklerin korunması arasındaki dengede sistematik ve öngörülebilir biçimde konumlandırır.
Farklı Model Ailelerinde Tutarlılık: Kimya, fizik ve çok dilli test senaryolarında gerçekleştirilen deneyler, birbirinden tamamen farklı model ailelerinde dahi damıtılan öğrencilerin bu profilleri tutarlı şekilde yansıttığını doğrulamaktadır.
Gizil Denetim Mekanizması: İdeal akıl yürütme adımlarının yokluğunda yapılan ince ayar (fine-tuning) tercihleri, alt modellere aktarılan gizil denetim sinyallerini doğrudan belirlemektedir.

Yazılım Geliştiriciler İçin Pratik Çıkarımlar

Düşük Maliyetli Akıl Yürütme Transferi: Yüksek maliyetli adım adım CoT (Chain of Thought) veri setlerine erişiminiz olmadığında, sadece kaliteli soru-cevap çiftleriyle eğitilen uzman modeller üzerinden küçük modellere akıl yürütme yeteneği aktarabilirsiniz.
Agnostik Sonda ile Model Değerlendirme: Geliştirdiğiniz uzman modelin latent kalitesini ve genelleme profilini ölçmek için küçük bir öğrenci modeli referans bir test aracı olarak konumlandırabilirsiniz.
Drift ve Aşırı Uzmanlaşma Yönetimi: Dikey alan modelleri geliştirirken genel yetenek kaybını (catastrophic forgetting) önlemek adına eğitim sürecindeki dağılım kayması kritik bir metrik olarak izlenmelidir.
Mimariden Bağımsız Üretim Dağıtımı: Akıl yürütme profili farklı model mimarileri arasında başarıyla korunduğu için üretim sistemlerinde hafif, hızlı ve donanım dostu küçük modelleri güvenle ölçekleyebilirsiniz.

[Orijinal kaynağa buradan ulaşabilirsiniz.](https://huggingface.co/papers/2609.13770)

Bu konuyu derinlemesine öğrenmek isterseniz: İleri Akıl Yürütme Teknikleri modülüne göz atın.