4B Parametreli Ajanla 235B Modeli Geçmek: Agent-R^2 ve Gerçek Veri Sentezi
Kaynak: Hugging Face Papers
İçindekiler 3 başlık
Büyük dil modelleri akıl yürütme ve araç kullanımında hızla ilerlese de gerçek dünyadaki üretkenlik işlerini baştan sona tamamlamakta hâlâ zorlanıyor. Uzun soluklu profesyonel iş akışlarını takip etmek, farklı dosya türlerinden oluşan karmaşık bağlamları anlamak ve ince ayrıntılara sahip gereksinimler altında doğrudan kullanılabilir çıktılar üretmek mevcut ajanların sıkça takıldığı noktalar. Buradaki temel darboğaz model mimarisi değil. Asıl sorun, gerçek iş niyetini, doğal dosya ortamlarını ve çıktı odaklı değerlendirmeyi yansıtan ölçeklenebilir eğitim sonrası (post-training) verisinin eksikliği. Agent-R^2, tam bu boşluğu doldurmak için geliştirilmiş gerçek kaynaklı bir veri sentezi çerçevesi.
Sentetik Dosyalar Yerine Gerçek Kaynaklarla Eğitim#
Ajan eğitimi için veri üretilirken genelde elle tanımlanmış iş akışlarına veya doğrudan dil modellerinin uydurduğu sentetik dosyalara başvuruluyor. Agent-R^2 ise süreci tamamen gerçek kaynaklara dayandırıyor. Sentez hattının her aşamasında gerçek mesleki tohum verileri, derlemlerden çıkarılan iş akışı kanıtları ve web'den toplanmış özgün dosyalar yer alıyor.
Çerçevenin veri süzme ve model eğitim süreci şu adımlarla ilerliyor:
- Web derlemindeki 10 bin aday incelenerek süreç başlatılıyor.
- Bu havuzdan, çoklu formattaki gerçek dosya eklerini çıktı düzeyinde ayrıntılı değerlendirme rubrikleriyle (puanlama yönergeleriyle) eşleştiren 4 bin görev örneği damıtılıyor.
- Elde edilen 4 bin örneklik veri kümesi üzerinde gözetimli ince ayar (supervised fine-tuning) ve rubrik tabanlı pekiştirmeli öğrenme (reinforcement learning) uygulanarak Agent-R^2-4B modeli eğitiliyor.
Sonuçlar oldukça çarpıcı. Yalnızca 4 bin görev örneğiyle eğitilen 4 milyar parametreli Agent-R^2-4B, kendisinden katbekat büyük olan Qwen3-235B-A22B-Thinking-2507 modelini geride bırakıyor. Gerçekçi üretkenlik görevlerini ölçen GDPval testinde Qwen3-235B-A22B-Thinking-2507 yüzde 48,0 alırken, Agent-R^2-4B yüzde 51,0'a ulaşıyor. Dosya temelli akıl yürütmeyi ölçen OfficeQA kıstasında da tablo benzer: büyük model yüzde 13,8'de kalırken, 4B'lik model yüzde 14,8 skor elde ediyor.
Ajanların "Kestirme Yol" Tuzağını Aşmak#
Geliştirdiğin ajanların bazen dosyaları yeterince incelemeden, içeriği doğrulamadan veya sağlam bir temele oturtmadan dışarıdan bakınca mantıklı görünen ama içi boş çıktılar ürettiğini fark etmişsindir. Makalede buna kestirme davranış (shortcut behavior) deniyor. Ajan, görevi gerçekten çözmek yerine yüzeysel olarak ikna edici bir teslimat hazırlayıp işi bitirmeye çalışıyor.
Agent-R^2 ile yapılan analizler, gerçek dosya bağlamları ve ayrıntılı çıktı rubrikleriyle eğitilen modellerin bu kestirme davranıştan uzaklaştığını gösteriyor. Model, hemen sonuca atlamak yerine dosyalar arasında sürekli keşif yapmayı öğreniyor. Ürettiği çıktıyı verilere dayandırıyor, adım adım inşa ediyor ve teslim etmeden önce doğruluyor. Bir geliştirici veya öğrenci için buradaki en önemli ders, devasa parametre sayılarına güvenmek yerine verinin gerçekçiliğine ve değerlendirme ölçütlerinin kalitesine odaklanmak. 4 milyar parametreli küçük bir model bile doğru kurgulanmış 4 bin gerçek görevle uçtan uca üretkenlikte dev modelleri geçebiliyor.
Kendi Ajan Projelerin İçin Neler Çıkarabilirsin?#
Çok adımlı ajanlar veya dosya işleyen sistemler tasarlarken Agent-R^2'nin yaklaşımını kendi geliştirme sürecine uyarlayabilirsin:
- Sentetik veri tuzağına düşme: Ajanını test ederken veya ince ayar yaparken LLM'lerin ürettiği temiz, yapay metinler yerine web'den ve gerçek iş süreçlerinden gelen çok formatlı, karmaşık dosyaları kullan.
- Çıktı odaklı rubrikler hazırla: Ajanın başarısını ölçerken yalnızca "cevap verdi mi" diye bakma. Üretilen nihai çıktının (deliverable) ince gereksinimleri karşılayıp karşılamadığını denetleyen ayrıntılı değerlendirme kriterleri yaz.
- Yüzeysel çıktıları denetle: Ajanın dosyaları gerçekten okuyup doğrulamadan inandırıcı görünen yanıtlar üretme eğilimini (shortcut behavior) gözlemle. Değerlendirme hattını, ajanı dosyalar içinde daha uzun süre keşif yapmaya ve kanıt toplamaya zorlayacak şekilde kurgula.
- Küçük modelleri göz ardı etme: Gözetimli ince ayar ve rubrik tabanlı pekiştirmeli öğrenmeyi kaliteli bir veri kümesiyle birleştirdiğinde, çok daha düşük maliyetli küçük modellerle yüksek performans alabileceğini unutma.
Bu konuyu derinlemesine öğrenmek istersen: Production'da Agent Güvenilirliği modülüne göz at.
Kaynak ve atıf
Bu yazı, Hugging Face Papers üzerinde yayımlanan içerikten yararlanılarak Edumints tarafından yapay zekâ desteğiyle Türkçe hazırlandı. Ayrıntılar ve yazarların kendi anlatımı için orijinaline bakabilirsin:
- huggingface.co/papers/2611.08219