NorthCUA Teknik Raporu: Büyük Ölçekli Deneyimle Bilgisayar Kullanan Ajanları Güçlendirmek
Kaynak: Hugging Face Papers
İçindekiler 4 başlık
Giriş ve Temel Mimari: Deneyim Çarkı (Experience Flywheel)#
Bilgisayar kullanan ajanları (Computer-Use Agents - CUA) tekil aksiyonlardan karmaşık yazılım görevlerine ölçeklendirmek, alınan kararları uçtan uca sonuçlarla ilişkilendiren zengin bir deneyim gerektirir. NorthCUA, büyük ölçekli deneyim üretimiyle bu ajanları hızlandırmak ve güçlendirmek için tasarlanmış bütünleşik bir sistemdir. Sistemin merkezinde yer alan Experience Flywheel (Deneyim Çarkı) ve NorthCUA Harness, ajanların sadece komut çalıştırmasını değil, uzun süreli etkileşimleri sürdürmesini, kararları kaydetmesini ve görev sonuçlarını doğrulamasını sağlar.
- Doğrulanmış Yörüngeler (Verified Trajectories): Deneyim Çarkı, çeşitlendirilmiş çalıştırılabilir görevleri Harness ortamına sunar ve buradan elde edilen kayıtları kullanarak doğrulanmış görev yörüngeleri oluşturur.
- Özyinelemeli Öz-Gelişim (Recursive Self-Improvement): Çözülemeyen karmaşık görevlerde sistem sıfırdan başlamak yerine, yeniden kullanılabilir beceriler (reusable skills) geliştirir ve doğrulanmış ara kilometre taşlarını (milestones) korur. Böylece sonraki denemeler önceki ilerlemenin üzerine inşa edilir.
Aşamalı Öğrenme (Staged Learning) ve Pekiştirmeli Öğrenme Döngüsü#
Ajanların grafiksel kullanıcı arayüzlerinde (GUI) yetkinleşmesi ve uzun ufuklu (long-horizon) görevleri tamamlayabilmesi için NorthCUA, deneyim üretimini doğrudan model eğitimiyle birleştiren kapalı bir döngü kurar:
- Aşamalı Öğrenme (Staged Learning): Deneyim Çarkından gelen veriler ve arayüz temellendirme (grounding) verileri birleştirilerek, ara eğitim (mid-training) ve uzun ufuklu gözetimli ince ayar (SFT) süreçleriyle sağlam bir GUI yetkinliği kazandırılır.
- Birleşik Masaüstü-Web Pekiştirmeli Öğrenmesi (Joint Desktop-Web RL): Model politikası, aynı Harness ortamında gerçekleştirilen taze denemelerden öğrenmeye devam eder. Masaüstü ve web ortamlarını birleştiren pekiştirmeli öğrenme süreci, deneyim üretimi ile politika iyileştirmesi arasındaki döngüyü tamamlar.
Model Ailesi ve Performans Çıktıları#
Bu bütünleşik eğitim yaklaşımı sonucunda ortaya çıkan Nano, Mini ve Pro model ailesi; açık kaynaklı modeller arasında GUI temellendirme, masaüstü görev yürütme ve web etkileşimlerinde en gelişmiş (state-of-the-art) sonuçlara ulaşmaktadır.
- NorthCUA-Ultrafast ve Kalite-Gecikme Dengesi: Daha hızlı tepki süresi gerektiren web iş akışları için geliştirilen NorthCUA-Ultrafast, RL öncesi Nano modeli üzerinde doğrudan aksiyon seçimini açık uçlu üretimle eşleştirerek ölçülü bir kalite-gecikme (quality-latency) dengesi sunar.
Yazılım Geliştirme ve Mühendislik İçin Pratik Çıkarımlar#
Çok adımlı ajan (multi-step agent) sistemleri geliştiren mühendisler için NorthCUA mimarisi kritik dersler barındırmaktadır:
- Ara Durumları (Milestones) Kaydedin: Uzun süreli ajan görevlerinde başarısızlık durumunda tüm süreci sıfırlamak yerine, doğrulanmış ara adımları saklayan (checkpointing) ve buradan devam eden mimariler kurgulayın.
- Ortam ve Eğitim Döngüsünü Birleştirin: Ajanların üretim ortamındaki (Harness) gerçek etkileşim kayıtlarını doğrulayarak bir "Golden Dataset" haline getirmek, modelin ince ayar (SFT) ve RL süreçlerini doğrudan besleyen en değerli kaynaktır.
- Senaryoya Göre Model Seçimi Yapın: Karmaşık masaüstü otomasyonları için yüksek kapasiteli modelleri (Pro) tercih ederken, düşük gecikme gerektiren canlı web etkileşimlerinde doğrudan aksiyon seçimine odaklanan hafifletilmiş (Ultrafast/Nano) varyantları kullanın.
Bu konuyu derinlemesine öğrenmek isterseniz: Tool Calling ve Multi-Step Agent'lar modülüne göz atın.
Kaynak ve atıf
Bu yazı, Hugging Face Papers üzerinde yayımlanan içerikten yararlanılarak Edumints tarafından yapay zekâ desteğiyle Türkçe hazırlandı. Ayrıntılar ve yazarların kendi anlatımı için orijinaline bakabilirsin:
- huggingface.co/papers/2611.02102