Agora: Kolektif Otonom Araştırma İçin Paylaşılan Bellek Olarak Git

Kolektif Ajan Araştırması ve Paylaşılan Bellek

AutoResearch gibi otonom araştırma döngüleri, tek bir kodlama ajanının insan müdahalesi olmadan model eğitim düzeneklerini geliştirebildiğini göstermektedir. Ancak birden fazla ajan bağımsız çalıştırıldığında her oturum sıfırdan başlar; bu durum ölçeklendikçe keşif yerine aynı arama süreçlerinin tekrar edilmesine yol açar. Agora, bu sorunu çözmek adına ajanlar için ortak bir hafıza katmanı sunar:

Git Tabanlı Append-Only DAG: Tüm araştırma süreci Git üzerinde salt-eklemeli bir yönlü döngüsüz çizge (DAG) olarak kaydedilir. Her iddia, hipotez, içgörü, sonuç ve doğrulama raporu, dayandığı üst adımları gösteren değişmez (immutable) bir commit'tir. Herkes bu commit'leri checkout edip çalıştırabilir.
Türetilmiş İndeks ve Çeşitlilik Kuralı: Türetilen indeks; araştırma cephesini, göz ardı edilmiş dalları ve doğrulama durumunu görünür kılar. Çeşitlilik duyarlı seçim kuralı ise topluluğun tek bir lider dal üzerinde tekdüzeleşmesini (monokültür) engeller.

12 Günlük Ağırlık Aktarımı Deneyi ve Sonuçlar

Sistemin ilk uzun süreli testinde, merkezi bir planlayıcı veya atanmış görevler olmaksızın 13 büyük dil modeli (LLM) çalışanı, yaklaşık 12 gün boyunca bir ağırlık aktarımı (weight-transfer) problemi üzerinde kolektif olarak çalıştı:

Zorlu Başlangıç Kriteri: 141 önceden eğitilmiş donör modelden yararlanan ajanlar, hiçbir donörle boyutları eşleşmeyen 119.6 milyon parametreli donmuş bir attention-SSM hibrit modelini sıfır eğitim verisi ve gradyan güncellemesi olmadan ilklendirmekle görevlendirildi.
Yüksek Başarı Oranı: Ajanlar 1.703 katkı yayımlayarak değerlendirici skorunu 3.39'dan 1.899 bit/bayt seviyesine düşürdü ve eğitilmiş bir GPT-2 124M modeliyle olan performans farkının %62'sini kapattı.
Kazanan Çözüm ve Doğrulama: En başarılı reçete, donör modellerin sonraki token istatistiklerini hedef modelin embedding ve çıkış katmanına sıkıştırdı; attention, feed-forward ve state-space bloklarına seyrek düzenlemeler ekledi. Bu çözüm, 15 farklı hesaba yayılan 145 commit'lik bir soyağacına ulaştı ve paylaşılan 165 bağımsız doğrulamanın hiçbiri başarısız olmadı.
İnsan Müdahalesi ve Keşif Verimi: Süreç sırasında topluluğu monokültüre saplanmaktan kurtaran tek bir insan müdahalesi yapıldı. İz kayıtları paylaşılan durumun gücünü kanıtlasa da işlem birimi başına keşif verimini tam belirlemek için kontrollü karşılaştırmalara ihtiyaç duyulmaktadır.

Yazılım Geliştirme ve Öğrenme Çıkarımları

Yazılım mühendisleri ve çoklu ajan mimarileri tasarlayan geliştiriciler için Agora kritik pratik dersler sunar:

Versiyon Kontrolünün Bellek Olarak Kullanımı: Git'in değişmez yapısı, otonom ajan ekipleri için mükemmel bir dağıtık durum yönetimi ve denetim izi (audit trace) sağlar.
Tekrarlayan İşlerin Önlenmesi: Ajanların birbirlerinin çalışmalarını doğrulaması ve dallanarak ilerlemesi token ve işlem maliyetlerini dramatik şekilde düşürür.
Human-in-the-Loop Gereksinimi: Ajan toplulukları yerel optimumlara kilitlendiğinde, insan müdahalesi çeşitliliği korumak için hayati bir yönlendirici olmaya devam etmektedir.

[Orijinal kaynağa buradan ulaşabilirsiniz.](https://huggingface.co/papers/2609.18094)

Bu konuyu derinlemesine öğrenmek isterseniz: Production'da Agent Güvenilirliği modülüne göz atın.