FlowState: Uzun Ufuklu LLM Ajanları İçin Bellek Olarak Yürütme Durumu

Uzun soluklu (long-horizon) görevler, Büyük Dil Modeli (LLM) ajanlarının önceki etkileşimlerden elde edilen bilgileri sürekli olarak kullanmasını gerektirir. Ancak yazılım geliştirme süreçlerinde çok adımlı ajanlar inşa ederken kritik bir ikilemle karşılaşırız: Tüm geçmişi bağlamda (context) tutmak token maliyetlerini artırırken, geçmişi sıkıştırmak veya özetlemek daha sonraki adımlarda ihtiyaç duyulabilecek kritik detayların kaybolması riskini doğurur. Üstelik geçmişteki bir bilginin görevle olan ilgisi, çoğu zaman ancak görev ilerledikçe ve yeni durumlar ortaya çıktıkça netleşir.

FlowState Mimarisi ve Çalışma Prensibi#

Bu zorlukları aşmak için önerilen FlowState, yürütme durumunu (execution state) istekler arasında korunabilen ve tekrar ziyaret edilebilen bir bellek olarak ele alır. Böylece mevcut karar alma süreçleri ile geçmiş bilgilerin yeniden kullanımı tek bir yapıda birleştirilir.

FlowState mimarisinin temel bileşenleri şunlardır:

• Anlamsal Olarak Tiplendirilmiş Durum Düğümleri (State Nodes): Sistem; durum düğümlerini, bunlar arasındaki ilişkileri ve ham araç gözlemlerine (raw tool observations) olan referansları korur. Bu sayede kalıcı saklama (persistent retention) ile isteğe bağlı erişim (on-demand access) birbirinden ayrılır.
• Artımlı Durum Güncellemesi (Incremental State Update - ISU): Tek bir yürütme döngüsü içinde çalışan ISU, yeni girdilere ve geri bildirimlere dayanarak mevcut durumu güncel tutar.
• Aşamalı Durum Erişimi (Progressive State Access - PSA): Akıl yürütme (reasoning) sırasında ihtiyaç duyuldukça geçmiş durumları ve destekleyici kanıtları aşamalı olarak ortaya çıkarır.

Bu iki mekanizma birlikte çalışarak ajanların yeni bilgiler ışığında önceki kararlarını yeniden değerlendirmesine ve sonraki eylemlerini daha sağlıklı yönlendirmesine olanak tanır.

Performans Sonuçları ve Verimlilik Kazanımları#

Aynı DeepSeek-V4-Flash modelini kullanan tam bağlamlı (full-context) bir temel çizgi (baseline) ile karşılaştırıldığında FlowState şu sonuçları elde etmiştir:

• MemoryArena üzerindeki ortalama başarı oranını 4,55 yüzde puanı artırmıştır.
• τ^3-Bench üzerindeki ortalama geçiş oranını (pass rate) 13,95 yüzde puanı iyileştirmiştir.
• Toplam token tüketimini MemoryArena'da %43,2, τ^3-Bench'te ise %40,6 oranında azaltmıştır.

Yazılım Geliştirme ve Mühendislik Çıkarımları#

Üretim ortamında ajan geliştiren mühendisler için bu sonuçlar önemli pratik dersler barındırmaktadır (Tool Calling ve Multi-Step Agent'lar ile Production'da Agent Güvenilirliği konularıyla doğrudan ilişkilidir):

• Ham Gözlemleri Bağlama Yığmayın: Araç çağrılarından (tool calling) dönen büyük JSON yanıtlarını doğrudan mesaj geçmişine eklemek yerine, referans tabanlı bir durum grafiği (state graph) kullanmak hem maliyeti düşürür hem de modelin dikkatinin dağılmasını önler.
• Durum ile Geçmişi Ayırın: Sohbet geçmişini (chat history) doğrudan bellek olarak kullanmak yerine, yapılandırılmış bir yürütme durumu (ISU benzeri) tutmak ve eski detayları yalnızca gerektiğinde (PSA yaklaşımıyla) çağırmak, uzun ufuklu görevlerde hem doğruluğu artırır hem de gecikmeyi (latency) optimize eder.