EvoMemState: Kişisel Ajanlar İçin Evrimleşen Bellek Durumu

Olgudan Duruma: LLM Ajanlarında Uzun Vadeli Bellek Sorunu#

Uzun vadeli bellek, büyük dil modeli (LLM) tabanlı ajanların etkileşimler boyunca kullanıcı bilgilerini koruyarak kesintisiz ve kişiselleştirilmiş destek sunmasını sağlar. Mevcut sistemler bu süreci olgu çıkarımı (fact extraction), organizasyon, güncelleme ve geri getirme (retrieval) adımlarıyla desteklese de, anıları büyük ölçüde birbirinden bağımsız olgular olarak saklar.

Yazılım geliştirme açısından bakıldığında, yalnızca vektör veritabanlarına düz metin parçaları kaydetmek ciddi bir mimari sınırlamadır. Bu olgu merkezli paradigma (fact-centric paradigm), yeni bilgilerin önceki bilgileri nasıl güncellediğini, kısıtladığını veya onlarla nasıl çeliştiğini göz ardı edebilir. Ayrıca bu bilgilerin mevcut kullanıcı isteği için uygulanabilirliğini, rolünü ve önceliğini belirsiz bırakır.

Bu sorunu aşmak için geliştirilen EvoMemState, kalıcı olguları iki tamamlayıcı durumla güçlendiren durum merkezli (state-centric) bir çerçevedir:

• İlişkisel Durumlar (Relational States): Bellek zamanla evrimleşirken olguların nasıl geçerli kaldığını ve birbirleriyle nasıl ilişkilendiğini yakalar.
• Akıl Yürütme Durumu (Reasoning State): Bu olguların mevcut isteğe nasıl uygulanması gerektiğini belirler.

EvoMemState Mimarisinin Üç Temel Bileşeni#

EvoMemState, kişisel ajanların bellek yönetimini yapılandırmak için üç ana bileşenden oluşur:

• (i) Ontoloji Güdümlü Bellek Durumu Çıkarımı (Ontology-Guided Memory State Induction): Ham diyaloglardan Kalıcı Olguları (Persistent Facts) çıkarır ve bu olguların geçerliliğini, kapsamını ve gelişen ilişkilerini koruyan İlişkisel Durumları inşa eder. Geliştiriciler için bu aşama, ajan belleğini düzensiz metin yığınları yerine şema ve ontoloji destekli bir durum grafiği olarak modellemenin önemini gösterir.
• (ii) Pekiştirmeli Öğrenme Tabanlı Durum Evrimi (RL-Based State Evolution): Bellek kullanım deneyimini pekiştirmeli öğrenme (reinforcement learning) yoluyla bir politikaya dönüştürerek içselleştirir ve o anki isteğe özel bir Akıl Yürütme Durumu üretir. Pratik mühendislik perspektifinden bu bileşen, statik prompt kuralları yerine ajanın hangi bağlamda hangi belleği nasıl kullanacağını deneyimle öğrenmesini sağlar.
• (iii) Durum Farkındalıklı Akıl Yürütme (State-Aware Reasoning): İlgili olguları kendi İlişkisel Durumları ve üretilen Akıl Yürütme Durumu ile birleştirerek kişisel ajana yanıt üretimi sırasında rehberlik eder. Böylece ajan, yalnızca bilgiyi hatırlamakla kalmaz, bilginin güncel geçerliliğini ve önceliğini de hesaba katarak hareket eder.

Mühendislik Çıkarımları ve Performans#

Uzun vadeli diyalog ve bellek kullanımı kıyaslamalarında (benchmarks) yapılan kapsamlı deneyler, EvoMemState yaklaşımının mevcut bellek sistemlerine kıyasla geri getirme bütünlüğü (retrieval completeness) ve belleğe dayalı yanıt doğruluğu (memory-grounded response accuracy) konularında tutarlı iyileştirmeler sağladığını göstermektedir.

Üretim ortamında güvenilir ajanlar (Production'da Agent Güvenilirliği) ve ileri akıl yürütme teknikleri üzerine çalışan geliştiriciler için temel çıkarım nettir: Kullanıcı tercihleri zamanla değişir ve çelişir. Ajan mimarilerinde sadece "ne söylendiğini" saklamak yetmez; bilginin geçerlilik kapsamını ve mevcut görevdeki önceliğini açık bir durum (state) olarak yönetmek gerekir. Sistemin açık kaynak kodlarına ve uygulama detaylarına GitHub deposu üzerinden erişilebilir.