Ajan Belleği: Claude "Dreaming" İle Hatalı Notları Nasıl Onarıyor?

Ajan belleği (agent memory), yapılan bir hatayı her yeni oturuma taşıyabilir. Anthropic'in 6 Kasım tarihli "The components of agent memory" makalesi, yanlış kaydedilmiş bir Pokémon konum işaretinin tekrarlanan başarısızlıklara nasıl yol açtığını ve ardından oturum dökümü (transcript) destekli bir onarım sürecini inceliyor. Yazılım mühendisliği açısından en değerli ders ise ayrı bir sözleşme görevinden çıkıyor: Aynı bellek tablosunu düzenleyen birden fazla ajan, kritik bilgileri kolayca kaybedebiliyor.

Özet (TL;DR)#

• Anthropic, oturum dökümlerini inceleyen ve kalıcı bağlamı (persistent context) yeniden düzenleyen ek oturumları tanımlamak için "dreaming" (rüya görme) terimini kullanır. Buradaki ajan belleği tanımı, model ağırlıklarındaki (model weights) değişiklikleri kapsamaz.
• Yanlış bir konum işaretinin düzeltilmesi, incelenen Pokémon senaryosunda ajanın Cerulean City'ye ulaşmasını sağlamıştır. Bu bulgu kaynak incelemesine dayanmaktadır; bağımsız bir oyun tekrarı yapılmamıştır.
• Bağlantılı bir wiki yapısı bazı doküman sorularında yardımcı olurken, diğer görevlerde net bir kazanım sağlamamış ve hatta bir wiki, kaynak dokümanlarından daha büyük hale gelmiştir.
• Sözleşmeye özel sayfalar, sayfa başına tek bir yazıcı (single writer) kuralı ve ifadelerin birebir (verbatim) korunması, bir görevdeki 57 derecelendirilmiş bilginin tamamını kurtarmıştır. Bu değişiklikler birlikte test edilmiştir.

Ajan Belleği Eski Bir Hatayı Nasıl Korur?#

Anthropic, ajan belleğini oturumlar arasında korunan ve ajanın daha sonra okuyabildiği bağlam içi bilgi olarak tanımlar. Bir dosya klasörü bile bellek deposu görevi görebilir. Çevreleyen yazılım hangi notların sonraki oturuma ekleneceğini belirler ve model bu notları mevcut bağlamıyla birlikte kullanır.

Bu mimari, kaydedilen bir iddiaya uzun bir ömür verir. Doğru bir kural tekrarlayan araştırmaları önlerken, yanlış bir kural hatayı sürekli tekrar etmenin güvenilir bir yoluna dönüşür. Kalıcılık mekanizmasının, dosyadaki bir cümlenin doğru olup olmadığını bilen yerleşik bir doğrulama yeteneği yoktur.

Pokémon Red örneği bu sorunu somutlaştırır: Claude, Mount Moon girişi yakınındaki bir Pokémon Merkezini referans noktası olarak kullanmış ancak binayı dağın batısı yerine doğu tarafında olarak yanlış kaydetmiştir. Binadan çıktığında mağarayı çoktan geçtiğini varsaymış ve tek yönlü bir çıkıntıdan (ledge) atlayarak geldiği rotaya geri dönmüştür. Navigasyon aracı bu düşüşü göstermeyince Claude durumu "hedefi aşmak" olarak yorumlamış ve temel konum hatası varlığını sürdürmüştür. Üçüncü düşüşten sonra model "Döngüye girmektense duracağım" yazsa da deneysel kurgu devam etmesini söylemiş ve düzeltilmeyen bu dal Cerulean City'ye ulaşamadan önceki bir kasabaya yönelmiştir.

Claude "Dreaming" Gerçekte Neyi Değiştirir?#

Araştırmacılar, hatalı notun bulunduğu klasör üzerinde dreaming sürecini çalıştırmıştır. Claude, mevcut notu orijinal oturum dökümüyle karşılaştırmış, hatayı yakalamış ve belleği yeniden yazmıştır. Düzeltilmiş dal, Mount Moon'a yeniden girerek Cerulean City'ye ulaşmayı başarmıştır.

Geliştiriciler İçin Pratik Çıkarımlar (Production'da Agent Güvenilirliği): Bu onarım yalnızca kalıcı bağlamın bir parçasını değiştirir; model ağırlıklarını güncellemez veya genel bir zeka artışını kanıtlamaz. Güncel Managed Agents Dreams dokümantasyonunun da belirttiği gibi bu yapı, mevcut belleği okuyan asenkron bir görev (asynchronous job) olarak çalışır. Çok ajanlı sistemler geliştirirken bellek çakışmalarını önlemek için sayfa başına tek yazıcı atamak ve kritik terimleri özetlemeden birebir saklamak, üretim ortamında ajan güvenilirliğini doğrudan artıracaktır.