Ajanların Hafızaya Değil, Dokümantasyona İhtiyacı Var

Piyasadaki yapay zekâ bellek eklentileri konuşmalarınızı analiz eder, binlerce yalıtılmış metin parçacığı üretir ve bunları bir vektör veritabanına kaydeder. Her isteminizde en benzer beş parçayı bağlama ekler; ajanınızın kafası karıştığında ise daha fazlasını aratır. "Bellek" olarak pazarlanan bu yaklaşım, çözülmek istenen problem düşünüldüğünde oldukça gariptir. Geliştirici olarak ajandan beklediğiniz şey projenizi anlamasıdır; bir özelliğin nerede olduğunu, neden inşa edildiğini, ne üzerinde anlaşıldığını ve nelerin önemsendiğini kavraması gerekir. Oysa elde edilen sonuç, her istemde doğru parçaların yüzeye çıkmasını umduğunuz bir RAG piyangosundan ibarettir. Bellek eklentisi ekosistemi bütünüyle yanlış problemi çözmektedir; çünkü ajanların hafızaya değil, dokümantasyona ihtiyacı vardır.

Her Şey Sadece RAG'den İbaret

Piyasadaki tüm bellek eklentileri temelde aynı beş adımlı döngüyle çalışır:

Oturum transkriptlerini baştan sona taramak.
Konuşmalardan izole "bellek" parçacıkları üretmek.
Üretilen bu parçacıkları bir RAG veritabanına eklemek.
Her istemde (prompt) en benzer ilk beş parçayı çekip bağlama enjekte etmek.
Daha fazlası gerektiğinde ajana RAG veritabanında arama yapabileceği bir araç sunmak.

Bazı araçlar geçmiş transkriptleri kelimesi kelimesine aratarak, kısa ve uzun vadeli hafıza katmanları kurarak ya da arka planda anıları gece boyunca yeniden yazan "rüya görücüler" (dreamers) ve reranker'lar çalıştırarak bu yapıyı süsler. Ancak her eklenti, alttaki hatalı mimariyi düzeltmek için sürekli token tüketen yeni özellikler eklemekten öteye gidemez.

Geri Çağırmanın (Recall) Yarattığı Sorunlar

Tüm bu bellek eklentileri aynı temel çıkmazlardan muzdariptir:

Belleklerin benzerliğe göre getirilmesi: Vektör uzayındaki benzerlik, bilginin güncel, doğru veya eksiksiz olduğunu göstermez; yalnızca iki metnin yakınlığını ölçer.
Belleklerin bağlamdan yoksun saklanması: Küçük parçacıklara bölünen metinler; mimari kısıtları, kararların arkasındaki motivasyonları ve teknik bağlamı kaybeder.
Geçmişin mutlak doğru kabul edilmesi: Kod tabanı her gün değişirken, transkriptlerde kalan yüzlerce eski bilginin bugün hâlâ geçerli olup olmadığı bilinemez.
Ajanların bilmedikleri şeyi arayamaması: Ajana arama aracı verilse bile, neyi bilmediğini bilmeyen bir sistem bu aracı ne zaman kullanacağını kestiremez.
Deponun denetlenemez (unauditable) olması: Veritabanındaki binlerce embedding içinde hangilerinin eskidiği veya ajanı gizlice yanlış yönlendirdiği denetlenemez.

Yazılım Geliştirme Açısından Pratik Çıkarım

Tüm bu sistemler "Ajanlar unutur, çözüm daha iyi hatırlamaktır" yanılgısına dayanır. Oysa gerçek dünyada hiçbir yazılım ekibi bir mimari kısıtı hatırlamak için üç yıl önceki toplantı kayıtlarını yeniden izlemez; kararları dokümante eder. Üretim ortamında güvenilir ajanlar inşa etmek, geçmişi stokastik olarak aramaktan değil; mimari karar kayıtları (ADR), şemalar ve yaşayan proje dokümantasyonu (AGENTS.md) oluşturmaktan geçer. Ajanlar bulanık anılara değil, yapılandırılmış dokümantasyona ihtiyaç duyar.

Orijinal kaynağa buradan ulaşabilirsiniz.

Bu konuyu derinlemesine öğrenmek isterseniz: Production'da Agent Güvenilirliği modülüne göz atın.