Kalıcı Bellek: Vektör Veritabanları Neden Yetersiz Kalır?

Yapay zeka sistemleri geliştirirken aktif çalışma belleği (RAM) sıfırlandığında, sistemin sonraki görevlerde yararlanacağı bilgi nereden gelir? Çoğu geliştiricinin ilk yanıtı "vektör veritabanı" olur. Ancak vektör veritabanı yalnızca bir uygulama aracıdır; kalıcı belleğin (durable memory) mimari tanımı değildir.

Kalıcı Bellek Kürasyon Gerektirir

Aktif bellek RAM ise, kalıcı bellek sadece "disk" demek değildir. Disk her şeyi saklarken, kalıcı bellek yalnızca bilinçli olarak korunması seçilenleri tutar. Kalıcı bellek bir depo alanı değil, bir ilkeler bütünüdür (policy).

Kalıcı bellek katmanı şunları barındırır:

Teknik şartnameler
Kullanıcı tercihleri
İmzalı kanıtlar
Mimari Karar Kayıtları (ADR'ler)
İlkeler ve kurallar
Doğrulanmış gözlemler
Yapılandırılmış alan bilgisi
Geçmiş etkileşimler

Buna karşın şu geçici unsurlar elenmelidir:

Karalama hesaplamaları
Ara akıl yürütme adımları
Geçici araç çıktıları
Mükerrer bilgiler
Kısa ömürlü bağlamlar

Neyin Hayatta Kaldığı Önemlidir

İnsan zihni gibi yapay zeka ajanları da modelden geçen her bilgiyi saklamamalıdır. Bir kod tabanını güncelleyen ajan; onlarca commit okuyup araç çağrıları yapabilir. Görev tamamlandığında tüm bu geçici işlem yükü değil, yalnızca doğrulanıp damıtılmış bilgi kalıcılaşmalıdır.

Bellek Bir Yazma Problemine Dayanır

Yapay zeka projelerinde odak genellikle getirme (retrieval) optimizasyonundadır; oysa asıl kritik soru yazma anında sorulmalıdır: "Bu bilgi gerçekten hatırlanmalı mı?" Geliştiriciler olarak geçici değişkenleri veya önbellekleri Git'e kaydetmediğimiz gibi, ajan sistemlerinde de her veriyi yazmamalıyız. Her şeyi saklamak sistemi bir "Dijital Tavan Arasına" (Digital Attic) çevirir ve çelişkili bağlamlar yüzünden "Ajan Bocalamasına" (Agentic Thrashing) yol açar.

Depolama ile Bellek Arasındaki Fark

Depolama ve bellek kavramsal olarak ayrılmalıdır:

Depolama şunu sorar: "Bunu saklayabilir miyiz?"
Bellek ise şunu sorar: "Bunu saklamalı mıyız?"

Dosya sistemleri saklar; kalıcı bellek ise neyin kalacağına karar verir.

Yazma Sınırı (Write Boundary)

Geleneksel yazılımda API sınırları ne kadar önemliyse, ajan mimarilerinde de yazma sınırı (Write-Side Custody) o kadar kritiktir. Kalıcı belleğe aktarılmak istenen her bilgi şu soruları yanıtlamalıdır:

Yetkili bir kaynaktan mı geliyor?
Doğrulandı mı?
Mevcut bilgiyi tekrar ediyor mu?
Geçerlilik süresi var mı?
Kaynağı/kökeni (provenance) kanıtlanabiliyor mu?
Mevcut görevin ötesinde yararlı mı?

Köken Bilgisinin Başladığı Yer

Dayanağını açıklayamayan bir belleğe güvenilemez. Kalıcı bir veri şu soruları cevaplayabilmelidir:

Kim oluşturdu?
Ne zaman oluşturuldu?
Hangi yetkiyle üretildi?
Hangi kanıta dayanıyor?
Değişti mi?
Doğrulanabilir mi?

Dayanağı olmayan bilgi sadece dedikodudan ibarettir.

Kalıcı Bellek Mimari Bir Sorumluluktur

Kalıcı bellek basit bir depolama çözümü değil, görevi aşan bilginin seçilmesini sağlayan bir altyapı sorumluluğudur. Yazılım geliştiriciler için çıkarım nettir: Güçlü ajanlar inşa etmenin yolu, daha büyük vektör indekslerinden değil, yazma anında uygulanan sıkı kürasyon ve köken doğrulamasından geçer.

Orijinal makaleye buradan ulaşabilirsiniz.