Yapay Zeka Kodlama Asistanlarının Oturumlar Arasında Düzeltilmiş Hataları Tekrarlaması Nasıl Önlenir?

Negatif Geri Bildirim Döngüleri Olmadan Hafıza Yetersiz Kalır#

Salı günü yapay zeka asistanınıza migration betiğinin asla staging veritabanına dokunmaması gerektiğini söylediniz; asistan onayladı, kodu düzeltti ve oturum kapandı. Perşembe günü yeni bir oturumda asistan aynı migration'ı staging üzerinde tekrar çalıştırdı. Nedenini açıkladığınız not hafızasında duruyordu; eski hatalı yaklaşımla birlikte modele iletildi, ancak hangisinin başarısız olduğuna dair hiçbir ayrım yoktu. Hatayı düzelttiniz, açıkladınız ama sorun geri döndü.

Buradaki temel mekanik soru şudur: Bir bilginin çağrılması (recall) kötü bir sonuç verdiğinde, hafıza katmanında herhangi bir şey değişiyor mu? Sadece yeni bir düzeltme yazmak çözümü sağlamaz. Hatanın bulunduğu hafıza kaydı hâlâ depodadır ve geri çağırma için geçerliliğini korur. Yeni oturumda modelin önüne düzeltmeyle yan yana gelir. Hatayı depolamak ile ondan öğrenmek tamamen farklı süreçlerdir. Depolamak, hatanın tekrar okunabilmesi demektir. Öğrenmek ise kötü sonuç nedeniyle sistemin bir sonraki eyleminin değişmesidir. Kötü bir geri çağırmayı bildirmek sonraki okumayı değiştirmiyorsa elinizde bir öğrenme sistemi değil, yalnızca bir günlük vardır.

Dört Farklı Hafıza Sisteminde Negatif Geri Bildirim İncelemesi#

Sağlayıcıların dokümantasyonları derinlemesine incelendiğinde, negatif bir kararı kabul eden girdi mekanizmasına sahip 4 sistem öne çıkmaktadır:

• Cognee: cognee.session.add_feedback girdisi ile geri bildirim metni ve 1-5 arası bir puan alır. Bir oturum içerisindeki çağırma cevabına bağlanır. Dokümantasyona göre geri bildirimin gelecekteki getirmeleri etkilemesi için ilgili session_id değerleri ile improve() çalıştırılmalıdır.
• Mem0: POST /v1/feedback/ uç noktası üzerinden POSITIVE, NEGATIVE ve VERY_NEGATIVE değerlerini kabul eder. Bellek ID'sine bağlanır; hafıza sonuçlarına geri bildirim sağlamak içindir ancak dokümantasyonda getirme sıralamasını nasıl etkilediği belirtilmemiştir.
• Letta: PATCH /v1/steps/{step_id}/feedback üzerinden pozitif veya negatif değer alır. Bir yürütme adımına (execution step) bağlıdır. Bir adım için geri bildirimi günceller, fakat dokümantasyonda bu işlemin getirme sırasıyla bir bağlantısı kurulmamıştır.
• Supermemory: approve, decline ve undo inceleme uç noktalarını sunar. Kullanıcının doğrudan belirttiği değil, motorun çıkardığı (inferred) bir belleğe bağlanır. İncelenmemiş bellek aramalarda daha düşük ağırlık alırken, reddedilen (declined) bellek aramadan tamamen kaldırılır.

Yazılım Geliştirme ve Öğrenme Açısından Pratik Çıkarımlar#

AI asistanlarıyla çalışırken agent ve bellek mimarilerinde sadece bağlam biriktirmek yeterli değildir:

• Hafızayı Salt Log Olarak Görmeyin: Hatayı ve düzeltmeyi belleğe art arda eklemek modeli kararsız bırakır; cezalandırılmayan hatalı kalıplar varlığını sürdürür.
• Negatif Geri Bildirim ve Yeniden Sıralama: Başarısız çıktıların puanlama veya filtreleme katmanında elenmesi ya da arama ağırlığının düşürülmesi (Supermemory örneğindeki gibi) şarttır.
• Aktif İyileştirme Döngüleri: Cognee'nin improve() mekanizmasında olduğu gibi, oturum sonrasında hafıza vektörlerini optimize eden ek tetikleyiciler kurgulanmalıdır.

---

Bu konuyu derinlemesine öğrenmek isterseniz: Production'da Agent Güvenilirliği modülüne göz atın.