Backend·3 dk okuma·

Bağlam Sabitleme İşe Yarıyor: Bir Servis Değil, Dosyalar

Paylaş
Bağlam Sabitleme İşe Yarıyor: Bir Servis Değil, Dosyalar

Yapay zekâ destekli yazılım geliştirmede geliştiricilerin en sık düştüğü tuzaklardan biri, projeyi sıfırdan anlatmak zorunda kalmamak adına sohbet oturumlarını gereğinden uzun süre açık tutmaktır. Rahul Garg'ın Martin Fowler'ın platformunda yayımlanan yazısında tanımladığı bağlam sabitleme (context anchoring) kavramı, bu sorunu kökten çözmeyi hedefler. Garg'ın turnusol testi son derece nettir: Mevcut sohbet oturumunu kapatıp hiçbir endişe duymadan yenisini başlatabiliyorsanız, bağlamınız doğru şekilde sabitlenmiştir. Uzun oturumlar bir kazanım değil, sistemdeki bir eksikliğin semptomudur.

Bir Servis Değil, Dosyalar

Bağlamın konuşma penceresinin dışında yaşaması gerektiği kabul edildiğinde, bunun nerede tutulacağına karar verilmelidir. Piyasada barındırılan (hosted) birçok "yapay zekâ hafıza servisi" bulunsa da bağlamı doğrudan Git deposundaki Markdown dosyalarına sabitlemek üç temel nedenden ötürü üstündür:

  • Çevrimdışı çalışır: Hesap gerektirmez, harici bir arka uç (backend) bağımlılığı yoktur ve servis kesintisi riski taşımaz.
  • İncelemelerde diff imkânı sunar: Bir ekip arkadaşınız Pull Request (PR) üzerinden mimari bir karar kaydını tartışabilir ve inceleyebilir. Bir vektör veritabanını ise PR sürecinde denetleyemezsiniz.
  • Sağlayıcı kapansa da yaşar: Yapay zekâ ekosisteminde tohum aşamasındaki girişimlerin hızla satıldığı veya kapatıldığı düşünüldüğünde, proje hafızasını üçüncü parti bir sağlayıcıya emanet etmek teorik değil, somut bir operasyonel risktir.

Senkronizasyon opsiyonel ve faydalı bir katman olabilir; ancak projenin ana taşıyıcı altyapısı olmamalıdır.

Kararı Netleştiren Sayılar: Token Vergisi

Aynı ortamda yapılan ölçümler, mimari tercihin istek başına maliyetini açıkça ortaya koymaktadır:

  • Dosya tabanlı hafıza: 1 satırlık indeks ve 15 kayıt ile istek başına 579 token.
  • Barındırılan hafıza MCP: 27 araç şeması (tool schema) ve henüz depolanmış 0 kayıt ile istek başına 8.866 token.

Barındırılan MCP servisi, henüz hiçbir veriyi hatırlamadan dahi yaklaşık 15 kat daha fazla maliyet üretir. Bunun yapısal sebebi, MCP araç şemalarının çağrılsın ya da çağrılmasın her istekte modele gönderilmesidir; geniş bir araç seti kalıcı bir "token vergisi" doğurur. Dosya tabanlı indeks ise hafıza başına yalnızca tek bir satır yükler ve detaylı gövdeyi sadece ilgili olduğunda çeker.

Eklenmesi Gereken Gerçek: Çapalar Çürür

Bağlam sabitlemenin en büyük zorluğu güncelliğini yitirmesidir (staleness). Kararlar tıpkı teknik dokümantasyon gibi eskir; üstelik yapay zekâ bu kayıtları insanlardan çok daha yüksek bir güvenle okur ve sorgulamadan uygular. Örneğin silinmiş bir fonksiyona atıfta bulunan eski bir kayıt, modele mutlak doğru gibi görünür.

Bu çürümeyi önlemek için iki temel çalışma kuralı şarttır:

  • Her sabitleme kaydı mutlaka oluşturulma tarihini ve alınma gerekçesini taşımalıdır.
  • Dosya, fonksiyon veya yapılandırma bayrağı ismi içeren her bilgi, eyleme geçilmeden önce mevcut kod tabanıyla doğrulanmalıdır.

Hafızayı yazmak işin kolay kısmıdır; onu dürüst ve güncel tutmak ise asıl mühendislik çalışmasıdır.

Orijinal kaynağa buradan ulaşabilirsiniz.


Bu konuyu derinlemesine öğrenmek isterseniz: Production MCP Entegrasyonu modülüne göz atın.

Paylaş

Bu konuyu daha derinlemesine öğrenmek ister misin?

Edumints'teki ücretsiz kursları incele ve bugün başla.

Kurslara Göz At →