Daha Az Oku, Daha Çok Çöz: Yapay Zeka Ajanları İçin Dış İçeriklerin Token-Verimli Seyrek Okunması
Kaynak: Hugging Face Papers
İçindekiler 4 başlık
Aşırı Okuma Problemi ve Bağlam Kirliliği#
Web ile etkileşim kuran yapay zeka ajanları; görevlerini yerine getirirken web sayfalarına, belgelere, kod depolarına ve araç (tool) yanıtlarına tekrar tekrar erişir. Ancak mevcut okuma arayüzleri, görevi çözmek için yalnızca seyrek kanıtlara (sparse evidence) ihtiyaç duyulduğu durumlarda bile nesnelerin veya belgelerin tamamını modele sunar. Bu "aşırı okuma" (over-reading) davranışı, hem token maliyetlerini hem de gecikme sürelerini (latency) ciddi oranda artırır. Daha da önemlisi, bağlam penceresine (context window) yığılan gereksiz veriler, asıl ilgili kanıtların seyrelmesine ve modelin odak kaybı yaşamasına yol açar.
SparseRead Mimarisi ve Temel Bileşenleri#
Araştırmacılar, temel ajan modelini değiştirmeden içerik kabulünü yöneten ve yeniden kullanılabilir bir okuma kontrol katmanı olan SparseRead mimarisini sunmaktadır. Farklı kaynak türleri arasında kanıt elde etme süreçlerini standartlaştıran birleşik bir Okuyucu (Reader) arayüzü üzerine kurulan sistem, üç ana mekanizma ile çalışır:
- Okuma Niyeti Protokolü (Read Intent Protocol): Ajanın görev süresince gelişen bilgi ihtiyaçlarını ve incelenen kaynakların kapsama durumunu dinamik olarak takip eder.
- Uyarlanabilir Okuyucu Arka Uçları (Adaptive Reader Backends): İhtiyaç duyulan kanıtın kaynak içinde nasıl tespit edileceğini ve ajana hangi yoğunlukta sunulacağını seçer.
- Bütçeli Okuma Kapısı (Budgeted Read Gate): Her görev döngüsü (episode) başına kümülatif ham veri maruziyetini sınırlandırır; ancak kritik durumlarda bilgi kaybını önlemek için güvenilir tam görünüm yedeklemesi (faithful full-view fallback) sunar.
Performans Sonuçları ve Deneysel Bulgular#
Claude Opus 5 dahil olmak üzere altı farklı model ve beş ayrı senaryo üzerinde gerçekleştirilen kapsamlı testler, SparseRead katmanının çarpıcı kazanımlar sağladığını göstermektedir:
- Toplam token tüketimini %92,9'a kadar, toplam tamamlanma süresini (wall time) ise %89,0'a kadar azaltır.
- Test edilen yapılandırmaların %97'sinde görev kalitesini korur veya daha da iyileştirir.
- Web derin arama (deep-search) görevlerinde token kullanımını %31,0 ile %43,0 arasında, görev tamamlama süresini ise %23,0 ile %37,0 arasında düşürür.
- Ablasyon çalışmaları her üç tasarım bileşeninin katkısını doğrularken, üç farklı ajan çatısı (agent framework) ile yapılan entegrasyon mimarinin taşınabilirliğini kanıtlar.
Yazılım Geliştirme ve Pratik Çıkarımlar#
Edumints platformundaki Tool Calling ve Multi-Step Agent'lar, Production'da Agent Güvenilirliği ve Ölçeklendirme ve Optimizasyon modülleri açısından bu çalışma doğrudan uygulanabilir dersler barındırmaktadır:
- Araç Çıktılarını Ham Halde Modele Beslemeyin: MCP sunucuları veya harici API araçları geliştirirken tüm dosya veya DOM ağacını doğrudan döndürmek yerine, niyet odaklı filtreleme yapan bir ara katman (middleware) tasarlayın.
- Kümülatif Token Bütçesi ve Fallback Kurgulayın: Çok adımlı ajan döngülerinde her okuma adımına bir üst sınır koyun; yalnızca özet veya kesit yetersiz kaldığında tam metin okuma (fallback) mekanizmasını devreye sokun.
- Standart Okuyucu Soyutlaması Kullanın: Kod depoları, PDF'ler ve web sayfaları için tek bir birleşik
Readerarayüzü tanımlamak, kullandığınız ajan çerçevesini değiştirdiğinizde bile okuma optimizasyonunuzu korumanızı sağlar.
Kaynak ve atıf
Bu yazı, Hugging Face Papers üzerinde yayımlanan içerikten yararlanılarak Edumints tarafından yapay zekâ desteğiyle Türkçe hazırlandı. Ayrıntılar ve yazarların kendi anlatımı için orijinaline bakabilirsin:
- huggingface.co/papers/2608.22237