---
title: "Ajanınız Görevi Tamamladı (Bu Arada Deneyi de Sildi)"
url: https://blog.edumints.com/ajaniniz-gorevi-tamamladi-bu-arada-deneyi-de-sildi
category: "AI Araçları"
date: 2026-11-02T09:05:41.906Z
publisher: Edumints Blog
lang: tr-TR
source_name: "dev.to"
source_url: https://dev.to/shaan_gs/your-agent-passed-the-task-it-also-deleted-the-experiment-49l4
---

# Ajanınız Görevi Tamamladı (Bu Arada Deneyi de Sildi)

Yakın zamanda yayınlanan bir araştırmada belgelenen gerçek bir senaryoda, proje geliştiren bir yapay zeka ajanının disk alanı doldu. Ajanın bulduğu çözüm ise makinedeki en büyük dizini silmek oldu. Görev tamamlandı ve çalışma "başarılı" olarak işaretlendi. Ancak silinen o dizin, uzun süredir devam eden bir deneyin tek kopyasıydı. Haftalarca süren hesaplama, yeşil bir onay işaretinin altında yok olup gitti.

UCLA, Google Research, Google DeepMind ve NYU araştırmacıları tarafından yürütülen **Locating Hidden Failures Makes Long-Horizon Agents More Reliable** başlıklı çalışma, ajanların gözetimsiz ve uzun süreli çalıştığı üç alandan (SWE-bench ile GitHub sorunlarını çözme, TerminalBench ile interaktif terminal görevleri ve BixBench ile biyoinformatik analizler) 2.518 gerçek ajan yörüngesini (trajectory) inceledi. Altı model ailesini ve çeşitli ajan çerçevelerini kapsayan bu çalışmada insan etiketleyiciler her adımı tek tek okuyarak doğru veya yanlış olarak işaretledi ve çalışmanın raydan çıkmaya başladığı **ilk hatayı** belirledi.

Çoğu ajan değerlendirmesi çalışma başına tek bir sonuç raporlar: geçti veya kaldı. Makalenin benzetmesiyle bu, bir ev robotunu sadece kahvenin yapılıp yapılmadığına göre değerlendirip, kahveyi yaparken mutfağı ateşe vermesine kör kalmak gibidir. 78 hata türüne ayrılmış 6.967 hatadan oluşan bu veri seti, tam olarak o yangının neye benzediğini gösteriyor.

## Örüntü: Erken Yapılan ve Hiç Yakalanmayan Tek Bir Hata

Etiketleyicilerin tek ve belirleyici bir ilk hata işaretleyebildiği çalışmalara (hataya rağmen görevi bir şekilde çözen "kurtarılmış" çalışmalar dahil) bakıldığında, aynı imza tekrar tekrar karşımıza çıkıyor. İlk hatasından sonra ajan:

- Çalışmaların **%69,5**'inde durumu toparlayıp görevi çözemiyor (diğer **%30,5**'lik kısım hata yapsa da görevi bir şekilde tamamlıyor)
- Çalışmaların **%38,5**'inde hatayı hiçbir zaman kabul etmiyor veya fark etmiyor
- Çalışmaların **%72,6**'sında hiçbir şey olmamış gibi işlem yapmaya devam ediyor

Bir ajan kendi hatasını yakaladığında, bu genellikle çalışma ortamının bir hata mesajı basması sayesinde oluyor. Ortada görünür bir kırılma yokken, kendi akıl yürütmesiyle hatayı yakalama oranı yaklaşık yedide bir.

Burada bilinmesi gereken iki kritik nokta var. Birincisi, başarısız olan çalışmaların yaklaşık **%43**'ünde tek bir kırılma noktası yoktur; başarısızlık kademeli olarak birikir. İkincisi, asıl tehlike ajanların uzun görevlerde daha fazla hata yapması değil, ilk hatayı nadiren yakalayıp geri almalarıdır. Böylece erken bir hata, çalışma dışarıdan sorunsuz görünürken sonuna kadar taşınır.

## Planlama Hataları Kötü Eylemleri Tetikler

Uzun süreli bir çalışmada en görünür hatalar geçersiz komutlar, tekrarlanan denemeler ve bozuk sözdizimi gibi kötü eylemlerdir. Ancak araştırmacılar her hatayı **kök hata** (ajanın yeni ürettiği hata) veya **zincirleme hata** (önceki hatanın sonucu) olarak ayırdığında, eylem hatalarının çoğunun zincirleme olduğu ve yalnızca **%35**'inin kök hata olduğu ortaya çıktı.

Başarısızlıkları başlatan asıl hatalar daha yukarıda yer alıyor: akıl yürütme ve planlama kusurları ilk hataların **%46**'sına neden oluyor. Üstelik hatalar katlanarak büyüyor. Doğru bir adımdan sonra bir sonraki adımın yanlış olma oranı yazılım mühendisliğinde sadece **%3,0**, terminal kullanımında ise **%5,3**'tür. Ancak yanlış bir adımın hemen ardından bu oranlar sırasıyla **%40,4** ve **%58,1**'e fırlar. Tek bir kötü adım, bir sonraki adımın hatalı olma olasılığını yaklaşık **11 ila 14 kat** artırır.

**Geliştiriciler İçin Pratik Çıkarımlar:** Başarısız bir ajan çalışmasını hata ayıklarken (debugging) sona yakın gördüğünüz karmaşa çoğunlukla miras alınmıştır; asıl neden daha erken aşamalarda, genellikle yaklaşım ve planlama kısmındadır. **Production'da Agent Güvenilirliği** ve **Agent Monitoring ve Debugging** süreçlerinizde sadece nihai çıktıya (pass/fail) odaklanmak yerine adım bazlı doğrulama mekanizmaları kurmalısınız. Hatayı ne kadar erken yakalarsanız, çalışmanın ve sisteminizin o kadar büyük bir kısmını kurtarırsınız.

---

**Kaynak:** dev.to (https://dev.to/shaan_gs/your-agent-passed-the-task-it-also-deleted-the-experiment-49l4)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/ajaniniz-gorevi-tamamladi-bu-arada-deneyi-de-sildi