Onay Kuyruğu Deseni: İnsanı Sürece Dahil Ederken Ayak Bağı Yapmamak

§ 01 · "Döngüdeki İnsan" (Human in the Loop) Yanılgısı

Ciddi bir yapay zekâ ajanı mimarisi kuran her ekip, sistemi bir noktada insan denetimine bağlar. Ancak "human in the loop" çoğunlukla yüzeysel bir güvenlik onay kutusu gibi ele alınır. Oysa üretim ortamında insan faktörü ne ikilidir ne de bedavadır; gerçek maliyeti gecikme (latency) ve dikkat kaybıdır.

Ajan her adımı eskalasyonla insana taşırsa, ortadan kaldırması gereken darboğaza kendisi dönüşür. Hiçbir şeyi taşımazsa insan sadece vitrin süsü haline gelir. Pratikte ekipler daha tehlikeli bir noktaya savrulur: Ajan önemsiz ve kritik işleri karışık biçimde iletir; insan çoğunun önemsiz olduğunu görünce okumadan onaylamaya başlar. Sonuçta yönetişim adı altında işlevsiz bir "otomatik onaylayıcı" (rubber stamp) oluşur. Onay Kuyruğu (Approval Queue) deseni, insan dikkatini bilerek pahalı bir kaynak sayar ve bunu sadece sonucu gerçekten değiştireceği yerde harcar.

§ 02 · Temel Fikir: Bir Buton Değil, Kalıcı Bir Desen

Onay kuyruğu; ajanın kendi yetkisiyle doğrudan çalıştırmaması gerektiğine karar verdiği önerilen aksiyonların kalıcı ve sıralı listesidir. Ajan akıl yürütür ve taslağı hazırlar, eylem sınırında durur. İnsan onaylar, düzenler veya reddeder; tüm kararlar ve onaylayan kişi kaydedilir.

Bu yapıyı bir desene dönüştüren üç özellik şunlardır:

Kalıcıdır (Durable): Sistem çökmesi, yeniden başlatma veya tatillerden etkilenmez; bellekte değil, veri tabanında yaşar.
Sıralı ve Sınırlıdır (Ordered and Bounded): Öğelerin önceliği ve yaşı vardır. Belirlenen SLA süresi aşıldığında sessiz kalınmaz, eskalasyon tetiklenir.
Sınırda Geri Alınabilirdir (Reversible at the Boundary): Karar, geri dönüşsüz eylem öncesinde verilir; işlem bittikten sonra gelen bir bildirim değildir.

Kuyruğun birimi tüm konuşma geçmişi değil, doğrudan önerilen somut eylemdir.

§ 03 · Her Onay Maddesinin Taşıması Gereken Dört Alan

Bağlamsız bir "Ajan X yapmak istiyor, onaylıyor musunuz?" sorusu insanı ya kör onaylamaya ya da süreci yavaşlatmaya iter. Her kayıt şu dört alanı taşımalıdır:

Eylem (The Action): Belirsiz bir özet değil; alıcısı ve tam içeriğiyle çalıştırılmaya hazır somut işlem.
Gerekçe (The Justification): Ajanın bunu neden önerdiğini açıklayan bir-iki cümlelik tetikleyici veya kural. Ajan gerekçe sunamıyorsa bu doğrudan ret nedenidir.
Etki Alanı (The Blast Radius): Eylemin dokunduğu sınırlar ve geri alınabilirliği. İnsana riskin maliyeti net biçimde sunulmalıdır.
Güven ve Alternatif (The Confidence and Alternative): Ajanın eminlik düzeyi ve olası ret anında devreye sokacağı alternatif planı.

Bu alanlar, belirsiz bir isteği saniyeler içinde güvenle karar verilebilir hale getirir.

§ 04 · Kuyruğa Neler Girer, Neler Girmez?

Yazılım geliştirme ve ajan mühendisliği açısından pratik çıkarım açıktır: Yalnızca geri dönülemez, yüksek riskli ve sonucu doğrudan değiştiren kritik operasyonlar onay kuyruğuna alınmalıdır. Düşük riskli, geri alınabilir ve rutin adımlar ise ajanın otonomisine bırakılmalıdır; aksi takdirde insan dikkati tükenir ve güvenlik mekanizması çöker.

Orijinal kaynağa buradan ulaşabilirsiniz.

Bu konuyu derinlemesine öğrenmek isterseniz: Production'da Agent Güvenilirliği modülüne göz atın.