İnsan-Döngüde (Human-in-the-loop) Bir Güvenlik Ağı Değil, Uyumluluk Etiketli Bir UX Problemidir

Mimari Diyagram vs. Salı Öğleden Sonrası#

Mimari diyagramlarda insan-döngüde (human-in-the-loop - HITL) yaklaşımı harika görünür. Model bir karar verir, model ile canlı ortam (production) arasına "insan incelemesi" yazılı bir kutu yerleştirilir ve herkes tasarım dokümanını kendini daha güvende hissederek imzalar.

Ancak sistem canlıya alındığında gerçekler değişir. İncelemeyi yapan kişi gerçek bir iş kuyruğuna sahip gerçek bir insandır ve sıradan bir Salı öğleden sonrasında bu kuyrukta 340 öğe bekler. Çoğu zaten bariz şekilde doğrudur. İncelemeci 40. öğeye geldiğinde sadece ilk satırı okumaya başlar, 120. öğede ise ritmik olarak "onayla" butonuna tıklar. Diyagramdaki kutu hâlâ oradadır ama gerçekte bir inceleme yoktur.

Temel yanılgımız şudur: Dikkat, tüm veri hattındaki (pipeline) en kıt kaynak olmasına rağmen, insanı sonsuz dikkate sahip bir yazılım bileşeni gibi konumlandırıyoruz. Yapay zeka sistemleri geliştirirken en sık karşılaşılan 3 hata modunu ve pratik çözüm yollarını inceleyelim.

Hata Modu 1: Her Şeyin İnsana Yönlendirilmesi#

En basit tasarım, her model çıktısını incelemeye gönderir. Bu muhafazakar ve güvenli bir yaklaşım gibi görünse de pratikte en güvensiz seçenektir; çünkü incelemeciyi "beklenen cevabın onaylamak olduğu" yönünde eğitir.

• Örnek Senaryo: %97 doğrulukla çalışan bir fatura sınıflandırma modelinde, günde 300 fatura gören bir uzman yaklaşık 9 hatalı çıktı ile karşılaşır. Bu 9 hata, ilk bakışta aynı görünen 291 doğru faturanın arasına gizlenmiştir. İki hafta sonra uzmanın düzeltme (override) oranı sıfıra yaklaşır; model iyileştiği için değil, insan bakmayı bıraktığı için.
• Pratik Çözüm (Yönlendirme / Routing): Yalnızca model kararsız olduğunda veya hata maliyetinin yüksek olduğu durumlarda insan devreye girmelidir.

def route(decision, confidence, impact):
    # Güven skoru ne olursa olsun yüksek etkili işlemler insan incelemesine gider
    if impact == "high":
        return "human_review"
    # Düşük güven skorlu çıktılar insana yönlendirilir
    if confidence < CONFIDENCE_THRESHOLD:
        return "human_review"
    # Diğer her şey otomatik onaylanır ancak denetim için örneklenir
    if random.random() < AUDIT_SAMPLE_RATE:
        return "audit_queue"
    return "auto_approve"

Burada iki mühendislik detayı kritiktir:

• Kalibrasyon ve Etki Kuralı: Tek başına güven skoru (confidence) yeterli değildir; modeller yüksek güvenle de yanılabilir. Eşik değerine güvenmeden önce ayrılmış veri (held-out data) üzerinde kalibrasyonu kontrol edin ve güven skorunu mutlaka bir etki (impact) kuralıyla eşleştirin.
• Denetim Örneklemesi (Audit Sample): Otomatik onaylanan öğelerden rastgele örneklem almak, belirlediğiniz eşik değerinin hâlâ doğru çalışıp çalışmadığını ölçmenizi sağlar.

Hata Modu 2: İncelemecinin Akıl Yürütmeyi Baştan Kurması#

İkinci büyük hata, inceleme ekranında yalnızca modelin son cevabını göstermektir. Bu durumda uzmanın önünde iki seçenek kalır: İşi sıfırdan yapmak ya da cevaba körü körüne güvenmek. Zaman baskısı altında her zaman ikinci seçenek kazanır.

• Örnek Senaryo: Bir kredi belgesi işleme aracı "Yıllık gelir: 84.000" bilgisini çıkarır. Bunu doğrulamak için uzmanın 22 sayfalık bir PDF'i açıp manuel arama yapması gerekir. Uzman bunu iki kez dikkatlice yapar ve sonra bırakır.
• Geliştiriciler İçin Çıkarım: İyi bir inceleme arayüzü (UI), modelin dayandığı tam girdileri göstermelidir: Kaynak belgedeki vurgulanmış metin aralığı (highlighted span), skoru belirleyen alanlar ve yönlendirmeyi tetikleyen kural. Doğrulama işlemi bir soruşturma değil, tek bir bakış olmalıdır. Ekibe yeni incelemeciler eklemeden önce modelin dayanaklarını arayüzde görünür kılın.

Hata Modu 3: Reddetmenin Onaylamaktan Daha Zor Olması#

Eğer "Onayla" tek bir tıklama iken "Reddet" seçeneği altı zorunlu alanı olan bir form açıyorsa, her şeyi onaylayan bir sistem tasarlamışsınız demektir.

• Pratik Çıkarım: Düzeltme veya reddetme yolu (override path), onaylama yolu kadar zahmetsiz olmalıdır. Düzeltmek için tek bir aksiyon ve isteğe bağlı kısa bir neden alanı yeterli olacak şekilde kullanıcı deneyimi (UX) kurgulanmalıdır.