Tarayıcı ve Bilgisayar Kullanan Yapay Zekâ Ajanları İçin Etkili Human-in-the-Loop (HITL) Mimarisi

Tarayıcı ve bilgisayar kullanan otonom yapay zekâ ajanları (computer-use agents), web sayfalarını okuyup form doldurmaktan satın alma işlemlerine kadar birçok görevi makine hızında gerçekleştiriyor. Ancak açık web, güvenilmeyen içeriklerle ve potansiyel prompt injection tehditleriyle doludur. Gerçek bir Human-in-the-Loop (HITL) yaklaşımı, her tıklamayı ekrandan izleyen pasif bir kullanıcıdan ibaret değildir; tehlikeli eylemleri yapısal olarak imkânsız veya kolayca geri alınabilir kılan bir kontrol sistemidir.

1. Tarayıcı Eylemlerini Derecelendirin

Bir ajanın güvenliğini sağlamak için gerçekleştirdiği eylemleri geri alınabilirlik, etki alanı (blast radius) ve yetki kapsamına göre sınıflandırmak gerekir:

Açık Sayfaları Okuma (G1 - Düşük Risk): Durum değişikliği yaratmaz ve tamamen geri alınabilir; ancak okunan sayfa güvenilmeyen dış içeriktir.
Form Doldurma (G2 - Orta Risk): Gönderim yapılana kadar geri alınabilir; etki alanı yalnızca ilgili web sitesiyle sınırlıdır.
Hesaba Giriş Yapma / Kimlik Bilgisi Kullanma (G2-G3 - Yüksek Risk): Aktif bir oturumu açığa çıkarır; geri alınması zordur ve hesap çapında risk oluşturur.
Kullanıcı Adına Gönderi / İçerik Paylaşma (G2-G3 - Yüksek Risk): Dış dünyaya açıktır, itibar kaybına yol açabilir ve geri çekilmesi güçtür.
Satın Alma ve Finansal İşlemler (G3 - Kritik Risk): Geri alınamaz; doğrudan maddi kayıp yaratır.

2. Kontrolleri Derecelere Göre Eşleştirin

Ajan eylemlerini güvenli kılmak için RAIL (Reversible, Authorized, Interruptible, Logged) prensiplerini uygulamalısınız:

Ajanı İzole Bir Tarayıcı Profilinde Çalıştırın (Sandbox-First): Ajanın kişisel tarayıcınıza, kayıtlı çerezlere veya kartlara erişimi olmamalıdır. Tek kullanımlık profiller, olası bir manipülasyonda zararı sıfıra indirir.
Güvenilmeyen Gezintiyi Hassas Oturumlardan Ayırın: Açık webde dolaşan bir ajanın aynı anda kritik oturumlara erişmesi "ölümcül üçlü" (özel veri + güvensiz içerik + dış kanal) zafiyetini doğurur.
Kesin Harcama Limitleri Koyun ve Satın Almaları Onaylatın: Limiti prompt seviyesinde değil, sanal kart veya API düzeyinde yapısal olarak sınırlandırın.
Kısa Ömürlü ve Kapsamı Dar Yetkiler Tanımlayın: Ajana kalıcı şifreler vermek yerine yalnızca ilgili görev süresince geçerli geçici oturumlar sağlayın.
Sayfa İçeriklerini Potansiyel Tehdit Olarak Görün: DOM veya PDF içeriklerinde gizli komutlar olabileceğini varsayarak savunmanızı mimari düzeyde kurun.
Her Eylemi Kaydedin ve Ekran Görüntüsü Alın: Olası hataları analiz edebilmek ve tam denetlenebilirlik sağlamak için kritik adımları loglayın.

3. İncelemek Yerine Önleyin

Araştırmalar, insanların makine hızında gerçekleşen eylemleri canlı izlerken müdahale başarı oranının yalnızca %9 ila %26 arasında kaldığını gösteriyor. Pasif onay pencereleri güvenliği artırmaz, sadece sorumluluğu kullanıcıya devreder. Bir yazılım geliştirici olarak mimarinizi "izleme" üzerine değil; ajanın yetkilerini kısıtlayan, geri alınamayan adımlarda gerçek insan onayı isteyen ve hasarı baştan önleyen yapısal bariyerler üzerine kurmalısınız.

[Orijinal kaynağa buradan ulaşabilirsiniz.](https://dev.to/brennhill/how-to-build-a-good-human-in-the-loop-for-browser-computer-use-agents-5cme)