AWS'de Yapay Zeka Ajan Yönetişimi: Ajanları Durdurun ve AB Yapay Zeka Yasası Uyumluluğunu Kanıtlayın

Gözlemlenebilirlik (observability), bir ajanın onaylamaması gereken bir krediyi onayladığını ya da loglara hassas verileri sızdırdığını raporlayabilir; ancak pasif bir izleyici olduğu için bu durumu engelleyemez. Gerçek altyapıda (Amazon Bedrock Nova Pro, Strands Agents ve Traccia) kurgulanan bu çalışma; otonom ajanları yalnızca izlemekle yetinmeyip çalışma zamanında durdurmayı ve denetim kanıtı üretmeyi ele alıyor.

İçerik Analizi ve Temel Bölümler

1. Ajan Yönetişimi Neden Farklı Bir Problem?: Gözlemlenebilirlik "ajan ne yaptı ve maliyeti ne oldu" sorusuna yanıt verirken; yönetişim "hatalı davranışı anında durdurabilir miyim ve bunu kanıtlayabilir miyim" sorusunu çözer. İzleme katmanı tek başına aksiyon alamaz.
2. Ekip ve Neden Sentetik Olduğu: Finansal risk almadan çoklu ajan mekanizmalarını test etmek için sentetik bir kredi karar ekibi kullanılmıştır. Amaç doğrudan hazır bir uyumluluk sunmak değil, denetlenebilir kanıt üretmektir.
3. İki Katman ve Yalnızca Biri Anahtar Gerektiriyor: 0 dolarlık SDK katmanı herhangi bir hesap gerektirmeden yerel denetim sağlar. Çalışma zamanı yaptırımı (@govern) ve yönetim merkezi ise platform katmanında yer alır.
4. Ön Koşullar: Amazon Bedrock erişimi, Strands veya CrewAI gibi ajan orkestrasyon araçları ve Traccia SDK kütüphanesi entegrasyonu gerekmektedir.
5. Üç Adet 0 Dolarlık Yönetişim Hamlesi: Model çağrısından önce prompt injection saldırılarını engellemek, alt ajanların izlerindeki PII (kişisel veri) bilgilerini maskelemek ve her işlem izine AB Yapay Zeka Yasası kanıt damgası vurmak.
6. Platformun Getirisi ve Başlangıçta Neden Çalışmadığı: Tanımlanan politikalardan ikisi başlangıçta hiçbir şeyi engellemedi; çünkü kural motorunun eşleşebileceği sinyaller akışta mevcut değildi. Bu durum, kural mimarisinin sinyal akışına göre tasarlanması gerektiğini öğretir.
7. Bir Denetçinin İsteyeceği Kanıtlar: Regülatörlere sunulmak üzere ajan kararlarını, engelleme gerekçelerini ve model çağrı parametrelerini içeren doğrulanabilir, mühürlü kanıt izleri.
8. Gerçek Zamanlı Yaptırım vs Planlanmış Tespit: Logları sonradan analiz etmek zararı geri almaz; kritik ihlallerde yürütmeyi çalışma anında (in-flight) durduran aktif denetim gereklidir.
9. Bunu Şimdi Yapmaya Değer Kılan Zamanlama: AB Yapay Zeka Yasası Ek III kredi puanlama yükümlülükleri Aralık 2027'de yürürlüğe girecektir; mimariyi bugünden hazırlamak gelecekteki yeniden yazma maliyetlerini ortadan kaldırır.
10. Traccia Yönetişimine Dürüst Bir Bakış: Kodu baştan aşağı değiştirmeden koruma ve denetim yeteneği kazandırır, fakat politika sinyallerinin doğru yapılandırılması hayati önem taşır.
11. Dürüst Çekinceler: Sistem tek başına sihirli bir yasal uyumluluk sağlamaz; geliştiriciye yalnızca regülatöre sunulacak somut teknik kanıtları temin eder.
12. SSS (Sıkça Sorulan Sorular): Gözlem araçları neden engelleme yapamaz? Gözlem araçları yalnızca telemetri toplar; çalışma zamanında yürütmeyi kesme veya doğrudan müdahale etme yetkisine sahip değildir.

Yazılım Geliştirme ve Öğrenme Çıkarımları

Üretim seviyesinde ajan geliştiren mühendisler için en önemli pratik ders, izleme (monitoring) ile yönetişim (governance) arasındaki ayrımdır. Kod tabanında sinyal üretmeyen politikalar sessizce başarısız olur; bu nedenle güvenlik ve uyumluluk kuralları veri modelleriyle doğrudan hizalanmalı ve test edilmelidir.

Orijinal kaynağa buradan ulaşabilirsiniz.

Bu konuyu derinlemesine öğrenmek isterseniz: Production'da Agent Güvenilirliği modülüne göz atın.