Agent Mosaic: Ajan Tabanlı LLM Sistemlerinde Gizlilik Sızıntılarını Tanımak

Mozaik Etkisi ve Ajan Sistemlerinde Gizlilik Riski#

Modern büyük dil modeli (LLM) ajanları, erişim iznine sahip oldukları farklı belgelerden bilgi çekebilir ve bu parçaları birleştirerek hassas bir sonuca ulaşabilir. Tek tek bakıldığında zararsız veya erişilebilir görünen verilerin bir araya getirilmesiyle gizli bir bilginin açığa çıkması durumuna mozaik etkisi (mosaic effect) denir. Hassas veriler üzerinde çalışan ajan sistemleri için bu etki kritik bir güvenlik ve gizlilik riski oluşturmaktadır.

Yazılım geliştiriciler ve sistem mimarları için bu durum, geleneksel belge düzeyindeki erişim kontrollerinin (RBAC/ABAC) ajan tabanlı mimarilerde tek başına yeterli olmadığını gösterir. Tool Calling ve Multi-Step Agent'lar geliştirirken, ajanın yalnızca hangi belgeye eriştiği değil, belgeler arası hangi çıkarımları birleştirdiği de denetlenmelidir.

Deneysel Bulgular ve Simülasyon Sonuçları#

Araştırma kapsamında siber güvenlik, tıp ve askeri alanlardan 30 sentetik örnek kullanılarak bu risk nicel olarak ölçülmüştür:

• Kontrollü Simülasyon: Üç farklı LLM ajanından elde edilen 10.800 nihai yanıt incelenmiştir.
• Canlı Ajan Ortamları: İki açık kaynaklı ajan çerçevesinde (harness) çalışan canlı ajanlardan 1.440 yanıt analiz edilmiştir.
• İyi Niyetli Sorgularda Bile Sızıntı: Yalnızca tek bir belgeden yanıtlanabilecek şekilde tasarlanmış iyi niyetli (benign) sorgularda bile, test edilen en başarılı model olan GPT-5.6-Sol, simülasyon yanıtlarının %7,08'inde (%95 GA: %3,75–%10,67) yasaklı bileşik bilgileri ifşa etmiştir. Canlı ajan ortamlarında ise bu ifşa oranlarının daha da kötüleştiği gözlemlenmiştir.

Güvenlik Önlemlerinin Sınırları ve Yanıltıcı Reddetmeler#

Sistemlere görünür sınıflandırma başlıkları (classification headers) ve açık birleştirme kuralları (aggregation rules) eklemek, toplam ifşa oranlarını önemli ölçüde azaltmaktadır. Ancak bu korumalara rağmen:

• Tüm niyet kategorileri genelinde simüle edilen yanıtların %32,37'sinde (%95 GA: %28,33–%36,19) güvenli olmayan ifşalar devam etmektedir.
• Artan Reddetme Oranları Gizliliği Garanti Etmez: Modelin yanıt vermeyi reddetmesi (refusal) her zaman veriyi koruduğu anlamına gelmez; çünkü kayda değer sayıda reddetme yanıtı, reddetme gerekçesini açıklarken yasaklı sonucu dolaylı veya doğrudan açık etmektedir.

Geliştiriciler İçin Pratik Çıkarımlar#

Bu bulgular, mozaik tarzı veri sızıntılarının ajan sistemlerinde göz ardı edilemeyecek oranlarda gerçekleşen somut bir gizlilik hatası olduğunu ortaya koymaktadır. Farklı yetki seviyelerine sahip kullanıcıların bulunduğu ortamlarda şu pratik önlemler alınmalıdır:

• Production'da Agent Güvenilirliği: Yalnızca sistem istemlerine (system prompt) güvenlik kuralları eklemekle yetinmeyin; ajan çıktıları kullanıcıya ulaşmadan önce bağımsız bir doğrulama katmanı (output guardrail) uygulayın.
• Inference Saldırıları ve Çıkarım Kontrolü: Ajanların çok adımlı bilgi getirirken farklı gizlilik derecelerine sahip kaynakları aynı bağlamda (context window) birleştirmesini sınırlayın.
• Agent Monitoring ve Debugging: Reddetme mesajlarını standartlaştırın. Modelin kendi ürettiği detaylı reddetme açıklamaları yerine, bilgi sızdırmayan sabit şablonlar kullanarak yan kanal sızıntılarını engelleyin.