Yapay Zeka Modelleri Rastgele Yetenekleri Kanıtlanabilir Şekilde Gizleyebilir

Giriş ve Problem Tanımı#

Yapay zeka modellerinin canlı sistemlere alınmasından (deployment) önce tehlikeli ve istenmeyen davranışlarını tespit etmek amacıyla kapsamlı yetenek değerlendirmeleri (capability evaluations) yürütülür. Bu tür güvenlik denetimlerinin güvenilirliği, modelin bünyesinde saklı kalan yeteneklerin standart test ve prompt teknikleriyle yüzeye çıkarılabileceği (elicitation) varsayımına dayanır. Ancak Andis Draguns ve çalışma arkadaşlarının NeurIPS 2026'da yayımlanan araştırması, hasmane (adversarial) koşullarda bu temel varsayımın matematiksel olarak geçersiz olduğunu kanıtlamaktadır.

Dijital Kasalar ile Şifrelenmiş Hesaplamalar#

Araştırmacılar, ev sahibi modelin ağırlıkları içine şifrelenmiş yapay sinir ağları yerleştiren yeni bir arka kapı (backdoor) mimarisi geliştirmiştir. Bu mimari, kriptografik dijital kasalar (digital lockers) kullanmakta ve gizli devreleri yalnızca doğru gizli tetikleyici (secret trigger) alındığında çözerek çalıştırmaktadır:

• Rastgele Hesaplamaların Gizlenmesi: Önceki çalışmalar yalnızca sabit metin dizgilerini gizlemeye odaklanırken, bu çalışma genel hesaplamaları ve rastgele sinir ağı devrelerini gizlemeyi başarmıştır.
• Beyaz Kutu (White-Box) Koşullarında Yorumlanamazlık: Model ağırlıklarına ve mimarisine tam erişim sağlansa bile, kriptografik kabuller gereğince bu gizli devrelerin analiz edilmesi, yorumlanması (interpretability) veya tespit edilmesi kanıtlanabilir biçimde olanaksızdır.

Değerlendirilen Ortaya Çıkarma Yöntemleri#

PyTorch üzerinde geliştirilen kavram kanıtlama (PoC) çalışmasında, CBRN (Kimyasal, Biyolojik, Radyolojik, Nükleer) riskleri için temsilci olarak kimyasal reaksiyon tahmin görevi incelenmiştir. Gizli yeteneklerin ortaya çıkarılması için uygulanan dört farklı denetim yöntemi test edilmiş ve modellerin bu yöntemlerin tamamına direnç gösterdiği saptanmıştır:

• İnce Ayar (Fine-Tuning): Modelin yeni verilerle yeniden eğitilmesi, ağırlıklar arasına gizlenmiş şifreli devreyi bozamamış ve yeteneği ortaya çıkaramamıştır.
• Ağırlık Gürültülendirme (Weight Noising): Model parametrelerine rastgele gürültü eklenmesi, gizli tetikleyici mekanizmasını ve arka kapı işlevini etkisiz kılamamıştır.
• Gradyan Tabanlı Tetikleyici Arama (Gradient-Based Trigger Search): Gradyan optimizasyonuna dayalı otomatik arama algoritmaları, gizli şifre çözücü tetikleyiciyi keşfedememiştir.
• Örtük Çekişmeli Eğitim (Latent Adversarial Training): Modelin gizli temsil uzayına uygulanan çekişmeli eğitimler, gizlenen yeteneği nötralize etmekte başarısız olmuştur.

Yazılım Geliştirme ve Güvenlik Açısından Çıkarımlar#

• Yalnızca Çıktı Testlerine Güvenilemez: Standart değerlendirme boru hatları (evals) ve red-teaming pratikleri, kriptografik olarak gizlenmiş arka kapıları yakalamakta yetersiz kalmaktadır.
• Model Tedarik Zinciri Güvenliği: Açık kaynaklı veya üçüncü taraf model ağırlıkları üretim ortamına taşınırken sıkı doğrulama, imzalama ve kaynak kontrolü zorunlu hale gelmektedir.
• Yeni Savunma Mimarilerine İhtiyaç: Denetim süreçlerinin salt ortaya çıkarma (elicitation) odaklı yaklaşımlardan, kriptografik savunmaları ve izolasyon mekanizmalarını içeren yeni paradigmalara evrilmesi gerekmektedir.

---

Bu konuyu derinlemesine öğrenmek isterseniz: Model Tarama ve Doğrulama modülüne göz atın.