Anthropic, METR Araştırmacılarına Çalışan Düzeyinde Erişim Vererek Sistemlerini Bağımsız Denetime Açıyor

Yapay zeka ajanlarının talimatların dışına çıktığı vakaların sıklaştığı bir dönemde Anthropic, sınır (frontier) yapay zeka modellerini test eden kâr amacı gütmeyen kuruluş METR'dan altı araştırmacıya çalışan düzeyinde erişim verdiğini duyurdu. Bu adım, şirketin modellerini, güvenlik uygulamalarını ve risk yönetimini bağımsız bir gözle değerlendirmeye açarak kamuoyuna karşı hesap verebilirliği artırma hedefini taşıyor.

Çalışan Düzeyinde Erişim ve Bankacılık Modeli#

Ağustos sonundan bu yana her bir veya iki haftada bir yapay zeka ajanlarının verilen talimatların dışına çıktığına dair vakaların açıklanması, bağımsız denetim çağrılarını güçlendirdi. Anthropic, dış değerlendiricilerin sınır yapay zeka sistemleri hakkında bildikleri ile şirketin kendi bildikleri arasındaki farkı kapatmayı amaçlıyor.

Yeni anlaşma kapsamında METR ekibine sağlanan imkanlar şunlardır:

• Anthropic tarafından tahsis edilen kurumsal dizüstü bilgisayarlar ve ofis alanı,
• Şirketin kendi risk değerlendirme ekiplerinin kullandığı araçlarla neredeyse aynı düzeyde dahili araç erişimi,
• Hizalanma (alignment) riski üzerine çalışan bir ekip arkadaşıyla paylaşılır gibi bilgi paylaşımı teşviki.

Anthropic bu yapıyı, düzenleyici kurumların en büyük bankaların içine yerleşik denetçiler yerleştirdiği bankacılık denetim modeline benzetiyor.

Yayın Özgürlüğü ve Üç Katmanlı Değerlendirme Sistemi#

METR, Anthropic'in riskleri, olayları ve uygulamaları hakkındaki değerlendirmelerini kendi başına yayınlayabilecek ve şirket bu yayınları engelleme hakkından feragat etti.

• Veto Hakkının Olmaması: Anthropic yayınları veto edemeyecek; ancak müşteri verileri, avukat-müvekkil gizliliği kapsamındaki bilgiler veya model mimarilerine ilişkin dar ve önceden tanımlanmış kategorilerdeki bilgilerin sansürlenmesini (redaksiyonunu) talep edebilecek.
• Şeffaf Eleştiri Hakkı: METR, gizlenen bilgiyi ifşa etmediği sürece bu karartmaları kamuoyu önünde nitelendirmekte ve sansürün haklı olup olmadığını belirtmekte özgür olacak.
• Üç Katmanlı Sistem: Anthropic'in inşa ettiği üç katmanlı değerlendirme sisteminde SecureBio gibi en alt katmandaki kuruluşlar dar kapsamlı incelemeler yapıp yayın için onay alırken, orta katman daha fazla bilgiyle onaysız yayın yapabiliyor. METR ise çalışan düzeyinde erişimle en üst katmanda yer alan ilk ve tek kuruluş konumunda.

Bu hamle, Anthropic CEO'su Dario Amodei'nin Eylül ayındaki makalesinde verdiği sözü yerine getiriyor. OpenAI da benzer bir taahhütte bulunmuş ve her iki şirket Google, Meta, Nvidia ve xAI ile birlikte bağımsız incelemeyi taahhüt eden bir Beyaz Saray anlaşmasına imza atmıştı.

Yazılım Geliştirme ve Öğrenme Açısından Pratik Çıkarımlar#

Edumints platformunda Production'da Agent Güvenilirliği, Agent Monitoring ve Debugging ve AI Test Stratejileri üzerine çalışan geliştiriciler için bu gelişme kritik dersler barındırıyor:

• Kara Kutu (Black-Box) Testlerinin Yetersizliği: Sadece girdi ve çıktıları test etmek modern ajan sistemlerinde yeterli değildir; sistemin iç durumunu, araç çağrılarını ve karar mekanizmalarını gözlemleyen beyaz kutu (white-box) denetimler şarttır.
• Bağımsız Değerlendirme Hattı: Kendi geliştirdiğiniz ajanları sadece kendi ekibinizin yazdığı testlerle doğrulamak kör noktalar yaratır. Değerlendirme süreçlerini bağımsız katmanlara ayırmak üretim güvenilirliğini artırır.
• Ajan Davranışlarının İzlenmesi: Ajanların talimat dışına çıkma riskine karşı üretim ortamında sürekli izleme (observability) ve olay kaydı mekanizmaları mimarinin merkezinde yer almalıdır.