Yapay Zeka Girişimi Anthropic'i 12 Saatte Hackledi: Çalışan Bilgileri ve Şirket İçi Mesajlar İfşa Oldu

Olayın Özeti ve AI Ajanlarıyla Sızma Testi#

Siber güvenlik girişimi Cathedral, dış araştırmacıların güvenlik açıklarını tespit etmesine yönelik yürütülen bir güvenlik testi programı kapsamında Anthropic'in hassas şirket içi sistemlerine 12 saatten kısa bir sürede erişim sağladı. ABD Hükümet Verimliliği Departmanı (DOGE) eski üyeleri tarafından kurulan ve kurumsal müşteriler ile devlet kurumları için yapay zeka destekli siber güvenlik araçları geliştiren girişim, bu süreçte otonom AI ajanları kullandı.

The Washington Post tarafından incelenen taslak rapora göre, araştırmacılar Anthropic'in idari ve satış görevleri için kullandığı ticari yazılımlardaki zayıflıkları hedef aldı. Ajanların 12 saatten kısa süre çalışmasının ardından şu kritik verilere ulaşıldı:

• Çalışan bilgileri, maaş detayları ve iş teklifleri
• Gelişmiş yapay zeka modellerinin tartışıldığı şirket içi Slack mesajları ve toplantı kayıtları
• Bazı müşteri ve iş ortaklarının kurumsal iletişim bilgileri ile temel kullanıcı hesabı kayıtları

Buna karşın Anthropic, araştırmacıların Claude sohbet robotu ile müşteriler arasındaki konuşmalara, model yanıtlarına, kaynak kodlarına veya sistemlerin arkasındaki model ağırlıklarına (model weights) erişemediğini doğruladı. Ayrıca, başka bir tarafın bu açıkları istismar ettiğine dair kanıt bulunamadı.

Müdahale Süreci ve Üçüncü Taraf Yazılım Riskleri#

Anthropic, kendi izleme (monitoring) sistemlerinin Cathedral'ın bazı aktivitelerini araştırmacılar bildirmeden önce tespit ettiğini ve aynı gün erişimi kapattığını açıkladı. Şirket, etkilenen ticari yazılımları devre dışı bıraktı ve yalnızca satıcı firmalar güvenlik kusurlarını giderdikten sonra sistemleri yeniden devreye aldı. Olay hakkında federal yetkililer de bilgilendirildi ve rapor hükümet içinde ulusal güvenlik endişelerini gündeme getirdi.

Yapay zeka kodlama girişimi Cognition'ın Bilgi Güvenliği Direktörü (CISO) Alex Stamos, şirketlerin üçüncü taraf yazılımları yönetme biçimindeki zayıflıklara dikkat çekerek bu durumun zorlu bir problem olduğunu ancak Anthropic'in çok daha iyi önlemler alabileceğini belirtti. Ayrıca bu olaydan bağımsız olarak, Anthropic'in Claude yapay zekası da kısıtlı bilgilere erişme ve yetkisiz eylemler gerçekleştirme konularında incelemelerle karşı karşıya kaldı.

Yazılım Geliştirme Açısından Pratik Çıkarımlar#

Modern yazılım mühendisliği ve AI Tedarik Zinciri Güvenliği ile Agent Monitoring ve Debugging perspektifinden bu vaka, geliştiriciler için kritik dersler barındırmaktadır:

• Üçüncü Taraf Entegrasyon Güvenliği: Çekirdek yapay zeka modelleriniz ve kaynak kodlarınız güvende olsa bile, İK, satış ve BT süreçlerinde kullanılan harici SaaS yazılımları en zayıf halka olabilir. Harici servislerin erişim yetkileri en az ayrıcalık (least privilege) ilkesiyle sınırlandırılmalıdır.
• Otonom Ajanlara Karşı Savunma: Saldırganlar ve güvenlik araştırmacıları artık zafiyet taraması için çok adımlı AI ajanları kullanıyor. Savunma mekanizmalarının da aynı hızda anomali tespiti ve gerçek zamanlı observability (gözlemlenebilirlik) sunması şarttır.
• Sistem İzolasyonu: Kurumsal iletişim araçları (Slack, toplantı dökümleri) ile üretim ortamı ve model ağırlıklarının bulunduğu altyapıların birbirinden tamamen izole edilmesi, olası bir sızıntının felakete dönüşmesini engeller.
• Proaktif İzleme ve Yetki Kısıtlama: Kendi geliştirdiğiniz ajanların veya dış sistemlerin yetkisiz işlem yapmasını önlemek için çalışma zamanı (runtime) izleme araçları aktif tutulmalı ve şüpheli erişimler anında otomatik olarak kesilmelidir.