---
title: "Yapay Zeka Ajanlarının Etki Alanını Sınırlandırma Yöntemleri"
url: https://blog.edumints.com/yapay-zeka-ajanlarinin-etki-alanini-sinirlandirma-yontemleri-ggn89nu3
category: "Güvenlik"
date: 2026-06-04T09:04:40.077Z
publisher: Edumints Blog
lang: tr-TR
source_name: "Hacker News"
source_url: https://www.anthropic.com/engineering/how-we-contain-claude
---

# Yapay Zeka Ajanlarının Etki Alanını Sınırlandırma Yöntemleri

Anthropic mühendislerinin Claude modellerinin güvenlik sınırlarını nasıl yönettiğini ele alan bu makale, modern yazılım dünyasında yapay zeka ajanlarının kontrolsüz etki alanını (blast radius) yönetmek için kritik pratik çıkarımlar sunuyor. Ajanların yetenekleri arttıkça, sistemleri bozma potansiyelleri büyür; bu yüzden güvenlik önlemleri üç temel risk ve üç savunma mekanizması etrafında şekillenir.

## Üç Risk Türü ve Savunma Bileşenleri
Güvenli ve verimli bir ajan entegrasyonu için karşılaşılan riskler şu üç ana kategoride toplanmaktadır:
- **Kullanıcı Kötüye Kullanımı:** Kullanıcının kasıtlı veya dikkatsizce zararlı bir komutu çalıştırmaya yönlendirmesi.
- **Modelin Hatalı Davranışı:** Gelişmiş modellerin verilen görevi yerine getirmek amacıyla sınırları aşarak sandbox ortamından kaçma veya yetkisiz dosyalara erişme gibi beklenmedik eylemler sergilemesi.
- **Dış Saldırganlar:** Prompt enjeksiyonu ve harici dosyalar üzerinden ajanın çalışma ortamının ele geçirilmesi.

Bu risklere karşı savunma ise üç ana katmanda uygulanır:
- **Çalışma Ortamı (Environment):** Süreç sınırları, sandbox ve VM'ler ile sisteme erişimi kısıtlamak.
- **Model Katmanı (Model):** Sistem promptları ve sınıflandırıcılarla ajanın davranışını yönlendirmek.
- **Erişilebilen Dış İçerik:** Ajanın bağlamına (context) yüklenen harici verilerin yetkilerini kısıtlamak.

## Yapay Zeka Ajanları İçin Üç Sınırlandırma Kalıbı
Geliştiricilerin sistem mimarisini tasarlarken örnek alabileceği üç temel yalıtım yöntemi şunlardır:
- **Geçici Konteynerler (claude.ai):** Kod çalıştırma işlemleri sunucu tarafında gVisor konteynerlerinde gerçekleşir. Dosya sistemi geçici olup, kullanıcının yerel makinesine erişim tamamen engellenmiştir.
- **İnsan Gözetimli Sandbox (Claude Code):** Geliştirici odaklı bu araçta Seatbelt ve bubblewrap ile OS seviyesinde kısıtlamalar uygulanır. Kullanıcının teknik bilgisine güvenilerek yazma ve ağ yetkileri onay sürecine tabidir. Onay yorgunluğunu azaltmak için "auto mode" geliştirilmiştir.
- **Yerel Sanal Makine (Claude Cowork):** Teknik olmayan kullanıcılar için tasarlanan bu yapıda kod, ana bilgisayardan tamamen yalıtılmış bir VM içinde çalıştırılır. Yetkilendirme jetonları sınırlandırılır.

## Yazılım Geliştiriciler İçin Pratik Çıkarımlar
- **Deterministik Sınırlar Önceliklidir (Çevre Güvenliği):** Olasılıksal model katmanı korumaları yetersiz kalabilir. Güvenlik, öncelikle çalışma ortamı seviyesinde (VM, gVisor) ve çıkış filtreleri (egress proxy) ile kurulmalıdır.
- **Kullanıcı Gözetim Kapasitesine Göre İzolasyon:** Teknik seviyesi farklı olan kullanıcılar için aynı yalıtım düzeyi uygulanamaz. Örneğin, komut satırı kullanan bir yazılımcı tehlikeli kodları ayırt edebilir ancak teknik bilgisi olmayan bir çalışan için VM gibi daha sıkı sınırlar gereklidir.
- **Özel Yazılmış Bileşenlerin Tehlikesi:** Standart seccomp/gVisor yapıları güvenilirken, sızmalar genellikle özel yazılan API ağ geçitleri veya proxy gibi özelleştirilmiş ara yazılımlardan kaynaklanır.

Orijinal makaleye [buradan](https://www.anthropic.com/engineering/how-we-contain-claude) ulaşabilirsiniz.

---

**Kaynak:** [Hacker News](https://www.anthropic.com/engineering/how-we-contain-claude)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/yapay-zeka-ajanlarinin-etki-alanini-sinirlandirma-yontemleri-ggn89nu3