---
title: "AdvSim2Real: Web Dünya Modelinde Uyarlanabilir Prompt Injection Tehditlerine Karşı Ajan Eğitimi"
url: https://blog.edumints.com/advsim2real-web-dunya-modelinde-uyarlanabilir-prompt-injection
category: "Makine Öğrenmesi"
date: 2026-10-07T07:25:47.226Z
publisher: Edumints Blog
lang: tr-TR
source_name: "Hugging Face Papers"
source_url: https://huggingface.co/papers/2610.08773
---

# AdvSim2Real: Web Dünya Modelinde Uyarlanabilir Prompt Injection Tehditlerine Karşı Ajan Eğitimi

Otonom web ajanları, kullanıcıların hedeflerini gerçekleştirmek amacıyla üçüncü taraflarca oluşturulan web sayfalarını okuyarak bu sayfalar üzerinde çeşitli aksiyonlar alır. Ancak sayfa içerisine bilinçli olarak yerleştirilen kötü niyetli bir talimat (**indirect prompt injection**), ajanı kullanıcının asıl hedefinden kolayca saptırabilir. Web ajanlarının bu sayfaları tamamen yok sayması veya filtreleyip geçmesi mümkün değildir; çünkü görevin başarıyla tamamlanması için gereken form girdileri, butonlar, kontroller ve dinamik değerler doğrudan bu sayfaların içeriğinde barınır.

Mevcut savunma yaklaşımları, ajanları eğitim öncesinde belirlenmiş statik enjeksiyon örnekleriyle ince ayardan (**fine-tuning**) geçirmeye odaklanır. Ancak eğitilen modele göre kendini dinamik olarak uyarlayan saldırganlar bu statik savunma katmanlarını kolaylıkla aşmaktadır. Klasik çekişmeli eğitim (**adversarial training**) ise saldırganın uyarlanmasına olanak tanısa da üzerinde çalışılan görevleri sabit tutar; ajan görevi bir kez çözdüğünde söz konusu görev artık modele yeni bir şey öğretemez hale gelir. Bu kısır döngüyü kırmak için önerilen **AdvSim2Real**, dondurulmuş bir web dünya modeli (**frozen web world model**) simülatöründe üç temel bileşeni eş zamanlı olarak evrimleştirir (**co-evolution**):

- **Dinamik Görev Müfredatı (Task Curriculum):** Müfredat mekanizması, ajanın yaklaşık %50 başarı oranıyla çözebildiği sınır zorluktaki görevleri ürettiğinde ödüllendirilir; böylece ajanın her zaman gelişim bölgesinde kalarak yeni yetenekler kazanması sağlanır.
- **Uyarlanabilir Enjeksiyon Saldırganı (Injection Adversary):** Saldırgan bileşeni yalnızca bir "başarı dönüşümü" (**success flip**) gerçekleştirdiğinde, yani normal şartlarda başarılı sayılacak bir görevi başarısızlığa sürükleyen bir prompt injection ürettiğinde ödül alır.
- **Çekişmeli Web Ajanı (Agent):** Simülatör içerisinde hem karmaşık web görevlerini tamamlamayı hem de adaptif manipülatif talimatlara direnç göstermeyi eş zamanlı olarak öğrenir.
- **Simülatörden Gerçek Dünyaya Aktarım (Sim2Real):** Simülatör ortamında eğitilen 4 milyar parametreli (4B) bir ajan, hem saldırısız hem de saldırı altındaki senaryolarda görev tamamlama oranını belirgin biçimde artırmış, eğitimde hiç karşılaşmadığı öncü model (**frontier-model**) seviyesindeki saldırganlara karşı direncini korumuş ve kazandığı bu yetkinliği gerçek tarayıcı ortamına başarıyla taşımıştır.
- **Somut Başarım ve Dayanıklılık:** 150 farklı web görevi üzerinde yapılan kapsamlı değerlendirmelerde AdvSim2Real, daha önce hiç görülmemiş öncü model saldırganları karşısında temel ajana kıyasla görev tamamlama oranını bağıl olarak **%33.6** oranında yükseltmiştir.

## Yazılım Geliştirme ve Yapay Zeka Mühendisliği Açısından Çıkarımlar

- **Statik Prompt Savunmalarının Yetersizliği:** Üretim ortamına (production) alınan web ajanlarında yalnızca kural tabanlı filtreler veya sabit prompt injection veri setleri kullanmak yetersizdir. Güvenlik doğrulamaları, modele adapte olabilen dinamik saldırgan ajanlarla yapılmalıdır.
- **Simülasyon Tabanlı Test Hatları (World Models):** Ajanları doğrudan canlı web sitelerinde eğitmek hem yüksek maliyetli hem de güvenlik açısından risklidir. Dondurulmuş dünya modelleri üzerinde simülasyon ortamları kurmak, güvenli, deterministik ve tekrarlanabilir bir CI/CD ve test hattı sunar.
- **Küçük Modellerin Üretim Potansiyeli:** Eş zamanlı çekişmeli müfredat eğitimi sayesinde 4B gibi hafif ve açık kaynaklı modeller, frontier seviyesindeki kapalı modellerin saldırılarına karşı dahi yüksek direnç gösterebilmektedir. Bu durum, üretimde çıkarım (inference) maliyetlerini ve gecikmeyi (latency) optimize etmek isteyen mühendisler için kritik bir kazanımdır.

[](https://huggingface.co/papers/2610.08773)

---

Bu konuyu derinlemesine öğrenmek isterseniz: [Production'da Agent Güvenilirliği](https://edumints.com/kesfet/production-agent-orchestration-crewai-ve-autogen-i-u3cu) modülüne göz atın.

---

**Kaynak:** Hugging Face Papers (https://huggingface.co/papers/2610.08773)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/advsim2real-web-dunya-modelinde-uyarlanabilir-prompt-injection