---
title: "Çok Modlu Güvenlik İçin Metinsel Reddetme Yönlerinden Yararlanmak (MARS)"
url: https://blog.edumints.com/cok-modlu-guvenlik-icin-metinsel-reddetme-yonlerinden-yararlanmak-mars
category: "LLM"
date: 2026-10-20T09:05:33.805Z
publisher: Edumints Blog
lang: tr-TR
source_name: "Hugging Face Papers"
source_url: https://huggingface.co/papers/2606.31876
---

# Çok Modlu Güvenlik İçin Metinsel Reddetme Yönlerinden Yararlanmak (MARS)

## Çok Modlu Büyük Dil Modellerinde (MLLM) Güvenlik Sorunu

Çok Modlu Büyük Dil Modellerinde (MLLM'ler) güvenlik, genellikle eğitim sonrası hizalama (post-training alignment) veya aktivasyon yönlendirme (activation steering) işlemleri için güvenli olmayan çok modlu verilere dayanır. Ancak yazılım geliştirme ve yapay zeka mühendisliği süreçlerinde bu tür verilerle çalışmanın ciddi darboğazları vardır:

- **Veri Toplama Zorluğu:** Zararlı veya güvenli olmayan çok modlu verileri toplamak oldukça zordur.
- **Modül Başına Tekrarlayan Maliyet:** Görüntü, video veya ses gibi her yeni modalite için veri toplama sürecinin sıfırdan tekrarlanması gerekir.
- **Etik ve Yasal Riskler:** Bu tür hassas verilerin toplanması, saklanması ve dağıtılması ciddi etik ve yasal endişeleri beraberinde getirir.

## Metinsel Reddetme Yönlerinin Modeller Arası Genelleştirilmesi

Bu çalışma, yukarıdaki veri kısıtlamasını esneterek doğrudan LLM omurgasından (backbone) çıkarılan **metinsel reddetme yönlerinin (textual refusal directions)** görüntü ve video gibi diğer modalitelere genelleştirilip genelleştirilemeyeceğini araştırmaktadır. 

Ön bulgular bu genelleme yeteneğini doğrulamaktadır; ancak yöntemin etkinliği şu üç kritik faktöre bağlıdır:
- **Katman Seçimi (Layer Selection):** Müdahalenin modelin hangi katmanında yapılacağı.
- **Yönlendirme Gücü (Steering Strength):** Aktivasyonlara uygulanacak müdahalenin şiddeti.
- **Modaliteler Arası Hizalama (Cross-Modal Alignment):** Farklı veri tiplerinin içsel temsillerinin uyumu. Özellikle bu hizalama eksikliği, tamamen **güvenli olan çok modlu girdilerin bile yanlışlıkla reddedilmeye (over-refusal)** yönlendirilmesine neden olabilmektedir.

## Çözüm: Modality-Agnostic Refusal Steering (MARS)

Araştırmacılar, bu bulgulardan yola çıkarak çok modlu güvenlik verisine ihtiyaç duymadan güvenlik sağlayan, hafif ve **eğitim gerektirmeyen (training-free)** bir yaklaşım olan **Modality-Agnostic Refusal Steering (MARS)** yöntemini tanıtmaktadır. MARS, güvenli olmayan girdileri engellerken şu üç temel mekanizmayı kullanır:

- **Aktivasyon Merkezleme (Activation Centering):** Modaliteler arasındaki hizalama uyumsuzluğunu düzeltir.
- **Uyarlanabilir Yönlendirme Ölçeklemesi:** Yönlendirme gücünü geometrik olarak tanımlanmış bir **güven bölgesi (trust region)** içinde adaptif olarak ölçeklendirir.
- **Optimal Katman Seçimi:** En uygun müdahale katmanını seçerek **üretilen ilk tokende (first generated token)** işlem yapar.

## Değerlendirme ve Geliştiriciler İçin Pratik Çıkarımlar

Alanında en gelişmiş (SOTA) beş farklı MLLM üzerinde güvenlik, faydalılık (utility) ve **video jailbreak** senaryolarında değerlendirilen MARS, aşırı reddetme (over-refusal) sınırına kadar modelin faydalılığını korurken tutarlı güvenlik kazanımları elde etmiştir.

**Mühendislik ve Öğrenme Açısından Pratik Çıkarımlar:**
- **Maliyet ve Zaman Tasarrufu:** Üretim ortamındaki çok modlu sistemleri güvenli hale getirmek için pahalı yeniden eğitim (fine-tuning) süreçlerine veya riskli veri setlerine her zaman ihtiyaç yoktur; eğitim gerektirmeyen çalışma zamanı (inference-time) müdahaleleri güçlü bir alternatiftir.
- **İlk Tokende Müdahale ile Düşük Gecikme:** Müdahalenin yalnızca üretilen ilk tokende gerçekleşmesi, sistemin üretim ortamındaki yanıt süresini (latency) olumsuz etkilemeden güvenlik katmanı eklenebileceğini gösterir.
- **Güvenlik ve Kullanılabilirlik Dengesi:** `Inference Saldırıları` ve jailbreak girişimlerine karşı savunma kurgularken, güvenli isteklerin yanlışlıkla reddedilmesini önlemek için aktivasyon merkezleme gibi kalibrasyon adımları kritik öneme sahiptir.
- **Ortak Güvenlik Yapısı:** MARS, güvenlikle ilgili içsel yapıların modaliteler arasında paylaşıldığını ve metinsel reddetme yönlerinin çok modlu hizalama için güçlü ancak yeterince keşfedilmemiş bir temel olduğunu kanıtlamaktadır.

---

**Kaynak:** Hugging Face Papers (https://huggingface.co/papers/2606.31876)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/cok-modlu-guvenlik-icin-metinsel-reddetme-yonlerinden-yararlanmak-mars