Çok Modlu Güvenlik İçin Metinsel Reddetme Yönlerinden Yararlanmak (MARS)

Çok Modlu Büyük Dil Modellerinde (MLLM) Güvenlik Sorunu#

Çok Modlu Büyük Dil Modellerinde (MLLM'ler) güvenlik, genellikle eğitim sonrası hizalama (post-training alignment) veya aktivasyon yönlendirme (activation steering) işlemleri için güvenli olmayan çok modlu verilere dayanır. Ancak yazılım geliştirme ve yapay zeka mühendisliği süreçlerinde bu tür verilerle çalışmanın ciddi darboğazları vardır:

• Veri Toplama Zorluğu: Zararlı veya güvenli olmayan çok modlu verileri toplamak oldukça zordur.
• Modül Başına Tekrarlayan Maliyet: Görüntü, video veya ses gibi her yeni modalite için veri toplama sürecinin sıfırdan tekrarlanması gerekir.
• Etik ve Yasal Riskler: Bu tür hassas verilerin toplanması, saklanması ve dağıtılması ciddi etik ve yasal endişeleri beraberinde getirir.

Metinsel Reddetme Yönlerinin Modeller Arası Genelleştirilmesi#

Bu çalışma, yukarıdaki veri kısıtlamasını esneterek doğrudan LLM omurgasından (backbone) çıkarılan metinsel reddetme yönlerinin (textual refusal directions) görüntü ve video gibi diğer modalitelere genelleştirilip genelleştirilemeyeceğini araştırmaktadır.

Ön bulgular bu genelleme yeteneğini doğrulamaktadır; ancak yöntemin etkinliği şu üç kritik faktöre bağlıdır:

• Katman Seçimi (Layer Selection): Müdahalenin modelin hangi katmanında yapılacağı.
• Yönlendirme Gücü (Steering Strength): Aktivasyonlara uygulanacak müdahalenin şiddeti.
• Modaliteler Arası Hizalama (Cross-Modal Alignment): Farklı veri tiplerinin içsel temsillerinin uyumu. Özellikle bu hizalama eksikliği, tamamen güvenli olan çok modlu girdilerin bile yanlışlıkla reddedilmeye (over-refusal) yönlendirilmesine neden olabilmektedir.

Çözüm: Modality-Agnostic Refusal Steering (MARS)#

Araştırmacılar, bu bulgulardan yola çıkarak çok modlu güvenlik verisine ihtiyaç duymadan güvenlik sağlayan, hafif ve eğitim gerektirmeyen (training-free) bir yaklaşım olan Modality-Agnostic Refusal Steering (MARS) yöntemini tanıtmaktadır. MARS, güvenli olmayan girdileri engellerken şu üç temel mekanizmayı kullanır:

• Aktivasyon Merkezleme (Activation Centering): Modaliteler arasındaki hizalama uyumsuzluğunu düzeltir.
• Uyarlanabilir Yönlendirme Ölçeklemesi: Yönlendirme gücünü geometrik olarak tanımlanmış bir güven bölgesi (trust region) içinde adaptif olarak ölçeklendirir.
• Optimal Katman Seçimi: En uygun müdahale katmanını seçerek üretilen ilk tokende (first generated token) işlem yapar.

Değerlendirme ve Geliştiriciler İçin Pratik Çıkarımlar#

Alanında en gelişmiş (SOTA) beş farklı MLLM üzerinde güvenlik, faydalılık (utility) ve video jailbreak senaryolarında değerlendirilen MARS, aşırı reddetme (over-refusal) sınırına kadar modelin faydalılığını korurken tutarlı güvenlik kazanımları elde etmiştir.

Mühendislik ve Öğrenme Açısından Pratik Çıkarımlar:

• Maliyet ve Zaman Tasarrufu: Üretim ortamındaki çok modlu sistemleri güvenli hale getirmek için pahalı yeniden eğitim (fine-tuning) süreçlerine veya riskli veri setlerine her zaman ihtiyaç yoktur; eğitim gerektirmeyen çalışma zamanı (inference-time) müdahaleleri güçlü bir alternatiftir.
• İlk Tokende Müdahale ile Düşük Gecikme: Müdahalenin yalnızca üretilen ilk tokende gerçekleşmesi, sistemin üretim ortamındaki yanıt süresini (latency) olumsuz etkilemeden güvenlik katmanı eklenebileceğini gösterir.
• Güvenlik ve Kullanılabilirlik Dengesi: Inference Saldırıları ve jailbreak girişimlerine karşı savunma kurgularken, güvenli isteklerin yanlışlıkla reddedilmesini önlemek için aktivasyon merkezleme gibi kalibrasyon adımları kritik öneme sahiptir.
• Ortak Güvenlik Yapısı: MARS, güvenlikle ilgili içsel yapıların modaliteler arasında paylaşıldığını ve metinsel reddetme yönlerinin çok modlu hizalama için güçlü ancak yeterince keşfedilmemiş bir temel olduğunu kanıtlamaktadır.