Transformer Devreleri İçin Matematiksel Bir Çerçeve (2021)

1. Büyük Dil Modelleri ve Güvenlik Problemi

GPT-3, Codex, LaMDA, Meena ve Gopher gibi transformer mimarili büyük dil modelleri hızla yaygınlaşmaktadır. Ancak modeller ölçeklendikçe, yüksek kapasiteleri ve ucu açık yapıları beklenmeyen ve kimi zaman zararlı davranışlar sergilemelerine yol açmaktadır. Modeller eğitildikten aylar hatta yıllar sonra bile araştırmacılar ve kullanıcılar, bu sistemlerin önceden bilinmeyen kritik yeteneklerini ve sorunlu davranış biçimlerini keşfetmeye devam etmektedir.

2. Tersine Mühendislik ve Mekanistik Yorumlanabilirlik

Bu güvenlik açıklarını ve kontrol problemlerini çözmenin en umut verici yollarından biri mekanistik yorumlanabilirlik (mechanistic interpretability) yaklaşımıdır. Bu süreç, bir yazılım mühendisinin karmaşık derlenmiş ikili dosyaları (binary) insan tarafından okunabilir kaynak koda dönüştürmesine (tersine mühendislik) benzer. Transformer modellerinin içsel hesaplama devrelerini çözmek şu temel kazanımları hedefler:

• Mevcut güvenlik açıklarını sistematik bir çerçevede açıklamak,
• Yeni zafiyetleri ve hataları erkenden tespit etmek,
• Henüz inşa edilmemiş gelecekteki güçlü yapay zeka modellerinin potansiyel risklerini önceden tahmin etmek.

Daha önce görsel modeller üzerinde yürütülen Distill Circuits projesine kıyasla, transformer ve dil modellerinde bu seviyede bir tersine mühendislik çalışması bulunmamaktaydı.

3. Basitten Karmaşığa Algoritmik Analiz Yaklaşımı

Modern dil modellerinin devasa karmaşıklığı doğrudan incelenmelerini zorlaştırdığından, çalışma en basit modellerden başlayarak adım adım ilerleme yöntemini benimser. Buradaki ana hedef; daha büyük ve karmaşık sistemlere de uyarlanabilecek temel algoritmik örüntüleri, motifleri ve matematiksel çerçeveleri ortaya çıkarmaktır.

4. İki Katmanlı Dikkat Modelleri ve "Induction Heads" Keşfi

Çalışma, GPT-3 gibi 96 katmanlı ve hem dikkat hem de MLP blokları barındıran modeller yerine, en fazla iki katmana sahip ve yalnızca dikkat (attention) blokları içeren basitleştirilmiş modelleri inceler:

• Yeni Matematiksel Kavramsallaştırma: Transformer operasyonları matematiksel olarak eşdeğer ancak iç işleyişi şeffaflaştıran yeni bir bakış açısıyla formüle edilmiştir.
• Tümevarım Başlıkları (Induction Heads): Modellerdeki bağlam içi öğrenmeyi (in-context learning) gerçekleştiren özel dikkat başlıkları saptanmıştır.
• Katman Hiyerarşisi: Bu tümevarım başlıklarının tek katmanlı modellerde oluşmadığı, ortaya çıkmak için en az iki dikkat katmanına ihtiyaç duyduğu somut verilerle gösterilmiştir.

5. Yazılım Geliştiriciler İçin Pratik Çıkarımlar

• Kara Kutuyu Kod Gibi Ayrıştırmak: Modelleri tahmin edilemez bir kutu olarak görmek yerine, modüler yazılım bileşenleri gibi devre seviyesinde incelemek yapay zeka güvenliği ve hata ayıklama (debugging) için esastır.
• Deterministik Bağlam İçi Öğrenme: Prompt engineering pratiklerinde gözlenen bağlam içi öğrenme soyut bir yetenek değil; iki veya daha fazla dikkat katmanı arasındaki mekanik bilgi aktarımının doğrudan sonucudur.
• Büyük Sistemlere Uyarlanabilirlik: Küçük modellerde keşfedilen devre mantığı ve tümevarım başlıkları, üretim ortamlarındaki büyük modellerin içsel mekanizmalarını anlamak için sağlam bir temel oluşturur.

Orijinal kaynağa buradan ulaşabilirsiniz.