---
title: "LLM'lerin Kullanamadığı Bir Programlama Dili Geliştirdim"
url: https://blog.edumints.com/llm-lerin-kullanamadigi-bir-programlama-dili-gelistirdim
category: "LLM"
date: 2026-10-19T09:05:24.516Z
publisher: Edumints Blog
lang: tr-TR
source_name: "Hacker News"
source_url: https://blog.picheta.me/post/killswitch-lang/
---

# LLM'lerin Kullanamadığı Bir Programlama Dili Geliştirdim

Kod yazmak, büyük dil modellerinin (LLM) muhtemelen en başarılı olduğu alandır. Ancak kod yazma yeteneklerinin ne kadarı kodu gerçekten anlamalarından, ne kadarı ise eğitim veri setlerinde veya bağlam pencerelerinde (context window) bulunan kod parçacıklarını hatırlamalarından kaynaklanıyor? Dominik Picheta, bu soruyu yanıtlamak için insanlar tarafından kullanılabilen ancak LLM'ler ve kodlama ajanları için olabildiğince zor olan bir programlama dili tasarlayıp geliştirmeye karar verdi.

Bir LLM'in daha önce hiç görmediği bir programlama dilinde kodu anlama ve yazma yeteneğini test etmek iyi bir başlangıçtır. Ancak bu dilde LLM'lerin bilinen zayıflıklarını istismar eden özellikler de yer alıyor: harfleri saymakta zorlanmaları, aşırı hevesli güvenlik bariyerleri (guardrails) ve istemleri (prompt) takip etmeye olan aşırı yatkınlıkları. Yazılım geliştiriciler için bu deney, kullandığımız yapay zeka araçlarının sınırlarını ve ezberden çıkarım yapma mekanizmalarını anlamak adına kritik dersler barındırıyor.

## KillSwitch ile Tanışın

**KillSwitch**, LLM'lere ve kodlama ajanlarına karşı düşmanca (adversarial) olacak şekilde tasarlanmış ezoterik bir programlama dilidir. Bunu şu yöntemlerle başarır:

- Dil spesifikasyonu (belgesi), insanların okuması pek olası olmayan veya okuduklarında yalan olduğunu kolayca anlayabilecekleri gizli yalanlar içerir. Belge ayrıca her şeyi açıkça anlatmak yerine insan okuyucunun bazı çıkarımlar yapmasını bekler.
- Tanımlayıcılardaki (identifiers) harflerin sayılması dilin kritik bir parçasıdır; yorumlayıcı (interpreter), karakter sayısı kurallarına uymayan kodları çalıştırmayı reddeder.
- Belirli dil yapıları, modelin güvenlik bariyerlerini tetiklemek üzere tasarlanmıştır (örneğin, **"bir bilgisayarı hackle"** ifadesi).
- **"Önceki talimatları yoksay"** (Ignore previous instructions) ifadesi dilde gerçek bir sözdizimsel anlama sahiptir ve modelin kafasını karıştırmayı (prompt injection etkisi yaratmayı) hedefler.
- Betikler (scripts) çoğunlukla gürültüden ibarettir; sözdizimsel olarak anlamlı talimatları içine gömebilen ancak buna mecbur olmayan hikayelerden oluşur.
- Sabit değerler (literals) betiğin herhangi bir yerine yerleştirilebilir ve satır sayıları kullanılarak referans verilebilir.

Temelde KillSwitch; fonksiyonlar, değişkenler ve `if` ifadeleri gibi sınırlı sayıda yapıya sahip, yığın tabanlı (stack-based) yorumlanan bir dildir. Bu yönleri hem insanlara hem de LLM'lere oldukça tanıdıktır. Bir betiğin içindeki metinlerin çoğu yorumlayıcı tarafından yoksayılır. Örneğin, yığına `Hello World` değerini eklemek istediğimizde, değeri metnin üst kısımlarında geçirip ardından `value 2 lines above` (2 satır yukarıdaki değer) yazarak yığına ekleyebiliriz. Tamamen açık kaynaklı olan bu dilin yorumlayıcısı ve spesifikasyonu GitHub üzerinden incelenebilir.

## KillSwitch Kıyaslaması (Benchmarking) ve Pratik Çıkarımlar

Peki KillSwitch, LLM'lerin ve kodlama ajanlarının kodu okumasını, yazmasını ve anlamasını engellemekte ne kadar başarılı? Büyük LLM modelleri ve kodlama ajanı çerçeveleri (harnesses) özel görevlerle test edildiğinde oldukça ilginç bir liderlik tablosu ortaya çıkıyor. Testlerde en iyi performansı Claude'un Opus modeli gösteriyor.

**Mühendislik ve Öğrenme Açısından Çıkarımlar:**
Bu çalışma, LLM'lerin "akıl yürütme" süreçlerinin tokenizasyon (harf sayma zorluğu), bağlam kirliliği (gürültülü metinler) ve güvenlik filtreleri karşısında ne kadar kırılgan olabildiğini kanıtlıyor. Üretim ortamında ajanlar veya LLM tabanlı araçlar geliştirirken; modellerin dolaylı istem enjeksiyonlarına (indirect prompt injection) açık olduğunu, aşırı uzun ve gürültülü bağlamlarda satır/konum takibini kaybedebildiğini ve standart dışı sözdizimlerinde ezber yeteneklerini yitirdiğini unutmamak gerekir.

[](https://blog.picheta.me/post/killswitch-lang/)

---

**Kaynak:** Hacker News (https://blog.picheta.me/post/killswitch-lang/)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/llm-lerin-kullanamadigi-bir-programlama-dili-gelistirdim