Yapay Zekanın Akıl Yürütme Adımları Gerçekten Çalışıyor mu, Yoksa Tersten mi Yazılıyor?

Bir yapay zekanın karmaşık bir problemi adım adım çözüşünü izlerken sunduğu mantığı onaylayıp nihai bir yanıta varmasına alışkınız. Peki, bu adımların cevabın üretilmesinde gerçekten bir işlevi var mı, yoksa süreç sadece bir illüzyondan mı ibaret? Akıl yürütmeyi henüz yolun yarısındayken kesip modeli hemen cevap vermeye zorlarsanız ne olur? Ya da araya kasıtlı olarak hatalı bir sayı veya yanlış bir önerme ekleyip devam etmesini sağlarsanız, model rotasından sapar mı yoksa varacağı sonucu en baştan zaten biliyor mudur?

Yapay zeka güvenliği araştırmalarında bu temel soru düşünce zinciri sadakati (chain-of-thought faithfulness) olarak adlandırılır. Buradaki asıl mesele; modelin açıkladığı akıl yürütme adımlarının cevabın arkasındaki gerçek hesaplamayı mı yansıttığı, yoksa sonucun en başta kararlaştırılıp basamakların sonradan geriye doğru üretilmiş makul bir hikaye mi olduğudur.

Anthropic’in 2023 yılında yayımladığı Measuring Faithfulness in Chain-of-Thought Reasoning (Lanham vd., arXiv:2307.13702) başlıklı makale, bu konuda oldukça rahatsız edici bir gerçeği ortaya koymuştur: Büyük ve yetenekli modellerde sadakat oranı düşmekte, yani bir "ters ölçekleme" (inverse-scaling) yaşanmaktadır. Model yetkinleştikçe, sunduğu akıl yürütme izi gerçek bir hesaplamadan ziyade sadece estetik bir dekorasyona dönüşmektedir. Bu çalışmadaki dört temel testten ikisi şunlardır:

Erken Yanıtlama (Early Answering): Akıl yürütme sürecini yarıda kesmek, modeli doğrudan bir nihai cevap vermeye zorlamak ve bu yanıtın tam akıl yürütmeyle elde edilen sonuçla uyuşup uyuşmadığını kontrol etmek.
Hata Ekleme (Adding Mistakes): Akıl yürütme zincirinin ortasına kasıtlı olarak yanlış bir adım yerleştirmek, modelin buradan devam etmesine izin vermek ve eklenen hatanın nihai yanıta yansıyıp yansımadığını gözlemlemek.

Günümüzde herkesin kullandığı ChatGPT ve Gemini gibi popüler sohbet uygulamalarında durumun değişip değişmediğini anlamak amacıyla, ücretsiz katmandaki modeller üzerinde manuel testler gerçekleştirilmiştir. Bu kapsamda GPT-5.6 Luna (Think açık ve kapalı) ile Gemini 3.5 Flash-Lite ele alınmıştır. Test metodolojisinde önce tam akıl yürütmeli bir referans yanıt alınmış, ardından belleği sıfırlanmış yeni bir sohbette bu adımlar yarıda kesilerek ya da içine kasıtlı bir hata enjekte edilerek modele sunulmuştur. Gabriel Garcia’nın Mayıs 2026 tarihli ön baskısında uyardığı, küçük modellerde yanıtın metindeki fiziksel konumunun testi yanıltabileceği yönündeki çekince ise büyük sınır modellerde kesintilerin doğrudan sonuç ifadesinden birkaç cümle önceye konmasıyla aşılmıştır.

Yazılım Geliştiriciler İçin Pratik Çıkarımlar

Bu deney ve bulgular, LLM destekli mimariler geliştiren mühendisler için kritik öğrenme çıktıları barındırır:

Akıl Yürütme Metinlerini Güvenilir Denetim İzi Sanmayın: Modelin ürettiği akıl yürütme adımları her zaman gerçek hesaplamayı temsil etmez; çoğunlukla sonradan kurgulanan bir rasyonelleştirmedir.
Kritik Süreçlerde Deterministik Araçlar Kullanın: Mantıksal çıkarımlar ve matematiksel işlemler sadece modelin içsel akıl yürütmesine bırakılmamalı; harici araç çağırma (tool calling) ve kod çalıştırma mekanizmalarıyla doğrulanmalıdır.
Büyük Modellerde Hata Enjeksiyonu Testleri Yapın: Modeller geliştikçe aradaki hataları yok sayıp önceden belirlediği yanıta gitme eğilimi artar. Sistemlerinizi prompt seviyesinde kasıtlı hatalar içeren senaryolarla test etmelisiniz.

Orijinal kaynağa buradan ulaşabilirsiniz.

Bu konuyu derinlemesine öğrenmek isterseniz: İleri Akıl Yürütme Teknikleri modülüne göz atın.