IMO Altın Madalyası İçin Açık Bir Reçete: Olimpiyat Matematiği İçin Nemotron Eğitimi

Büyük dil modellerinin karmaşık mantıksal ve matematiksel akıl yürütme süreçlerindeki başarısı, salt model parametresi ölçeklemenin ötesine geçerek eğitim sonrası optimizasyonlara ve çıkarım anı mimarilerine odaklanmaktadır. Bu araştırma, model eğitim sonrası süreçlerinin (post-training) ve çıkarım anı hesaplama (test-time inference) tasarımlarının, zorlu olimpiyat matematiğinde doğal dilde biçimsel olmayan kanıt üretimine olan etkilerini incelemektedir.

Model Mimarisi ve Çıkarım Hattı

Araştırma, açık ağırlıklı Nemotron 3 Ultra modelini temel alarak geliştirilen yüksek başarımlı ve açık bir çıkarım mimarisi sunmaktadır:

Uzman Kontrol Noktaları (Checkpoints): Temel model üzerinden denetimli ince ayar (SFT) ve pekiştirmeli öğrenme (RL) teknikleriyle iki uzman model eğitilmiş; kontrol noktası seçimi, doğrulama ve iyileştirme aşamaları titizlikle optimize edilmiştir.
Doğal Dilde Bağımsız Çalışma: Geliştirilen sistem; herhangi bir biçimsel kanıtlayıcı (formal prover), harici sembolik araç veya internet erişimi kullanmaksızın tüm kanıt üretimini bütünüyle doğal dilde gerçekleştirmektedir.
Üçlü Model ile İteratif Arama: Biri genel kullanıma açık temel model, ikisi ise eğitim sonrası uzmanlaştırılmış model olmak üzere toplam üç Nemotron 3 Ultra kontrol noktası; aday kanıtları üreten, doğrulayan ve iyileştiren yinelemeli bir arama sürecini yürütür.
Yüksek Hesaplamalı Nihai Seçim: Aday kanıt havuzunun oluşturulmasının ardından, yüksek hesaplama gücü kullanan bağımsız bir aşama her problem için sunulacak nihai çözümü belirler.
IMO 2026 Altın Madalya Derecesi: Sistem, IMO 2026 yarışmasında 42 üzerinden 30 puan toplayarak resmi altın madalya eşiğine ulaşmayı başarmıştır.
Açık Kaynak Ekosistemi: Araştırma kapsamında iki uzman kontrol noktası, eğitim verileri, eğitim ve çıkarım kodları, yarışma çözümleri ve 200 özgün olimpiyat sorusundan oluşan Nemotron-IMO-Bench kıyaslama seti toplulukla paylaşılmıştır.

Yazılım Geliştiriciler İçin Pratik Çıkarımlar

Bu çalışma, modern yapay zeka ve agent sistemleri geliştiren mühendisler için kritik dersler içermektedir:

Çıkarım Anı Hesaplama (Test-Time Compute): Karmaşık görevlerde performansı artırmanın anahtarı yalnızca modeli büyütmek değil; çıkarım anında dallanma, iteratif arama ve doğrulama döngülerine hesaplama bütçesi ayırmaktır.
Üretici-Doğrulayıcı Ayrımı: Tek bir modelden doğrudan kusursuz çıktı beklemek yerine; çözüm üreten, mantık hatalarını denetleyen ve geri bildirime göre revize eden uzmanlaşmış kontrol noktalarını orkestre etmek güvenilirliği artırır.
Harici Araç Bağımlılığını Azaltma: Sembolik çözücülere ya da dış API'lere bağımlı kalmadan salt doğal dil bağlamında akıl yürütebilen sistemler kurmak, üretim ortamında operasyonel karmaşıklığı düşürür ve mimari dayanıklılık sağlar.
Özgün Kıyaslama Kümeleri: Modellerin gerçek akıl yürütme potansiyelini doğru ölçmek adına veri sızıntısı barındırmayan, 200 soruluk yeni benchmark benzeri özgün doğrulama setleriyle regresyon testleri yapmak zorunludur.

Orijinal makaleye buradan ulaşabilirsiniz.

Bu konuyu derinlemesine öğrenmek isterseniz: İleri Akıl Yürütme Teknikleri modülüne göz atın.