LLM·3 dk okuma·

Clef: Açık Ağırlıklı Karar Modelleri ve Yeni RL İnce Ayar Platformu

Paylaş
LLMEdumints Blog

Karar Modellerinin Yükselişi ve Clef

Son dönemde Typesafe AI'ın Jev System One modeliyle birlikte karar modelleri (decision models) yazılım dünyasında büyük ilgi görüyor. Geleneksel sınıflandırıcıların ötesine geçen bu konsept, bir iş akışında karar anı geldiğinde ucuz, hızlı, tutarlı ve sınırlandırılmış yapılandırılmış çıktılar (structured outputs) üretiyor. Yeni kategoriler eklendiğinde sürekli yeniden eğitime gerek duymayan bu modeller; açık uçlu akıl yürütme sunan fakat deterministik olmayan ve yüksek gecikmeyle çalışan Büyük Dil Modelleri (LLM) ile güçlü bir tezat oluşturuyor.

Cloudflare, Workers AI üzerinde sunduğu iki yeni karar modelini ve ekosistemini duyurdu:

  • Clef ve Clef-flash: Workers AI üzerinde barındırılan iki yeni açık ağırlıklı karar modeli.
  • Lider Performans: Clef, Jev Karar Endeksi (Jev Decision Index) kıyaslamalarında lider konumda yer alıyor.
  • Jev-API Uyumluluğu: Geliştiricilerin kolayca denemeler yapabilmesi için Jev-API ile tam uyumlu mimari.
  • Açık Kaynak (Apache 2.0): Modeller, yerel ortamlarda çalıştırılabilmesi için Hugging Face üzerinde tamamen açık kaynak olarak yayımlandı.
  • RL İnce Ayar Platformu: Kullanıcıların Clef modellerini kendi özel kullanım senaryolarına göre pekiştirmeli öğrenme (RL) ile eğitmelerini sağlayan yeni bir platform.

Karar Modeli Nedir?

Bir karar modeli, yapay zekâ ajanlarının (agent) belirli olasılıklara dayanarak nasıl eyleme geçeceğini belirleyen sınıflandırmalar yapar. Örneğin sisteme bir müşteri destek mesajı iletildiğinde, mesajın aciliyeti ve hangi ekibe atanacağı sorulabilir. Model, olasılık değerleriyle birlikte tiplenmiş (typed) veriler döndürür. Yazılım geliştiriciler bu yapısal çıktıyı kullanarak:

  • Destek talebini ilgili ekibe yönlendirebilir,
  • Kritik bir eskalasyon süreci başlatabilir,
  • Karmaşık durumlarda görevi bir insana devredebilir.

Bu yaklaşım, rutin karar adımlarında insan müdahalesi (human-in-the-loop) zorunluluğunu ortadan kaldırarak ajanların bağlam toplayıp otonom karar almasını ve görevleri yürütmesini sağlar.

Üretim Senaryosu: Cloudflare Tehdit İstihbaratı

Cloudflare, Clef modelini Tehdit İstihbaratı ekibinde web alan adlarını sınıflandırmak için test etti:

  • Hız ve Çoklu Sınıflandırma: Browser Run ile desteklenen Clef; bir web sitesini çekip işleyerek %95 moda, %85 e-ticaret ve %1 oltalama gibi detaylı kategorileri 2.2 saniyede belirledi.
  • Genel LLM Kıyaslaması: Aynı iş akışında en hızlı genel LLM olan gpt-oss-120b modeli 4.7 saniye sürdü ve yalnızca iki kategori döndürebildi.
  • Yazılım Mimarisi Açısından Çıkarım: Gecikmede sağlanan 2 katlık iyileşme, her iş için ağır LLM'ler çalıştırmak yerine özel karar modelleri kullanmanın kaynak ve hız optimizasyonu açısından kritik olduğunu gösteriyor.

Neden "Clef"?

Müzik teorisinde anahtar (clef), dizeğin başına yerleştirilerek çizgilere belirli nota isimlerini atayan semboldür. Karar modelleri de bağlam alanını ve ardından gelecek eylemleri (notaları) tanımladığı için bu metafor seçilmiştir; "CF" harfleri ise doğrudan Cloudflare'e atıfta bulunur.

Orijinal kaynağa buradan ulaşabilirsiniz.


Bu konuyu derinlemesine öğrenmek isterseniz: Modeller: Hangisi, Ne Zaman? modülüne göz atın.

Paylaş

Bu konuyu daha derinlemesine öğrenmek ister misin?

Edumints'teki ücretsiz kursları incele ve bugün başla.

Kurslara Göz At →