---
title: "Jevstiller: Jev Modelini Uyuşmazlık Sınırı ile Yerel Modele Damıtmak"
url: https://blog.edumints.com/jevstiller-jev-modelini-uyusmazlik-siniri-ile-yerel-modele-d-y8612rls
category: "AI Araçları"
date: 2026-09-29T15:11:09.229Z
publisher: Edumints Blog
lang: tr-TR
source_name: "Hacker News"
source_url: https://jevstiller.pages.dev/posts/the-guarantee/
---

# Jevstiller: Jev Modelini Uyuşmazlık Sınırı ile Yerel Modele Damıtmak

Metin sınıflandırma süreçlerinde uzak bir API'ye (Jev) yapılan her ağ çağrısı yaklaşık 300 ms gecikmeyle sonuçlanır. Toplu (batch) işlemler için bu süre kabul edilebilir olsa da; karar alan, aksiyona geçen ve tekrar karar veren otonom ajan (agent) döngüleri ya da gerçek zamanlı sistemler için adım başına 300 ms tüm gecikme bütçesini tüketir. **Jevstiller**, bu çağrıların önüne konumlanarak Jev'in kendi yanıtlarından küçük bir yerel model eğitir ve emin olduğu sorguları standart bir CPU üzerinde yaklaşık 15 ms gibi kısa bir sürede yanıtlar.

Buradaki asıl kritik yenilik küçük modelin kendisi değil, sunduğu net sözleşmedir: Sisteme örneğin %98 gibi bir hedef belirlediğinizde, Jevstiller gelen isteklerin en az bu oranında tam olarak Jev'in vereceği etiketi döndürmeyi garanti eder. Bu yaklaşım, söz konusu garantinin nasıl sağlandığını, yaygın güven eşiği yöntemlerinin neden çöktüğünü ve bunun maliyetini ortaya koyar.

## Tek Satırda Sözleşme

Bir trafik penceresinde yerel modelin karşıladığı istek oranına kapsam ($c$), bu yanıtlar içinde etiketi Jev'den farklı olanların oranına ise uyuşmazlık ($e$) diyelim. Yerel modelin yanıtlamadığı istekler doğrudan Jev'e yönlendirilir ve tanım gereği Jev ile tam uyum sağlar. Sistemin Jev ile genel uyumu şu formülle ifade edilir:

$$A = 1 - c \cdot e$$

Hedeflenen $A^*$ değeri, sistem için bir hata bütçesi ($\beta = 1 - A^*$) belirler. %98 hedefinde bu bütçe yüzde 2'dir (100 istekten en fazla 2'si Jev'den farklı olabilir). Yönlendiricinin (router) görevi, $c \cdot e \le \beta$ kuralını koruyarak kapsamı ($c$) maksimize etmektir.

Bu tanımda iki unsur özellikle dışarıda bırakılmıştır:
- **Gerçek dünya doğruluğu:** Modelin mutlak doğruluğu hedeflenmez; Jev yanılıyorsa yerel model de aynı şekilde yanılır. Durum raporu her metrikte bunu açıkça belirtir.
- **Tüm trafiği kapsayan uyum:** İfade, yalnızca yerel modelin yanıtlamayı seçtiği isteklerdeki doğruluğu değil, tüm istekler üzerindeki genel uyumu esas alır.

## Bariz Yaklaşım ve Neden Çuvalladığı

Kademeli (cascade) mimarilerde sıklıkla uygulanan sezgisel yöntem; bir doğrulama verisi ayırmak, güven eşiklerini taramak ve ölçülen uyuşmazlığı bütçe içinde kalan en esnek eşiği canlıya almaktır. Ancak benchmark testlerinde bu "nokta tahmini" (point estimate) yaklaşımı bütçeyi split'lerin yaklaşık yarısında aşmaktadır. Beş farklı açık veri setinde (Banking77, CLINC150, AG News, TweetEval duygu ve saldırganlık analizleri) 20 rastgele ayrımın 6 ila 12'sinde bütçe delinmiştir. Buna karşılık istatistiksel sınır (bound) kuralı, bütçe aşımını neredeyse tamamen engellemiştir.

Bu bir yazılım hatası değil, sonlu veri üzerinde en gevşek eşiği seçmenin istatistiksel sonucudur. Ölçülen uyuşmazlık gürültülü bir tahmindir ve en esnek olanı seçmek aşırı iyimserliğe yol açar.

## Yazılım Geliştirme Açısından Pratik Çıkarımlar

- **Gecikme ve Maliyet Optimizasyonu:** Ajan döngülerinde 300 ms'lik harici API bağımlılıklarını 15 ms yerel CPU çıkarımlarıyla filtrelemek performansı dramatik biçimde artırır.
- **İstatistiksel Güvenilirlik:** Canlı ortamlarda basit eşik taramaları yanıltıcıdır; SLA taahhütleri için matematiksel uyuşmazlık sınırları (bounds) kullanılmalıdır.

[Orijinal kaynağa buradan ulaşabilirsiniz.](https://jevstiller.pages.dev/posts/the-guarantee/)

---

Bu konuyu derinlemesine öğrenmek isterseniz: [Ölçeklendirme ve Optimizasyon](https://edumints.com/kesfet/embedding-ve-reranking-modelleri-productionda-depl-blu6) modülüne göz atın.

---

**Kaynak:** [Hacker News](https://jevstiller.pages.dev/posts/the-guarantee/)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/jevstiller-jev-modelini-uyusmazlik-siniri-ile-yerel-modele-d-y8612rls