İçeriğe geç
edumintsBlog
LLM3 dk okuma

Gemini Decisions API: Hızlı ve Kalibre Edilmiş Çok Modlu Kararlar

Kaynak: Hacker News

Paylaş
LLMEdumints Blog
İçindekiler 2 başlık

Google DeepMind, yeni Gemini Decision 1 (gemini-decision-1) modeliyle güçlendirilen Gemini Decisions API uç noktasını kullanıma sundu. Google AI Studio üzerinden erişilebilen bu yeni araç; metin, görüntü, ses, video ve PDF'ler üzerinde hızlı ve olasılıksal kararlar almayı sağlıyor. Geliştiriciler için Python, JavaScript ve REST rehberleriyle sunulan bu API, üretim ortamındaki yapay zeka sistemlerinde karar alma süreçlerini kökten değiştiriyor.

Geleneksel dil modelleri yanıtları kelime kelime (token-by-token) üretirken, Gemini Decision 1 aday seçenekleri tek bir ileri beslemeli geçişte (single forward pass) puanlıyor. 256K token'a kadar çok modlu bir girdiyi ve 1.000'e kadar bağımsız soruyu aynı anda işleyebiliyor. Üstelik 150-250 ms uçtan uca gecikme süresiyle olasılık ve güven puanları döndürürken, 1 milyon girdi token'ı başına sadece 0.10 dolar maliyet sunuyor ve çıktı token'ları için hiçbir ücret talep etmiyor.

Yazılım geliştirme açısından bu mimari; araç seçimi (tool selection), politika kontrolleri, model yönlendirme (model routing) ve bağlam derecelendirme gibi kapalı uçlu (bounded) kararlar için devasa bir maliyet ve hız avantajı demektir.

Güçlü Performans ve Kalibrasyon#

Ajan yönlendirme, akıl yürütme, sıralama ve çok modlu anlama kıyaslamalarında (benchmark) Gemini Decision 1, en düşük kalibrasyon hatasıyla lider konumda yer alıyor. Temel performans kazanımları şunlardır:

  • Sabit ve Düşük Gecikme: Token bazlı kod çözme yapmadığı için 16K token'a kadar olan bağlamlarda model hesaplama süresini medyan 50-100 ms (uçtan uca 150-250 ms) seviyesinde tutar ve istek başına 1'den 100 soruya çıkıldığında bile gecikme süresi neredeyse sabit kalır.
  • Maliyet Verimliliği: Sıfır çıktı token'ı faturalandırması sayesinde, ortak kıyaslama paketinde Interactions API kullanan Gemini 3.5 Flash-Lite modeline göre neredeyse 5 kat daha ucuzdur.
  • Pratik Geliştirici Çıkarımı: Çok adımlı ajan (multi-step agent) mimarilerinde veya RAG sistemlerinde sorgu yönlendirme (query routing) ve LLM-as-a-Judge değerlendirmelerini tek bir API çağrısında birleştirerek sistem darboğazlarını ortadan kaldırabilirsiniz.

Tek Geçişte Üç Karar Türünde Doğal Çok Modlu Değerlendirme#

Gemini'nin doğal çok modlu mimarisi üzerine inşa edilen Gemini Decision 1, farklı veri tiplerini tek bir ortak girdide birleştirmenize olanak tanır. Örneğin; bir çağrı kaydını hesap meta verileriyle veya taranmış bir PDF hasar talebini hasar fotoğraflarıyla eşleştirebilirsiniz. Ayrıca görsel detayı ve token maliyetini kontrol etmek için görüntü ve video çözünürlüklerini ayarlayabilirsiniz.

Aynı ortak girdi üzerinde tek bir istekte evet/hayır kontrollerini, çoktan seçmeli soruları ve rubrik puanlamalarını harmanlayarak değerlendirebilirsiniz. Her yanıt 0 ile 1 arasında bir güven puanı (confidence score) içerir; böylece kodunuz belirsiz durumları alternatif bir modele (fallback) veya insan denetimine yönlendirebilir:

  • Evet/Hayır (Yes/No): Belirli bir koşulun veya politika kuralının sağlanıp sağlanmadığına dair olasılığı tahmin eder; güvenlik filtreleri ve kural doğrulama süreçleri için doğrudan karar mekanizması sunar.

Kaynak ve atıf

Bu yazı, Hacker News üzerinde yayımlanan içerikten yararlanılarak Edumints tarafından yapay zekâ desteğiyle Türkçe hazırlandı. Ayrıntılar ve yazarların kendi anlatımı için orijinaline bakabilirsin:

  • blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api