Hugging Face ve OpenRouter: Tek API ile Açık Ağırlıklı LLM
Kaynak: Hugging Face Blog
İçindekiler 3 başlık
Açık ağırlıklı (open-weight) bir dil modelini üretime alırken karşılaşılan en yorucu işlerden biri hangi sağlayıcının o an daha hızlı, ucuz veya ayakta olduğunu takip etmektir. 16 Kasım 2026 itibarıyla Hugging Face, kendi özel yönlendiricisini bırakıp Inference Providers altyapısını doğrudan OpenRouter üzerine taşıdı. Artık Hugging Face Hub üzerindeki açık ağırlıklı modelleri çağırırken arka planda OpenRouter çalışıyor. Mevcut kodun hiç değişmiyor.
Yönlendirme Altyapısı Nasıl Çalışıyor?#
OpenRouter her ay 10 milyondan fazla kullanıcıya, 80'in üzerinde sağlayıcı ve 600'den fazla model üzerinden 800 trilyonun üzerinde token sunuyor. Bu devasa trafikten elde edilen canlı ölçümler, her API isteğinin o an en iyi fiyat, hız ve güvenilirlik dengesini sunan sağlayıcıya gitmesini sağlıyor.
Yakın zamanda yenilenen yönlendirme mekanizması yalnızca en düşük liste fiyatına bakmakla yetinmiyor. Bir sağlayıcı yavaşladığında ya da hata vermeye başladığında trafik otomatik olarak oradan çekilip sağlayıcı toparlanana kadar başka yere aktarılıyor. İlk deneme başarısız olursa, aynı çağrı içinde bir sonraki en uygun sağlayıcı üzerinden yeniden deneme yapılıyor ve bu sayede kapasite hataları düşüyor.
Açık Ağırlıklı Modeller Neden Yükselişte?#
Geliştiricilerin açık ağırlıklı modellere yönelmesi tesadüf değil; rakamlar maliyet ve kullanım tarafındaki tabloyu netleştiriyor. Ekim 2025'te OpenRouter üzerinden geçen token'ların %26,8'i açık ağırlıklı modellere aitken, Temmuz 2026'da %77,5 ile zirveyi görüp Eylül 2026 sonunda %71,7 seviyesine yerleşti. Aynı dönemde kapalı modellerin haftalık hacmi yaklaşık on kat büyürken, açık ağırlıklı modellerin hacmi 60 kattan fazla arttı. Hatta bu hafta 59,2 trilyon token ile OpenRouter'da en çok kullanılan model, açık ağırlıklı DeepSeek V4.1 Flash 1017 oldu.
Maliyet ve performans dengesine baktığında tablo şöyle şekilleniyor:
- Token maliyetleri: Açık ağırlıklı modeller ortalama dört kat daha ucuz. Milyon girdi token'ı başına 0,28 dolar ve çıktı başına 1,62 dolar ödenirken, kapalı modellerde bu rakamlar 1,27 dolar ile 6,36 dolar seviyesinde.
- Zorlu testler ve görev maliyeti: En zorlu kıyaslamalarda kapalı modeller hâlâ önde. Artificial Analysis Intelligence Index verilerine göre en iyi açık ağırlıklı model olan Kimi K3.1 Pro 46 puan alırken, kapalı model Claude Fable 5.2 65 puana ulaşıyor. Ancak görev başına maliyette Kimi K3.1 Pro 3,68 dolar tutarken Claude Fable 5.2 için 26,54 dolar gerekiyor; yani yaklaşık yedide biri fiyata çoğu iş yükü için oldukça makul bir denge sunuluyor.
Mevcut Araçlarınla Hemen Kullanmaya Başla#
Bu entegrasyonun en pratik yanı, elindeki Hugging Face token'ını değiştirmeden her şeyi tek merkezden yönetebilmen. Bir sağlayıcının sunduğu Hub'daki herhangi bir açık ağırlıklı modeli doğrudan aynı API üzerinden çağırabilirsin.
Geliştirme sürecinde işini kolaylaştıracak temel noktalar şunlar:
- Standart API uyumluluğu: Yönlendirici, arkadaki sağlayıcı kim olursa olsun her sohbet modeli için OpenAI'ın Chat Completions ile Responses API'lerini ve Anthropic'in Messages API'sini destekliyor.
- Kodlama ajanları ve SDK'ler: Claude Code, Codex, OpenCode, Pi veya Hermes Agent gibi araçlardan birini ve istediğin modeli seçip kurulum adımlarını kopyalayabilir ya da tüm kurulumu ajanın için doğrudan bir prompt olarak alabilirsin.
- Tek token ile tam altyapı: Aynı Hugging Face token'ı sana Storage Buckets ile depolama, Jobs ile hesaplama (compute) ve Inference Endpoints ile adanmış çıkarım (dedicated inference) imkânı da veriyor. Üstelik PRO, Team ve Enterprise planlarında hesaplama ve çıkarım için aylık krediler yer alıyor.
Yeni bir proje geliştirirken veya mevcut ajanlarını çalıştırırken farklı sağlayıcıların API anahtarlarıyla uğraşmak zorunda değilsin. Kullandığın SDK'yi koruyup tek bir Hugging Face token'ı ile 80'den fazla sağlayıcının sunduğu hız ve maliyet avantajından yararlanabilirsin.
Bu konuyu derinlemesine öğrenmek istersen: Modeller: Hangisi, Ne Zaman? modülüne göz at.
Kaynak ve atıf
Bu yazı, Hugging Face Blog üzerinde yayımlanan içerikten yararlanılarak Edumints tarafından yapay zekâ desteğiyle Türkçe hazırlandı. Ayrıntılar ve yazarların kendi anlatımı için orijinaline bakabilirsin:
- huggingface.co/blog/openrouter