İçeriğe geç
edumintsBlog
LLM3 dk okuma

StepFun'ın 1M Bağlamlı MoE Modeli Step 5 Preview, OpenRouter'da Kullanıma Sunuldu

Kaynak: Hacker News

Paylaş
LLMEdumints Blog
İçindekiler 2 başlık

Step 5 Preview: Ajan Odaklı Büyük Dil Modeli#

StepFun’ın otonom ajan (agentic) iş yükleri için geliştirdiği amiral gemisi Step 5 Preview, OpenRouter üzerinde yayınlandı. Model, seyrek Uzman Karışımı (Mixture-of-Experts - MoE) mimarisi üzerine kuruludur ve toplam 600 milyar parametre içerisinden çıkarım anında 27 milyar aktif parametre çalıştırır. 1.0M token genişliğindeki bağlam penceresiyle yazılım mühendisliği, finans ve profesyonel bilgi işleme alanlarında yüksek başarı gösterir. Büyük kod depoları ile belgeleri tarayarak harici araçları (tool calling) çağırmak ve çok adımlı süreçlerde sonuçları yinelemeli biçimde iyileştirmek üzere tasarlanmıştır.

Platformda listelenen yapısal başlıklar ve teknik detaylar şunlardır:

  • Providers (Sağlayıcılar): Model, OpenRouter üzerinde doğrudan tek bir sağlayıcı tarafından barındırılmaktadır. Ek bir yönlendirme kararına gerek kalmaksızın tüm istekler doğrudan bu sağlayıcıya iletilir; bu da kararlı ve yalın bir mimari hat sunar.
  • Pricing (Fiyatlandırma): Liste fiyatı 1 milyon token başına girdi için $1.00, çıktı için $2.70 olarak belirlenmiştir. Önbellek okuma (cache read) ücretinin $0.05 / 1M olması, akıllı önbellekleme uygulayan geliştiricilerin fiili maliyetlerini liste fiyatının oldukça altına çekmesini sağlar.
  • Performance (Performans): Modelin üretim hızı (throughput) 75 tok/s (P50), toplam gidiş-dönüş gecikmesi (latency) ise 3.48 s (P50) seviyesindedir. TTFT (ilk tokene kadar geçen süre) ve yanıt akışı, uzun kod üretimleri için optimize edilmiştir.
  • Uptime (Çalışma Süresi ve Erişilebilirlik): Son 3 günlük süreçte %99.99 ulaşılabilirlik (uptime) ve %99.74 kesintisiz başarılı çıkarım oranı (availability) ölçülmüştür. OpenRouter, sağlayıcı hatalarında istekleri dinamik olarak sağlıklı uç noktalara yönlendirebilmektedir.
  • Apps (Öne Çıkan Uygulamalar): Modelin üretimdeki gücünü yansıtan iki açık kaynaklı ajan projesi öne çıkmaktadır:
    • 1. OpenClaw: Mesajlaşma platformlarına bağlanarak komut çalıştırma, web tarama, dosya yönetimi ve e-posta gönderimi gibi eylemleri üstlenen otonom ajan (313 milyar token hacme ulaşmıştır).
    • 2. Hermes Agent: Nous Research tarafından geliştirilen, sürekli çalışan ve kendi kendini geliştiren açık kaynaklı yapay zeka ajanı.
  • Activity (Aktivite ve İstek Trafiği): Zaman içindeki token hacmi ve çağrı yoğunluğu, modelin özellikle uzun soluklu otonom iş akışlarında benimsendiğini göstermektedir.
  • API (Entegrasyon): OpenAI uyumlu standart API desteği mevcuttur. Geliştiriciler mevcut SDK yapılarında yalnızca base URL ve model adını (stepfun/step-5-preview) güncelleyerek anında entegrasyon sağlayabilirler.

Yazılım Geliştiriciler İçin Pratik Çıkarımlar#

Geniş kod tabanlarında refactoring veya hata ayıklama yürüten mühendisler için 1M bağlam penceresi, tüm proje ağacını kayıpsız besleme imkanı verir. Seyrek MoE yapısı, 600B parametrelik akıl yürütme kalitesini 27B parametrelik işlem maliyetiyle sunar. Özellikle $0.05 seviyesindeki önbellekleme maliyeti, çok adımlı ajan döngülerinde sabit sistem prompt'larının bütçe yükünü ciddi oranda düşürür.


Bu konuyu derinlemesine öğrenmek isterseniz: Modeller: Hangisi, Ne Zaman? modülüne göz atın.

Kaynak ve atıf

Bu yazı, Hacker News üzerinde yayımlanan içerikten yararlanılarak Edumints tarafından yapay zekâ desteğiyle Türkçe hazırlandı. Ayrıntılar ve yazarların kendi anlatımı için orijinaline bakabilirsin:

  • openrouter.ai/stepfun/step-5-preview