---
title: "Whistle: 16.9 MB Boyutunda Cihaz Üstü Konuşmadan Metne Dönüştürme Modeli"
url: https://blog.edumints.com/whistle-16-9-mb-boyutunda-cihaz-ustu-konusmadan-metne-donusturme
category: "LLM"
date: 2026-10-09T07:26:32.591Z
publisher: Edumints Blog
lang: tr-TR
source_name: "Hacker News"
source_url: https://cactuscompute.com/blog/whistle
---

# Whistle: 16.9 MB Boyutunda Cihaz Üstü Konuşmadan Metne Dönüştürme Modeli

## Giriş ve Genel Bakış
Whistle; mobil cihazlar, giyilebilir teknolojiler, robotik sistemler, akıllı ev aletleri, otomotiv ve mikrodenetleyiciler için geliştirilmiş açık kaynaklı ve ultra kompakt bir konuşma tanıma (STT) modelidir. Yalnızca **16.9 MB** boyutunda tek bir dosyadan oluşan model, harici hiçbir bağımlılık gerektirmeden doğrudan **CPU** üzerinde çalışır. En önemli mühendislik başarısı; Needle ile aynı C++ çıkarım motorunu, kapsayıcıyı ve kuantizasyon altyapısını paylaşmasıdır. Bu mimari sayede tek bir ikili dosya (binary), ses kaydını anında ajan araç çağrılarına (tool calls) dönüştürebilir. İlk belirtece (TTFT) 11 ms gibi son derece düşük bir gecikmeyle ulaşırken, ses verisi hiçbir zaman cihaz dışına çıkmaz.

## Whistle Tarafından Yürütülen 3 Temel Görev
Model, tüm hesaplamaları istemci tarafında tutarak şu üç görevi yerine getirir:
- **Transkripsiyon:** 16 kHz mono ses verisini tek geçişte 30 saniyeye kadar işler; İngilizce, Almanca, Fransızca, İspanyolca, İtalyanca, Felemenkçe ve Lehçe dillerini destekler. Dil parametresi açıkça belirtilmedikçe dili otomatik olarak tespit eder.
- **Kelime Zaman Damgaları (Word Timestamps):** Kod çözücünün (decoder) dikkat mekanizmasından hizalanarak her bir kelimeyi başlangıç zamanı, bitiş zamanı ve olasılık değeriyle birlikte döndürür.
- **Konuşma Vektörleştirme (Speech Embedding):** Metin deşifreleme adımını çalıştırmadan, kodlayıcı (encoder) çıktısından her 80 ms'lik çerçeve için bir gömme (embedding) vektör satırı üretir.

## Model Mimarisi
- **Ön Uç (The Front End):** 16 kHz mono ses; 25 ms pencere, 10 ms adımlama ve 250-3500 Hz bant sınırlamasıyla kanal başına normalize edilmiş 80 log-mel bandına ayrılır (30 saniye = 3.000 çerçeve). 128 kanallı ve 9 çekirdekli evrişimsel kök (stem), boyutu üç kez yarıya indirerek 80 ms başına bir çerçeveye (375 çerçeve) sıkıştırır.
- **Kodlayıcı (The Encoder):** Needle ile paylaşılan 8 adet *Simple Attention* bloğundan meydana gelir. Standart FFN yerine 4 mHC artık hattı ve Monarch Hadamard MLP kullanır. Nedensel olmayan (non-causal) dikkat yapısı sayesinde bir çerçeve tüm ses bağlamını aynı anda görür.
- **Kod Çözücü (The Decoder):** 512 genişliğinde 8 adet *Laddered Simple Attention* bloğuna (GQA 8q:2kv, 3-tap nedensel evrişim, 3. ve 7. katmanlarda engram araması) sahiptir. Her katman, kodlayıcıyı kapılı çapraz dikkat (gated cross-attention) ile okur; Aho-Corasick otomatı ile anahtar kelime önyargısı destekli 5 kollu beam search uygular.

## Yazılım Geliştiriciler İçin Pratik Çıkarımlar
- **Sıfır Ağ Bağımlılığı ve Veri Gizliliği:** Uç cihazlarda ağ gecikmesini ve bulut API maliyetlerini ortadan kaldırarak regülasyona tam uyumlu ve güvenli bir altyapı sunar.
- **Birleşik Ajan ve Fonksiyon Çağırma Mimarisi:** STT modeli ile dil modelinin aynı C++ motorunda çalışması, sesli komutları doğrudan yerel API/tool çağrılarına çeviren gömülü yapay zeka ajanlarının önünü açar.
- **Düşük Kaynak Tüketimi:** Paylaşılan bloklar ve optimize edilmiş bellek yönetimi, mikrodenetleyiciler gibi kısıtlı donanımlarda yüksek performanslı edge modeller geliştirmenin modern standardını temsil eder.



---

Bu konuyu derinlemesine öğrenmek isterseniz: [Edge Runtime ve Production Optimizasyonu](https://edumints.com/kesfet/nextjs-ve-vercel-ai-sdk-ile-production-ai-uygulama-21y7) modülüne göz atın.

---

**Kaynak:** Hacker News (https://cactuscompute.com/blog/whistle)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/whistle-16-9-mb-boyutunda-cihaz-ustu-konusmadan-metne-donusturme