---
title: "Granite Switch 4.1: Tek Bir Uç Noktadan Sohbet, Karar Verme ve Konuşma İşleme"
url: https://blog.edumints.com/granite-switch-4-1-tek-bir-uc-noktadan-sohbet-karar-verme-ve-konusma
category: "LLM"
date: 2026-10-16T07:07:01.663Z
publisher: Edumints Blog
lang: tr-TR
source_name: "Hugging Face Blog"
source_url: https://huggingface.co/blog/ibm-granite/granite-switch-4-1
---

# Granite Switch 4.1: Tek Bir Uç Noktadan Sohbet, Karar Verme ve Konuşma İşleme

Geçtiğimiz bahar aylarında tanıtılan **Granite Switch** projesi, model geliştirmeye modüler bir yaklaşım kazandırıyor. Şimdi ise bir **Decision (Karar)** adaptörü ve OpenASR liderlik tablosundaki en hızlı otomatik konuşma tanıma (ASR) modeliyle güçlendirilen **Granite Switch 4.1** modelleri; doğal dil yanıtları, genel ve özelleşmiş kararlar ile ses-metin (speech-to-text) görevleri arasında tek bir barındırılan uç noktadan (endpoint) verimli bir şekilde geçiş yapabiliyor.

Özellikle **Granite-Switch-4.1-8B** ve **-30B** modelleri şu üç bileşeni içerecek şekilde yapılandırılmıştır:
- **Genel amaçlı karar verme için yeni bir Decision aLoRA** (ör. v1/systemone),
- **Güvenlikle ilgili karar görevlerinde** Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions ve Clef-Flash modellerini ortalama olarak geride bırakan özelleşmiş bir **Guardian aLoRA**,
- **Transkripsiyon (yazıya dökme) görevlerinde kullanılmak üzere gömülü gelen**, OpenASR Liderlik Tablosundaki en hızlı ASR modeli olan **Granite-Speech-5.0-Turbo-CTC**.

Bu üç teknoloji, temel modelle (base model) birlikte tek bir modelde birleştirilmiştir ve GPU üzerinde temel modelin tek başına kaplayacağı **VRAM** miktarıyla yaklaşık aynı alanı kaplar. Yazılım geliştirme ve **Ölçeklendirme ve Optimizasyon** açısından bu durum, daha az GPU ile çok daha fazla yetenek sunulması anlamına gelir. Ayrıca Switch adaptörleri önbellek verimli **Activated LoRA (aLoRA)** olarak inşa edildiğinden, temel model üretiminden oluşturulan **KV önbelleği (KV cache)** sonraki adaptör tabanlı kararlar için yeniden kullanılabilir. Ekibin düşük dereceli adaptör çıkarımını (inference) hızlandırmaya yönelik son **vLLM** katkıları ve aynı yerde bulunan ASR kodlayıcısı ile birleştiğinde, Granite Switch 4.1 modelleri sohbet isteği, karar isteği ve sesli istek arasında inanılmaz yüksek hızlarda geçiş yapabilir.

`granite-switch-4.1-8b` modelinin sesi yazıya döktüğü, özetler oluşturduğu, zararlı içerikleri taradığı ve kullanıcı tanımlı 15 farklı bayrağı (flag) test ettiği **Speech-to-Decisions** Hugging Face alanını inceleyebilirsiniz; üstelik tüm bunlar gerçek zamanlı olarak tek bir uç noktada çalışır. Geliştiriciler için bu mimari, üretim ortamında birden fazla mikroservis ve model sunucusu yönetme karmaşıklığını ortadan kaldıran önemli bir pratik çıkarım sunar.

## Granite Libraries: İlk Karar Modelleri

Karar modelleri yeni bir kavram değil. **Granite Libraries**'in önceki sürümü, özel Granite Switch modellerinde birleştirilebilen özelleşmiş "karar modeli" adaptörleri ve diğer görev adaptörlerinden oluşan bir depo sunuyordu. Jev ve diğer kapalı karar modelleri genelliğe odaklanırken, özelleşmiş `granitelib` adaptörlerinin özel sınıflandırma görevlerinde genelci (generalist) modelleri geride bıraktığı görülüyor.

Adaptörler temel modelin KV önbelleğini paylaştığı için, genelci bir karar adaptörünün yanına uzman adaptörler eklemenin maliyeti neredeyse sıfırdır. Böylece genelci modelden geniş kapsam, önemsediğiniz spesifik görevlerde ise uzman modellerden yüksek doğruluk elde edersiniz. Dondurulmuş temel Granite modeli ve 4 özelleşmiş aLoRA içeren **Granite-Switch-4.1-30B** ile dondurulmuş Qwen modeli ve 1 genel karar LoRA'sı içeren **Jev-27B** arasındaki gerçek dünya 5 adımlı **RAG** iş akışı yarışında, Granite-Switch-4.1-30B süreci rakibinden çok daha hızlı tamamlamayı başarmıştır.

## Kendi Granite Switch Modelinizi Oluşturun ve Genişletin

**Granite-Switch-4.1-8B** ve **-30B**, önceden tanımlanmış faydalı adaptörlerle derlenmiş, "her şey dahil" (batteries included) modeller olarak yayınlanmıştır. Ancak yalnızca hazır sürümü kullanmak zorunda değilsiniz; kendi kullanım senaryolarınıza ve sistem mimarinize uygun özel Granite Switch modellerinizi kolayca oluşturup genişletebilirsiniz.

---

**Kaynak:** Hugging Face Blog (https://huggingface.co/blog/ibm-granite/granite-switch-4-1)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/granite-switch-4-1-tek-bir-uc-noktadan-sohbet-karar-verme-ve-konusma