Home Assistant İçin Çok Katmanlı LLM Ses Yönlendiricisi

Projenin Amacı ve Geliştiriciler İçin Değeri

HA-multilayered-LLM-Voice-Assistant-intent-local-cloud-, Home Assistant ekosistemi için tasarlanmış mantık tabanlı ve çok katmanlı bir sesli asistan yönlendiricisidir. Python diliyle geliştirilen bu açık kaynaklı proje; yerleşik niyetleri (native intents), cihaz üstü hafif modelleri (yerel Qwen), masaüstündeki GPU farkındalığına sahip Ollama altyapısını ve bulut yapay zekasını (LiteLLM ve OpenAI) akıllı bir hiyerarşide birleştirir.

Geliştiriciler için sunduğu en büyük değer, akıllı ev otomasyonlarında karşılaşılan gecikme süresi, işletim maliyeti ve veri gizliliği üçgenindeki ödünleşimleri pratik bir mühendislik çözümüyle yönetmesidir. Her sesli komutu doğrudan maliyetli ve internete bağımlı bulut modellerine göndermek yerine, talepleri anlamsal karmaşıklığına göre en uygun işlem katmanına dinamik olarak dağıtır. Donanım durumunu ve GPU erişilebilirliğini izleyerek çalışan akıllı hata toleransı (fallback) mimarisi, ev asistanının kesintisiz ve yüksek güvenilirlikle çalışmasını sağlar.

Pratik Kullanım Senaryoları

Sistem, kullanıcıdan gelen sesli komutları mantıksal bir öncelik sırasına göre değerlendirir:

Hızlı Cihaz Kontrolü: "Salon ışıklarını aç" veya "Klimayı kapat" gibi standart komutlar, LLM çıkarımına gerek kalmadan doğrudan Home Assistant'ın yerleşik niyet (native intent) mekanizmasıyla milisaniyeler içinde yerel olarak çözülür.
Hafif Cihaz İçi Çıkarım: "Oturma odasında hava kalitesi nasıl?" gibi temel analiz gerektiren durum sorguları, yerel olarak koşan küçük ölçekli bir Qwen modeli tarafından işlenir; böylece ev içi veriler yerel ağda kalır.
GPU Destekli Karmaşık Akıl Yürütme: "Akşam yemeği için evdeki malzemelere uygun bir tarif öner ve mutfak ışıklarını loş yap" gibi çok adımlı komutlar, yerel ağdaki GPU destekli masaüstü Ollama sunucusuna aktarılır.
Akıllı Hata Toleransı (Fallback): Masaüstü donanımı kapalıysa veya yerel model yanıt veremezse, sistem LiteLLM üzerinden otomatik olarak OpenAI bulut modellerine geçiş yaparak kullanıcının hiçbir zaman yanıtsız kalmamasını sağlar.

Benzer Araçlarla Karşılaştırma

Geleneksel Home Assistant yapay zeka entegrasyonları çoğunlukla tek boyutlu bir yapıya sahiptir:

Klasik Bulut Entegrasyonları: Tüm komutları harici bulut API'lerine iletir. Bu durum hem API harcamalarını artırır hem de internet kesintilerinde en basit ev kontrollerinin dahi aksamasına yol açar.
Tekil Yerel LLM Eklentileri: Yalnızca tek bir yerel Ollama örneğine güvenir; donanım kapandığında veya kaynaklar tükendiğinde sistem kilitlenir ve alternatif sunamaz.
Bu Projenin Yaklaşımı: Yerel niyetlerin hızını, yerel modellerin veri mahremiyetini, harici GPU'ların işlem gücünü ve bulut servislerinin süreklilik garantisini katmanlı bir akışta birleştirerek hibrit bir denge sunar.

Orijinal kaynağa buradan ulaşabilirsiniz.

Bu konuyu derinlemesine öğrenmek isterseniz: Modeller: Hangisi, Ne Zaman? modülüne göz atın.