İçeriğe geç
edumintsBlog
LLM3 dk okuma

Survival LLM: Kendi Bilgisayarınızda Çalışan Yapay Zeka Asistanı ve Acil Durum Kütüphanesi

Kaynak: Hacker News

Paylaş
LLMEdumints Blog
İçindekiler 4 başlık

Survival LLM, internet olmadığında bile çalışan ücretsiz, açık kaynaklı bir yapay zeka asistanı ve acil durum kütüphanesidir. Elektrik kesintisinde gıdaları koruma, yanık tedavisi veya su arıtma gibi soruları güvenilir kaynaklardan yanıtlar ve her yanıtın tam olarak nereden geldiğini gösterir. İnternetiniz varken kurmanız yeterlidir; sonrasında tamamen çevrimdışı çalışır. Mac (212 MB) ve Windows (25 MB) için indirilebilir.

Yazılım geliştirme açısından bu proje, yerel RAG (Retrieval-Augmented Generation) mimarisinin ve donanıma duyarlı model dağıtımının harika bir pratik örneğidir.

Ne Yapar?#

  • İnternetsiz çalışır: Yapay zeka modeli ve kütüphane doğrudan bilgisayarınızda barınır. Sorduğunuz hiçbir veri dışarı çıkmaz; bu da yerel LLM'lerin gizlilik ve bağımsızlık avantajını kanıtlar.
  • Kaynaklarını gösterir: Her yanıt okuduğu makaleleri listeler. İlgili pasajı vurgulanmış şekilde doğrudan kaynağından okuyabilirsiniz. Geliştiriciler için bu, halüsinasyon riskini azaltan doğrulama odaklı bir arayüz (citation UI) pratiğidir.
  • Acil durumlar için üretilmiştir: Tıbbi referanslar, FEMA ve CDC rehberleri, hayatta kalma kılavuzları, nasıl yapılır ve onarım rehberleri ile yaklaşık 930.000 Wikipedia makalesi içerir.

Sürümünüzü Seçin#

Uygulama açıldığında bilgisayarınızın belleğini (RAM) kontrol eder ve donanımınıza uygun modeli otomatik indirir:

  • 128 GB veya üzeri belleğe sahip Mac: NVIDIA Nemotron 3.5 Super (Test başarısı: 21/22 doğru, 80 GB indirme)
  • 32–96 GB belleğe sahip Mac: Qwen3.8 27B (Test başarısı: 21/22 doğru, 18 GB indirme)
  • 32 GB veya üzeri belleğe sahip Windows PC: NVIDIA Nemotron 3.5 Lightning (Test başarısı: 19/22 doğru, 25 GB indirme)
  • 16–31 GB belleğe sahip Mac veya PC: IBM Granite 4.2 8B (Test başarısı: 14/22 doğru, 6 GB indirme)

"Doğru" ölçütü, 22 elektrik kesintisi ve ilk yardım sorusunda resmi rehberlerin ana noktasını kör değerlendirmede doğru yakalamasını ifade eder. Küçük modeller daha fazla hata yaptığı için kaynak gösterimi hayati önem taşır; bu da Modeller: Hangisi, Ne Zaman? ve RAGAS ile RAG Değerlendirme süreçlerinde model boyutu ile doğruluk arasındaki ödünleşimi (trade-off) net biçimde gösterir.

Kütüphane için tam sürümde 9 GB indirme (kurulumda 19 GB), Wikipedia ve iFixit hariç sürümde ise 1.3 GB (kurulumda 3 GB) gerekir. Apple Silicon Mac (M1+, macOS 14+) ve 64-bit Windows 10/11 desteklenir.

Üç Adımda Kurulum#

Kurulum internet hızınıza bağlı olarak 20 dakika ile 2,5 saat arasında sürer:

  1. İndirin ve çıkartın: Mac veya Windows için Survival LLM'i indirin ve zip dosyasını çıkartın (Windows'ta sağ tıklayıp Extract All seçin).
  2. Açın: Mac'te Survival LLM uygulamasına, Windows'ta çıkartılan klasördeki Survival LLM.bat dosyasına çift tıklayın.
  3. Kurulumu tamamlayın: Uygulama kendi penceresinde açılır; yapay zeka motorunu, bilgisayarınıza uygun modeli ve kütüphaneyi çevrimiçiyken indirir.

Uygulama mağazası dışından indirildiği için ilk açılışta işletim sistemi uyarısı alabilirsiniz (Mac'te System Settings > Privacy & Security > Open Anyway, Windows'ta More info > Run anyway ile aşılır).

Kütüphanede Neler Var?#

Saniyenin kesirleri içinde aranabilen, açık lisanslı ve kamu malı düz metin referansları:

  • Wikipedia'nın en çok okunan yaklaşık 930.000 makalesi
  • WikiMed tıbbi ansiklopedisi
  • MedlinePlus (ABD Ulusal Tıp Kütüphanesi)
  • UK Medicines A to Z (kamu sektörü bilgisi)
  • WikEM acil tıp
  • Ready.gov (FEMA) acil durum rehberleri
  • CDC seyahat sağlığı
  • ABD askeri tıp ve hayatta kalma kılavuzları
  • Mikromort tahmini için risk referansları: yaşam tabloları ve ABD ölüm oranları
  • wikiHow nasıl yapılır rehberleri
  • iFixit onarım rehberleri

Kaynak ve atıf

Bu yazı, Hacker News üzerinde yayımlanan içerikten yararlanılarak Edumints tarafından yapay zekâ desteğiyle Türkçe hazırlandı. Ayrıntılar ve yazarların kendi anlatımı için orijinaline bakabilirsin:

  • brangus.io/survival-llm