---
title: "M-Serisi Mac'lerde 2 GB RAM ile Gemma 4 26B Çalıştıran Açık Kaynak Motor: TurboFieldfare"
url: https://blog.edumints.com/m-serisi-maclerde-2-gb-ram-ile-gemma-4-26b-calistiran-acik-k-wpfnhw7e
category: "LLM"
date: 2026-07-30T09:02:34.235Z
publisher: Edumints Blog
lang: tr-TR
source_name: "Hacker News"
source_url: https://github.com/drumih/turbo-fieldfare
---

# M-Serisi Mac'lerde 2 GB RAM ile Gemma 4 26B Çalıştıran Açık Kaynak Motor: TurboFieldfare

Büyük dil modellerinin (LLM) parametre boyutları arttıkça donanım ve özellikle RAM gereksinimleri katlanarak büyümektedir. Ancak açık kaynaklı **TurboFieldfare** projesi, 26 milyar parametreli **Gemma 4 26B-A4B** modelini yalnızca 2 GB civarında RAM kullanımıyla 8 GB RAM kapasiteli M-serisi Mac bilgisayarlarda bile çalıştırmayı başararak ezber bozuyor.

## 1. Çekirdek Mantık: RAM Yerine SSD'den Dinamik Akış (Streaming)
Geleneksel LLM çıkarım (inference) motorları modelin tamamını (yaklaşık 14.3 GB) sistem belleğine yüklemeyi gerektirir. TurboFieldfare ise yalnızca 1.35 GB boyutundaki paylaşılan çekirdek modeli ve FP16 KV önbelleğini RAM üzerinde tutar. Modelin Mixture-of-Experts (MoE) mimarisindeki uzman katmanları, her bir token üretimi esnasında doğrudan NVMe SSD'den bellek tamponlarına aktarılır (`pread`). Bu yöntem sayesinde bellek tüketimi 2 GB sınırında sabitlenmektedir.

## 2. Swift ve Metal ile Donanıma Özel Çalışma Zamanı
Proje llama.cpp veya MLX gibi genel amaçlı yapay zeka çatılarının üzerine kurulmak yerine, Swift ve Metal kullanılarak Gemma 4 modeline özel optimize edilmiştir:
- **Metal Kernel Hızlandırması:** Katmanlardaki dikkat (attention) mekanizmaları ve yönlendirici (router) hesaplamaları doğrudan Metal üzerinde yüksek başarım ile çalışır.
- **LFU Önbellek Yönetimi:** CPU, en sık erişilen uzmanları 16 slotluk LFU (Least Frequently Used) önbelleğinde tutarak SSD okuma işlemlerini minimize eder.
- **Chunked Prefill:** Girdi istemlerinin işlenmesinde 128 token'lık dinamik bloklar kullanılarak ilk token üretme süresi (TTFT) önemli ölçüde düşürülür.

## 3. Esnek Kullanım ve Geliştirici Arayüzleri
Proje, yazılım geliştiricilerin farklı senaryolara kolayca uyum sağlaması için üç ayrı çalışma modu sunmaktadır:
- **Yerel Mac Uygulaması:** Grafiksel kullanıcı arayüzü ile hızlı model yükleme, üretkenlik parametrelerini ayarlama ve canlı performans takibi olanağı sağlar.
- **CLI (Komut Satırı Arayüzü):** Otomasyon betikleri ve sunucu ortamları için JSON formatlı mesaj dizileriyle esnek komut satırı desteği verir.
- **OpenAI Uyumlu Sunucu:** `http://127.0.0.1:8080/v1` uç noktasında çalışan yerel API sunucusu sayesinde mevcut geliştirici araçlarıyla (OpenCode, Python istemcileri, LangChain vb.) sorunsuz entegrasyon kurar.

## 4. Akıllı İndirme ve Bellek Sınırlı Kurulum (Streaming Repack)
Model kurulum aşamasında ham model dosyası diskte geçici olarak saklanmaz. Hugging Face sunucularından doğrudan aralık istekleri (range requests) atılarak gerekli katmanlar indirilir ve doğrudan özel `.gturbo` dosya formatına dönüştürülür. Bu mimari karar, disk üzerinde ikinci bir kopya oluşmasını önler ve kurulum anındaki bellek kullanımını sınırlandırır.

## 5. Yazılım Geliştiricileri ve Öğrenenler İçin Pratik Çıkarımlar
- **Düşük Donanımlarda Yüksek Performans:** Yüksek boyutlu verileri belleğe sığdırmak yerine I/O optimize SSD akışı ile işleme teknikleri, kısıtlı kaynaklara sahip bilgisayarlarda devasa yapay zeka modellerini çalıştırmanın yolunu açmaktadır.
- **Spesifik Donanım ve Model Optimizasyonu:** Genel kütüphaneler yerine donanıma (Apple Silicon) ve mimariye (MoE) özel yazılmış C/Metal/Swift kodlarının performans kısıtlarını nasıl aştığını kanıtlamaktadır.
- **Yerel ve Gizlilik Odaklı Uygulama Geliştirme:** OpenAI API standartlarıyla uyumlu yerel sunucu desteği, dış servis bağımlılığı olmadan tamamen gizli ve çevrimdışı çalışan yapay zeka uygulamaları inşa etme imkanı verir.

[Orijinal kaynağa buradan ulaşabilirsiniz.](https://github.com/drumih/turbo-fieldfare)

---

**Kaynak:** [Hacker News](https://github.com/drumih/turbo-fieldfare)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/m-serisi-maclerde-2-gb-ram-ile-gemma-4-26b-calistiran-acik-k-wpfnhw7e