---
title: "TensorFold: Apple Silicon Üzerinde Bellek Sınırlarını Aşan Yerel MoE Çalıştırıcı"
url: https://blog.edumints.com/tensorfold-apple-silicon-uzerinde-bellek-sinirlarini-asan-ye-faasm0da
category: "LLM"
date: 2026-06-21T09:06:00.928Z
publisher: Edumints Blog
lang: tr-TR
source_name: "GitHub"
source_url: https://github.com/ashhart/TensorFold
---

# TensorFold: Apple Silicon Üzerinde Bellek Sınırlarını Aşan Yerel MoE Çalıştırıcı

Apple'ın M serisi işlemcileri (Apple Silicon) ve birleşik bellek mimarisi, yerel yapay zeka modellerini çalıştırmak için harika bir ortam sunar. Ancak, parametre sayısı çok yüksek olan Karmaşık Uzmanlar (Mixture of Experts - MoE) modelleri, standart Mac donanımlarının bellek kapasitesini kolayca aşabilir. İşte bu noktada **TensorFold**, bu bellek sınırlarını ortadan kaldırmak için geliştirilmiş, Apple Silicon ve MLX öncelikli çalışan yenilikçi bir yerel çalışma zamanı (runtime) aracı olarak karşımıza çıkıyor.

## TensorFold Nedir ve Neden Değerlidir?

TensorFold, Mixtral veya Qwen 35B gibi devasa MoE modellerini, normal koşullarda bu modelleri barındırması imkansız olan düşük bellekli Mac'lerde çalıştırmayı hedefler. Geliştiriciler için bu aracın sunduğu en büyük değer, bellek tasarrufunu modelin kalitesini düşürmeden yapabilmesidir. Temel mantık, küçük modelleri daha hızlı çalıştırmak değil; donanım yetersizliği nedeniyle hiç çalıştırılamayacak devasa modelleri erişilebilir hale getirmektir.

Sistem, **etkin uzman yollarını (active expert paths) sınırlı bir yerleşik bellekte (resident memory) katlayarak** tutar ve o an kullanılmayan diğer uzman katmanlarını dinamik olarak diskten sayfalama (paging) yöntemiyle yükler. Böylece 35 milyar parametrelik bir MoE modeli, sadece 2 GB gibi son derece düşük bir RAM bütçesiyle dahi yerel olarak test edilebilir ve hata ayıklama süreçlerinde kullanılabilir.

## Pratik Kullanım Örnekleri

TensorFold'u yerel ortamınızda kurup çalıştırmak oldukça pratiktir. Python sanal ortamı kurarak hızlıca başlangıç yapabilir ve projenizi OpenAI uyumlu bir API sunucusu olarak ayağa kaldırabilirsiniz. Bu işlem için aşağıdaki adımları takip edebilirsiniz:

```bash
# Depoyu klonlayın ve kurun
git clone https://github.com/ashhart/TensorFold.git
cd TensorFold
python3 -m venv .venv
source .venv/bin/activate
pip install -e .

# Modeli 2GB yerleşik bellek bütçesiyle sunucu olarak başlatın
tensorfold serve /path/to/Qwen3.6-35B-A3B-MLX \
  --served-name qwen35b-local \
  --resident-budget 2GiB \
  --host 127.0.0.1 \
  --port 8421
```

Sunucu başlatılırken `--resident-budget` parametresi ile ne kadar RAM kullanılacağını belirtebilirsiniz. Ardından, OpenAI SDK'sı veya basit bir `curl` sorgusuyla sunucuya bağlanarak yerel modelinize sorular yöneltebilirsiniz:

```bash
curl http://127.0.0.1:8421/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "qwen35b-local",
    "messages": [{"role": "user", "content": "Yerel çıkarım hakkında bir cümle yaz."}],
    "max_tokens": 16
  }'
```

## Benzer Araçlarla Karşılaştırma

TensorFold, yerel LLM dünyasındaki diğer popüler alternatiflerinden şu yönleriyle ayrışır:

- **llama.cpp ve Standart MLX:** Bu araçlar genellikle model ağırlıklarının tamamını veya büyük kısmını bellekte tutmak ister. CPU/GPU arasında katman bazlı aktarım yapsalar da, MoE mimarisine özel bir optimizasyon sunmazlar. TensorFold ise uzman düzeyinde sayfalama yaparak çok daha verimli bir bellek yönetimi sağlar.
- **Ollama ve LM Studio:** Ollama ve LM Studio gibi popüler uygulamalar, kullanıcı dostu arayüzler sunsa da düşük bellek sınırlarında dev modelleri çalıştırmak için optimize edilmemiştir. TensorFold ise uzman paketleme (expert-pack) araçları ve ayrıntılı bellek telemetrisiyle ileri düzey geliştiricilere hitap eder.

Sonuç olarak TensorFold, yerel donanım sınırlarını zorlamak ve büyük MoE modelleriyle yerelde deneyler yapmak isteyen geliştiriciler için harika bir araçtır.

Orijinal repoya [buradan](https://github.com/ashhart/TensorFold) ulaşabilirsiniz.

---

**Kaynak:** [GitHub](https://github.com/ashhart/TensorFold)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/tensorfold-apple-silicon-uzerinde-bellek-sinirlarini-asan-ye-faasm0da