abenzerps/Qwen-Image-2.1-GGUF: ComfyUI ile Yerel Görsel Üretimi ve Optimizasyon Rehberi

Hugging Face üzerinde öne çıkan abenzerps/Qwen-Image-2.1-GGUF, Qwen/Qwen-Image-2.1 temel modelinin orijinal ağırlıklarını yerel donanımlarda verimli çalıştırmak amacıyla GGUF formatında kuantize edilmiş sürümlerini sunmaktadır. 33.000'den fazla indirme ve 700'ü aşkın beğeni alan model deposunda, tamamen filtresiz (sansürsüz) yeni bir sürümün de geliştirilme aşamasında olduğu duyurulmuştur.

Benchmark GGUF Dosyaları

Geliştiricilerin yerel VRAM kapasitelerine ve kalite beklentilerine göre seçebileceği 5 farklı kuantizasyon seviyesi bulunmaktadır:

Q8_0 (7.59 GB): En yüksek sayısal hassasiyete ve orijinal modele en yakın çıktı kalitesine sahip sürüm.
Q6_K (5.88 GB): Kalite kaybını minimum düzeyde tutan dengeli kuantizasyon.
Q5_K_M (5.22 GB): Orta seviye bellek kısıtları için optimize edilmiş model.
Q4_K_M (4.60 GB): Dosya boyutu ile üretim kalitesi arasında en ideal dengeyi kuran, önerilen sürüm.
Q4_0 (4.05 GB): En düşük dosya boyutu ve minimum bellek ayak izi sunan temel kuantizasyon.

Metin Kodlayıcılar (Text Encoders) ve VAE

Modelin ComfyUI üzerinde eksiksiz çalışabilmesi için 3 tamamlayıcı bileşen doğrudan depoda barındırılmaktadır:

Text Encoder (BF16 - 17.53 GB): qwen3vl_8b_bf16.safetensors, yüksek doğruluklu metin anlama sağlar.
Text Encoder (Int8 - 9.35 GB): qwen3vl_8b_int8_convrot.safetensors, düşük bellekli sistemler için önerilen optimize edilmiş kodlayıcıdır.
VAE (BF16 - 676 MB): qwen_image_2.1_vae_bf16.safetensors, üretilen gizil uzayı nihai görsele dönüştürür.

Kullanım (Usage)

Model, ComfyUI ve ComfyUI-GGUF eklentisiyle yerel iş akışlarına 2 ana adımda entegre edilir:

İndirme ve Dosya Yerleşimi: İndirilen bileşenler ComfyUI dizin yapısına uygun olarak ayrıştırılmalıdır:
- ComfyUI/models/diffusion_models/ dizinine seçilen GGUF modeli (önerilen: qwen-image-2.1-Q4_K_M.gguf),
- ComfyUI/models/text_encoders/ dizinine metin kodlayıcı (qwen3vl_8b_bf16.safetensors veya bellek dostu int8),
- ComfyUI/models/vae/ dizinine ise qwen_image_2.1_vae_bf16.safetensors yerleştirilmelidir.
ComfyUI Kurulumu:
- ComfyUI-GGUF Kurulumu: Yerel Qwen-Image 2.1 desteği için custom_nodes dizinine leejet/ComfyUI-GGUF reposu klonlanmalıdır (eski sürümlerdeki mimari tanıma hatalarını önler).
- Düğüm Yapılandırması: Difüzyon modeli için Unet Loader (GGUF) düğümü, metin kodlayıcı için type: qwen_image parametresiyle standart CLIPLoader, VAE içinse VAELoader düğümü kullanılır.
- Resmi İş Akışları: Resmi Comfy-Org şablonlarında (Text-to-Image veya Image Edit) standart UNETLoader düğümü Unet Loader (GGUF) ile değiştirilerek doğrudan çalıştırılabilir.

Bellek ve Performans Notları

Yazılım geliştiriciler ve yerel çıkarım mimarisi açısından kritik çıkarımlar şunlardır:

Optimal Kurulum (GPU + RAM): Örnekleme döngülerinde hız kritik olduğundan GGUF difüzyon modeli GPU VRAM'inde tutulmalı; istem başına yalnızca bir kez çalışan metin kodlayıcı ise sistem RAM'ine (CPU) aktarılmalıdır. Bu mimari yaklaşım, hız kaybı oluşturmaksızın 9–17 GB VRAM tasarrufu sağlar.
Önerilen Konfigürasyon: VRAM üzerinde qwen-image-2.1-Q4_K_M.gguf (~4.6 GB) ve sistem RAM'inde int8 metin kodlayıcı (~9.35 GB) kullanımı en verimli donanım dengesini kurar.
Düşük VRAM Modu: Bellek yetersizliği (OOM) yaşayan geliştiriciler ComfyUI'ı --lowvram argümanı ile başlatmalıdır.

Sansürsüz (Uncensored) Yapı ve Kaynak

Bu GGUF sürümünde yerleşik bir güvenlik filtresi (safety checker) bulunmamaktadır; yetişkin, NSFW ve hassas içerikleri engelleme olmadan doğrudan üretebilir. Temel kaynak model Qwen/Qwen-Image-2.1 olup, çıktı davranışı tamamen kullanıcı istemlerine ve yürütme ortamına bağlıdır.

Orijinal kaynağa buradan ulaşabilirsiniz.

Bu konuyu derinlemesine öğrenmek isterseniz: Modeller: Hangisi, Ne Zaman? modülüne göz atın.