EmbeddingGemma 2: Açık Kaynaklı ve Hafif Çok Modlu Embedding Modeli

Giriş ve Genel Bakış#

Geçtiğimiz yıl kullanıma sunulan EmbeddingGemma, doğrudan tüketici donanımlarında çalışan yüksek kaliteli ve hafif metin gömmeleri (embedding) sağlayarak 20 milyondan fazla indirmeye ulaştı. Geliştiriciler bu modeli özellikle gizlilik odaklı RAG (Retrieval-Augmented Generation) boru hatlarında ve cihaz içi arama araçlarında yaygın şekilde benimsedi. Google DeepMind, bu başarıyı genişleterek metin, kod, görsel, video ve ses verilerini tek bir ortak embedding uzayında birleştiren EmbeddingGemma 2 modelini duyurdu.

Gemma 4 mimarisi üzerine kurulan ve ticari kullanıma izin veren Apache 2.0 lisansıyla yayımlanan 740 milyon parametreli bu model, doğrudan cihaz üzerinde (on-device) çıkarım için optimize edilmiştir. Model sayesinde bir ses kaydından ilgili video karesini tespit etmek veya metin sorgusuyla saatler süren ses arşivinde arama yapmak gibi karmaşık işlemler tek bir yerel modelle gerçekleştirilebilir.

Temel Özellikler ve Mimari#

Gemini Embedding modelleriyle aynı teknolojiye dayanan EmbeddingGemma 2, şu beş temel avantajı sunmaktadır:

• Boyutuna Göre Sınıfının En İyisi: MTEB Code ve MAEB (Massive Audio Embedding Benchmark) gibi değerlendirmelerde 1 milyar parametre altındaki modeller arasında lider skorlar elde eder; metin, görüntü ve ses görevlerinde kendisinden çok daha büyük modellerin başarısını yakalar veya aşar.
• Modüler Tasarım: Yalnızca metin tabanlı iş yükleri için sadece 270M parametrelik çekirdekle çalıştırılabilir; tam çok modlu (multimodal) destek gerektiğinde 170M parametreli görüntü ve 300M parametreli ses kodlayıcıları (encoder) sisteme entegre edilebilir.
• Depolama Verimliliği: Matryoshka Representation Learning (MRL) tekniğini kullanarak çıktı vektörlerini 768 boyuttan 512, 256 veya 128 boyuta dinamik olarak kırpabilir. Bu özellik, yerel vektör veritabanlarında ve bellek kullanımında 6 kata varan tasarruf sağlar.
• Cihaz İçi Performans Optimizasyonu: Kısıtlı donanım kaynaklarında son derece verimlidir. Kuantizasyon (quantization) uygulandığında Google Pixel 11 Pro üzerinde yalnızca metin için yaklaşık 191 MB, tam çok modlu model için ise yalnızca yaklaşık 567 MB aktif RAM tüketir.
• Genişletilmiş Bağlam Desteği: EmbeddingGemma 1'e göre 4 kat daha geniş olan 8K token bağlam penceresiyle gelir; yerel donanımda 5,5 dakikaya kadar ses, 29 görsel, 58 video karesi veya bunların karma kombinasyonlarını işleyebilir.

Kod Başarımı ve Geliştiriciler İçin Pratik Çıkarımlar#

EmbeddingGemma 2, MTEB Code kıyaslamasında puanını 68.76'dan 78.68'e (+9.92 puan) yükselterek kod anlama konusunda önemli bir atılım yapmıştır. Bu durum, yerel kod tabanı indeksleme, anlamsal kod arama ve yazılım ajanları (coding agents) geliştiren mühendisler için yüksek doğruluk sağlar.

Yazılım geliştiriciler ve yapay zeka uygulayıcıları açısından bu model, bulut maliyetlerini ve veri gizliliği risklerini sıfırlayarak uç cihazlarda güçlü multimodal RAG mimarileri kurmanın önünü açmaktadır. MRL mimarisi yerel vektör depolama maliyetlerini minimize ederken, modüler yapısı mobil ve masaüstü uygulamalarda bellek tüketimini dinamik olarak yönetmeye imkan tanır.

---

Bu konuyu derinlemesine öğrenmek isterseniz: Embedding Model Serving Temelleri modülüne göz atın.