SwarmEvolve: Evrimsel Keşif ve Optimizasyon İçin Gizli Uzayda Çalışan Ajan Sürüleri

Geleneksel Evrimsel Aramanın Darboğazları#

Büyük Dil Modelleri (LLM) rehberliğindeki evrimsel arama yöntemleri, matematiksel ve hesaplamalı problemler için geliştirilen bilgisayar programlarını iyileştirmekte yapay zeka ajanlarını kullanır. Bu süreçte ajanlar, mevcut çözümleri adım adım iyileştirir ve yüksek puan alan yöntemleri birleştirerek daha güçlü algoritmalar üretir. Ancak geleneksel yaklaşımlar oldukça yavaştır. Bunun temel nedeni, LLM'in her turda uzun bir metinsel düşünce zinciri (chain of thought) üretmesi ve popülasyon çeşitliliğini korumak adına bu maliyetli metin üretim sürecini defalarca tekrarlamak zorunda kalmasıdır.

Yazılım mühendisliği açısından bu durum, çoklu ajan sistemlerinde (örneğin Microsoft AutoGen: Çok-Ajanlı Konuşma veya CrewAI: Rol Tabanlı Ajan Ekipleri mimarilerinde) ajanların birbirleriyle sürekli uzun metinler üzerinden haberleşirken yarattığı gecikme (latency) ve yüksek token maliyeti sorununa benzer.

SwarmEvolve Mimarisi ve Gizli Uzayda İletişim#

Bu darboğazı aşmak için geliştirilen SwarmEvolve, her turda yüzlerce düşük maliyetli ajanın sürüler (swarms) halinde çalıştığı yenilikçi bir çerçevedir. Sistemin temel çalışma prensipleri şunlardır:

• Gizli Uzayda Akıl Yürütme: Ajanlar düşüncelerini metne dönüştürmek (decoding) yerine doğrudan gizli uzayda (latent space) akıl yürütür ve bilgi paylaşımını KV önbelleklerini (KV caches) birbirlerine aktararak gerçekleştirir.
• Farklı Açılardan İnceleme ve Yenilik Filtresi: Her ajan sürüsü problemi farklı bir açıdan ele alır. Bir yenilik filtresi (novelty filter), ajanların gizli durum vektörleri (hidden state vectors) arasındaki mesafeleri doğrudan ölçerek en özgün fikirleri korur ve tekrarları eler.
• Doğal Fikir Çaprazlaması: Özetleyici bir ajanın tüm sürü üyelerinden gelen birleştirilmiş KV önbelleklerini teslim alması sayesinde, fikirlerin çaprazlanması (crossover) gizli uzayda doğal bir şekilde gerçekleşir.

Performans Sonuçları ve Pratik Çıkarımlar#

Matematiksel keşif ve bilimsel hesaplama alanındaki 21 farklı problem üzerinde test edilen SwarmEvolve, en yüksek ortalama puana ulaşmıştır. Diğer son teknoloji çerçevelerin 60 dakikada ulaştığı en iyi skorlara, SwarmEvolve medyan olarak sadece 3 ila 8 dakika içinde erişmektedir. Daha da dikkat çekici olanı, birkaç problemde Qwen3 8B gibi küçük bir model kullanan SwarmEvolve, daha önce AlphaEvolve'un en gelişmiş sınır (frontier) LLM'lerle bulduğu çözümleri geride bırakmıştır.

Geliştiriciler İçin Pratik Çıkarımlar:

• Modeller: Hangisi, Ne Zaman?: Her karmaşık problem için devasa ve pahalı sınır modellere ihtiyaç yoktur; doğru mimariyle Qwen3 8B gibi daha küçük ve hızlı modeller üstün sonuçlar verebilir.
• Ölçeklendirme ve Optimizasyon: Ajanlar arası iletişimde her adımı metne dökmek yerine KV önbelleklerini ve vektörel temsilleri kullanmak, üretim ortamlarında hızı katlarken maliyeti radikal biçimde düşürür.
• İleri Akıl Yürütme Teknikleri: Gizli uzayda vektör mesafeleriyle çeşitliliği korumak, kod üretimi ve algoritmik optimizasyon süreçlerinde yerel optimumlara takılmayı önleyen güçlü bir stratejidir.

Bu çalışma, gizli uzayda iletişim kuran ajan sürülerinin bilimsel problemler için yapılan program aramalarında hızlı ve düşük maliyetli bir yaklaşım sunduğunu kanıtlamaktadır.