İki Yerel Yapay Zeka Ajanı Ben Olmadan Bir Uygulama Geliştirebilir mi? Öğrenmek İçin Onlara 6 Tur Verdim

Yapay zeka ajanları konusunda oldukça sınırlı bir deneyime sahibim. Yazılım geliştirirken, hata ayıklarken, araştırırken ve doküman hazırlarken yapay zekadan yoğun biçimde yararlansam da çok-ajanlı sistemler ve yerel modellerle çalışmak benim için tamamen yeni bir deneyimdi. Temel soru oldukça basitti: Bir yerel yapay zeka modeline yazılım geliştirici, diğerine ise kod denetçisi (reviewer) rolü verip aralarından çekilirsek ne olur?

Ortada OpenAI veya Claude gibi harici bir API ya da ücretli çıkarım maliyeti yoktu. Sadece Ollama, Python, kendi bilgisayarım ve birbiriyle konuşan iki yerel model vardı. Bilgisayarımın donanım özellikleri:

CPU: Intel i5-12600KF
GPU: NVIDIA RTX 3070 Ti
RAM: 16 GB
OS: Fedora Linux
Runtime: Ollama
Başlangıç Modelleri: Qwen2.5-Coder 7B + Qwen3 8B
Nihai Modeller: Qwen2.5-Coder 3B + Qwen3 4B

Sonuç dürüst olmak gerekirse hem komik hem de öğreticiydi. Deneyin ya hemen çökmesini ya da beklenmedik derecede yetkin bir iş çıkarmasını bekliyordum; ilginç şekilde ikisi birden gerçekleşti.

Fikir

Amacım olabilecek en yalın yazılım geliştirme ekibini kurmaktı. İlk ajan Builder (Geliştirici) olacaktı; görevi ürün talebini okumak, mevcut çalışma alanını analiz etmek ve uygulamayı sıfırdan oluşturmak ya da değiştirmekti. İkinci ajan ise Reviewer (Denetçi) olarak görev alacaktı; orijinal görevi inceleyecek, Builder'ın yazdığı kodu denetleyecek ve ya onaylayacak ya da revizyon isteyecekti.

Ajanlar projeyi bayrak yarışı gibi birbirine devrettiği için sisteme RelayLab adını verdim. Orkestrasyonu saf Python ile kurdum. Yazılım güvenliği ve kontrol ilkeleri açısından ajanları izole bir çalışma alanında sınırlandırdım; rastgele terminal komutları çalıştıramıyor ya da sisteme müdahale edemiyorlardı. Builder yalnızca izole bir dizin içinde dosya yazma ve silme önerilerinde bulunabiliyordu. Ayrıca her turun eksiksiz loglanması, otonom davranışları geriye dönük analiz etmek açısından kritik bir gözlemlenebilirlik sağladı.

Model Seçimi

İlk denememde Builder için qwen2.5-coder:7b, Reviewer için qwen3:8b modellerini tercih ederek biraz iddialı başladım. Ancak bilgisayarımın tepkisi net oldu: CPU kullanımı anında %100'e fırladı ve sistem kilitlendi. Yerel çoklu model çalıştırmadaki en büyük dersimi burada aldım: Sorun yalnızca model boyutu değil, Ollama'nın turlar arasında modelleri bellekte tutması ve ikinci modelin VRAM'e sığmayıp CPU'ya taşmasıydı.

Bu darboğazı aşmak için daha küçük modellere geçtim: Builder için qwen2.5-coder:3b, Reviewer için qwen3:4b. Ayrıca Ollama API isteklerine {"keep_alive": 0} parametresini ekledim. Bu sayede her model sırası bittiğinde VRAM'den otomatik olarak boşaltıldı ve iki modelin donanım kaynakları için çatışması engellendi.

ollama ps çıktısında tamamen yerel bir modelin bağımsız kod yazdığını ve GPU'yu %100 kullandığını görmek, otonom yazılım geliştirme süreçlerinin geleceğini somutlaştıran büyüleyici bir deneyim. Bulut servislerinin ötesinde, her şeyin yerel donanımda çalışmasının tarifi zor bir geliştirici tatmini var.

Orijinal kaynağa buradan ulaşabilirsiniz.