Barındırılan Bir Ajan Çalışma Zamanı Seçmeden Önce Boşta Kalma Davranışını İnceleyin

30 saniyelik bir demoda barındırılan (hosted) tüm ajan çalışma zamanları (runtime) birbirinin aynısı gibi görünür: Ajan kod yazar, çalıştırır ve çıktıyı üretir. Ancak asıl kritik ayrım demonun göstermediği şu temel soruda yatar: Ajan yazmayı bıraktıktan sonra arkasındaki sanal makine hala yaşamaya devam ediyor mu?

Perplexity, OpenAI ve Gobare bu soruya farklı mimari yanıtlar verir. Yanlış bir tercih, saatler süren bir işin ortasında durum kaybı yaşamanıza ve sistemin kilitlenmesine neden olabilir.

1. Hangi OpenAI Ürününü Kastettiğinizi Netleştirin

OpenAI benzer isimli iki farklı çözüm sunar ve bunlar birbirinin alt katmanı değildir:

Agents SDK: Açık kaynaklıdır, kendi sürecinizde çalışır ve yürütme döngüsünün kontrolü tamamen sizdedir. LiteLLM veya AI SDK adaptörleriyle harici modelleri kolayca çalıştırabilirsiniz.
Hosted Agents API: Yürütme döngüsünü OpenAI yönetir; OpenAI modelleri etrafında optimize edilmiş hazır bir sandbox sağlar ve harici modeller ikinci plandadır.

2. Kendi İfadeleriyle Üç Farklı Yanıt

Üç platformun dokümantasyonlarındaki boşta kalma (idle) politikaları şunları söyler:

Perplexity: Tek bir yanıttaki çoklu adımlar aynı container'ı paylaşır; yazılan dosyalar ve kurulan paketler sonraki adımlarda korunur. Ancak yanıtlar bittiğinde hiçbir durum garantisi verilmez.
OpenAI: Bir saat boyunca aktivite veya keep-alive sinyali kesilirse sandbox silinebilir. Yalnızca /workspace/outputs dizinine yazılan dosyalar kalıcı artifact olarak indirilebilir kalır; çalışma alanının geri kalanı silinir.
Gobare: 5 dakikalık hareketsizliğin ardından çalışma alanı duraklatılır ve gelen yeni mesajla uyandırılır. 300 MB altındaki çalışma alanı dosyaları snapshot ile korunur; çalışan prosesler ve git geçmişi silinir.

3. Yan Yana Karşılaştırma

Makinenin Yaşam Süresi: Perplexity yalnızca tek bir yanıt boyunca; OpenAI kesintisiz 1 saatlik hareketsizliğe kadar; Gobare ise 5 dakikalık boşta kalma sonrası duraklatılıp bir sonraki mesajla uyandırılana kadar yaşar.
Korunan Durum: Perplexity yanıtlar arasında hiçbir şeyi garanti etmez; OpenAI yalnızca /workspace/outputs artifact'lerini saklar; Gobare çalışma alanı dosyalarının snapshot'ını saklar.
Kaybolan Unsurlar: Perplexity doğrudan container'ı yok eder; OpenAI çalışma alanının geri kalanını siler; Gobare ise kurulu bağımlılıkları, prosesleri ve 300 MB üzeri alanları siler.

4. Kararın Belirleyici Olduğu Üç İş Yükü ve Pratik Çıkarımlar

Bu ayrım çalışma zamanlarının kalitesizliğinden değil, iş yükü biçiminden kaynaklanır:

Boşta kalma penceresini aşan uzun işler: Dispatcher gecikmeleri olan 40 dakikalık refactor görevlerinde istek başına sıfırlanan container'lar kullanılamaz.
Durum ve bağımlılık sürekliliği: Ara adımlarda paket kurulumu veya proses sürekliliği gerektiren çok adımlı ajanlarda kalıcı oturum sağlayan mimariler zorunludur.
Maliyet ve kaynak yönetimi: Salt bilgi hesaplayan işlerde makineyi ayakta tutmak israftır; geçici container modelleri en yüksek maliyet avantajını sunar.

Geliştiriciler ajan altyapısı seçerken sadece kod üretme yeteneğine değil; container yaşam döngüsü, durum izolasyonu ve boşta kalma maliyetlerine dikkat etmelidir.

Orijinal kaynağa buradan ulaşabilirsiniz.

Bu konuyu derinlemesine öğrenmek isterseniz: Production'da Agent Güvenilirliği modülüne göz atın.