İçeriğe geç
edumintsBlog
Backend3 dk okuma

Talorys – Cloudflare Ücretsiz Katmanında Barındırılan Kişisel Yapay Zeka Ajanı

Kaynak: Hacker News

Paylaş
BackendEdumints Blog
İçindekiler 3 başlık

Talorys; geliştiricilerin herhangi bir harici sunucu, veritabanı veya üçüncü taraf aboneliğine ihtiyaç duymadan, doğrudan kendi Cloudflare altyapılarında çalıştırabilecekleri açık kaynaklı bir kişisel yapay zeka asistanıdır. npx create-talorys@latest komutuyla saniyeler içinde dağıtılan bu proje; telemetri içermeyen, tek kullanıcılı ve uç bilişim (edge computing) yeteneklerini sonuna kadar kullanan öğretici bir mimari sunar.

1. Talorys Nedir?#

  • Özel bir asistan: Akışlı (streaming) yanıtlar, zengin Markdown biçimlendirmesi ve araç kullanım (tool activity) göstergeleri ile gizlilik odaklı bir sohbet deneyimi sunar.
  • Hafıza: Kalıcı kişisel olguları ve tercihleri depolar. Kullanıcı bu verileri görüntüleyebilir, düzenleyebilir veya silebilir. Modelin bağlam penceresini verimli kullanmak amacıyla her sorguda modele yalnızca en alakalı anılar iletilir.
  • Görevler, notlar ve projeler: Web arayüzü üzerinden tam CRUD işlemlerini destekler; aynı zamanda sohbet aracılığıyla doğal dille ("Yarın projemi incelemek için görev ekle") yönetilebilir.
  • Otomasyonlar: Tek seferlik ve yinelenen hatırlatıcılar, günlük görev özetleri ve isteğe bağlı yapay zeka rutinleri sağlar. Durable Object alarmları üzerinde çalıştığı için arka planda sürekli bir sunucunun çalışır kalmasına gerek yoktur.
  • Tasarım gereği tek kullanıcılı: Hesap açma, ekip rolleri veya kayıt ekranları içermez. Kurulum sırasında belirlenen tek bir sahip parolası ile korunur.
  • Yapay zeka olmadan da çalışabilirlik: Workers AI erişilemez olduğunda ya da ücretsiz kota sınırına ulaşıldığında dahi görevler, notlar, hafıza ve hatırlatıcılar çalışmayı sürdürür (graceful degradation prensibi).

2. Nasıl Çalışır?#

Proje, mikroservis ve uç bilişim prensiplerini birleştiren sağlam bir veri akışına sahiptir:

  • Uç Nokta ve İletişim: Tarayıcı yalnızca *.pages.dev adresiyle doğrudan HTTPS üzerinden iletişim kurar. /api/* istekleri, Pages Function aracılığıyla genel internete kapalı bir Service Binding üzerinden ana Worker'a iletilir.
  • Ağ Güvenliği: Arka uç API Worker'ı workers_dev: false ve preview_urls: false parametreleriyle dağıtılır; yani genel ağa açık bir URL'si yoktur. Kimlik doğrulama işlemleri arayüzde değil, doğrudan bu Worker katmanında gerçekleşir.
  • Durum ve Ajan Katmanı: Hono router'ı, Cloudflare Agents SDK ile geliştirilen TalorysAgent adlı Durable Object nesnesini tetikler. Veri kalıcılığı bu nesneye gömülü SQLite motoruyla sağlanır.
  • Model ve Akış: Çıkarım için Workers AI üzerindeki @cf/zai-org/glm-4.7-flash modeli kullanılır ve yanıtlar uçtan uca Server-Sent Events (SSE) ile istemciye aktarılır.

3. Kullanılan Cloudflare Servisleri#

  • Cloudflare Pages: React arayüzü ve Pages Function yönlendirmesi (Ücretsiz planda desteklenir).
  • Cloudflare Workers: Hono tabanlı özel API Worker katmanı (Ücretsiz planda desteklenir).
  • Durable Objects (SQLite): Tüm veri depolama, konuşma geçmişi, durum ve alarmlar (Ücretsiz planda desteklenir).

Öğrenme ve Yazılım Geliştirme Çıkarımları: Talorys, sunucusuz mimarilerde durum bilgisi tutan (stateful serverless) ajan geliştirmenin en iyi pratiklerini sergiler. Durable Objects ile SQLite birleşimi veritabanı maliyetini sıfırlarken, Service Binding kullanımı backend saldırı yüzeyini tamamen ortadan kaldırır. AI kotası tükendiğinde sistemin temel işlevlerini sürdürmesi ise dayanıklı yazılım mimarisi kurmak isteyen geliştiriciler için kritik bir derstir.


Bu konuyu derinlemesine öğrenmek isterseniz: Edge Runtime ve Production Optimizasyonu modülüne göz atın.

Kaynak ve atıf

Bu yazı, Hacker News üzerinde yayımlanan içerikten yararlanılarak Edumints tarafından yapay zekâ desteğiyle Türkçe hazırlandı. Ayrıntılar ve yazarların kendi anlatımı için orijinaline bakabilirsin:

  • github.com/rociiu/talorys