Sıfırdan Uç Nokta Yapay Zekasına (Edge AI): TinyTB-Net'i Sıfırdan Tasarlamak

"Mükemmelliğe, eklenecek hiçbir şey kalmadığında değil, çıkarılacak hiçbir şey kalmadığında ulaşılır." — Antoine de Saint-Exupéry

Ham tıbbi pikseller üzerinde sıfırdan bir görüntü işleme modelini tüberküloz tespiti için eğitmek, onu 8-bit (INT8) seviyesine nicelemek (quantization) ve eski bir dijital saatten daha az belleğe sahip 2,50 dolarlık bir mikrodenetleyici üzerinde çalıştırmak mümkün mü?

Günümüzde yapay zeka endüstrisinin büyük bir kısmı devasa GPU kümeleri, yüz milyarlarca parametre ve megavatlarca güç tüketimiyle ölçek büyütmeye odaklanıyor. Ancak yelpazenin diğer ucunda tamamlayıcı bir sınır daha var: Çok ucuz ve küçük mikrodenetleyicilere ne kadar faydalı zeka sığdırabilirsiniz? Buradaki hedef, internet erişimi, bulut bağlantısı veya uzman bir radyolog bulunmayan kırsal bir sahra kliniğinde, tek bir lityum pille çalışan ESP32 (2,50 dolar) mikrodenetleyicisidir.

Bu çalışma, TinyTB-Net mimarisini sıfırdan inşa etme sürecini ele alıyor: Model mimarisi, klinik triyajda standart doğruluk (accuracy) metriğinin neden başarısız olduğu, ilk ResNet denemesinde nelerin bozulduğu, Squeeze-and-Excitation dikkat mekanizmasının bunu nasıl çözdüğü, INT8 eğitim sonrası nicelemenin (post-training quantization) arka planda nasıl çalıştığı ve mikrodenetleyici belleğini (heap) tüketmeden doğrudan flash bellekten bağımsız bir teşhis web arayüzünün nasıl sunulacağı inceleniyor.

1. Motivasyon: Tüberküloz İçin Uç Nokta Yapay Zekası (Edge AI)#

Tüberküloz (Mycobacterium tuberculosis), her yıl yaklaşık 1,3 milyon insanın ölümüne neden olarak dünyanın en ölümcül bulaşıcı hastalıklarından biri olmaya devam ediyor. İşin en üzücü yanı, etkili antibiyotiklerin (izoniazid, rifampisin) yetmiş yılı aşkın süredir oldukça ucuz olmasıdır. Buradaki temel darboğaz zamanında teşhistir. Göğüs röntgeni (CXR) çekmek ucuz ve hızlıdır, ancak bu görüntüyü okumak eğitimli bir radyolog gerektirir. Düşük kaynaklı bölgelerde radyolog-hasta oranı 500.000'de 1'in altına düşebilmektedir.

Ucuz bir mikrodenetleyici üzerinde çevrimdışı çalışan bir tarama modeli, pille çalışan herhangi bir dijital röntgen istasyonunu veya tarayıcıyı otomatik bir triyaj istasyonuna dönüştürebilir.

• Mühendislik ve Öğrenme Çıkarımı: Bu çalışma ticari bir tıbbi cihaz değil, eğitici bir mühendislik projesidir. Ancak 300 bin parametreli bir modelin uç nokta donanımlarında (edge silicon) ne kadar ileri gidebileceğini keşfetmek, kısıtlı kaynaklarda Ölçeklendirme ve Optimizasyon pratiklerini anlamak açısından kritik bir yazılım geliştirme deneyimidir.

2. Klinik Triyajda Doğruluk (Accuracy) Metriği Neden Başarısız Olur?#

CIFAR-10 veya ImageNet gibi standart sınıflandırma kıyaslamalarında, toplam doğru tahmin oranını (doğru / toplam) takip etmek standart bir uygulamadır. Ancak tıbbi triyajda doğruluk neredeyse hiçbir bilgi vermez; çünkü hata maliyetleri son derece asimetriktir.

59 doğrulanmış aktif tüberküloz vakası ve 61 sağlıklı kontrol grubundan oluşan 120 hastalı bir test grubunu ele alalım. Karmaşıklık matrisinde (confusion matrix) hatalar, sonuçları birbirinden çok farklı iki gruba ayrılır:

• Yanlış Negatifler (False Negatives - 24 hasta): Algoritma, aktif bakteriyel enfeksiyonu olan bir hastaya sağlıklı olduğunu söyler. Hasta tedavi edilmeden evine döner ve hastalığı bulaştırmaya devam eder.
• Yanlış Pozitifler (False Positives - 9 hasta): Sağlıklı bir hasta, ileri doğrulama testi (örneğin GeneXpert balgam sürüntüsü) için işaretlenir. İki gün sonra laboratuvar sonucu negatif çıkar. Hasta geçici bir endişe yaşar ancak kimse zarar görmez.

Geliştiriciler İçin Pratik Çıkarım: Eğer kayıp fonksiyonunuz (loss function) yanlış negatifleri ve yanlış pozitifleri eşit ağırlıkta değerlendirirse, optimizasyon algoritması daha az yanlış alarm vermek uğruna enfeksiyonları gözden kaçırmayı tercih edecektir. Klinik tarama yazılımlarında bir enfeksiyonu kaçırmak, fazla alarm vermekten çok daha tehlikelidir; bu nedenle model eğitiminde problem alanına özgü asimetrik ceza ağırlıkları kullanılmalıdır.