FreeFlow: Optik Akış Kestirimi İçin Ön Yargısız Hiyerarşik Transformer

Geleneksel Optik Akış Yöntemleri ve Endüktif Ön Yargılar

Optik akış (optical flow) kestirim yöntemleri, yüksek doğruluğa ulaşabilmek için uzun süredir korelasyon hacimleri (correlation volumes), öznitelik bükme (feature warping) ve yinelemeli iyileştirme (iterative refinement) gibi göreve özgü endüktif ön yargılara (inductive biases) dayanmaktadır. Görsel sahnedeki hareket vektörlerinin kestirilmesinde piksel eşleme mantığı, geleneksel bilgisayarlı görü yaklaşımlarında yoğun matematiksel kısıtlar gerektiriyordu. Bu tasarım kalıpları pratik başarı sağlasa da, modelleri önceden tanımlanmış sezgisellere (heuristics) hapsederek ifade ve temsil yeteneklerini sınırlar. Aynı zamanda bu durum, yazılım işlem hatlarını (pipeline) karmaşıklaştırmakta ve sisteme kayda değer ek hesaplama maliyetleri yüklemektedir.

FreeFlow Mimarisi ve Üç Aşamalı Dikkat Mekanizması

FreeFlow, akışa özgü harici ve kısıtlayıcı bileşenleri tamamen devreden çıkaran ve tek bir ileri beslemeli (feed-forward) kodlayıcı-kod çözücü (encoder-decoder) omurgasından yararlanan hiyerarşik bir transformer modelidir. Mimari, ek bir yinelemeli güncelleme katmanına gerek duymadan doğrudan akış alanını tahmin eder. İşlem verimliliği ile temsil gücünü dengelemek adına üç farklı dikkat mekanizmasını birleştirir:

Window Attention (Pencere Dikkati): Görsel verilerin yerel pencereler içinde yüksek çözünürlükle işlenmesini üstlenir.
Shifted-Window Attention (Kaydırılmış Pencere Dikkati): Pencere sınırlarını aşarak komşu bölgeler arasında dinamik bilgi aktarımı ve pencereler arası etkileşim kurar.
Global Attention (İndirgenmiş Çözünürlüklü Genel Dikkat): Düşük çözünürlük düzeyinde çalışarak tüm sahnenin küresel bağlamını minimum bellek maliyetiyle modele katar.

Doğal Ölçeklenebilirlik ve Başarım Kıyaslamaları

Alana özgü standart endüktif ön yargılar barındırmamasına rağmen FreeFlow, model parametre kapasitesiyle doğal bir uyum içinde ölçeklenir. Küçük modellerden büyük varyantlara geçildikçe kararlı ve sürekli bir doğruluk artışı elde edilir. FreeFlow, önemli optik akış kıyaslama testlerinde son teknoloji (SOTA) sonuçlara ulaşmıştır:

Sintel: Clean ve Final sahnelerinde sırasıyla 0.68 ve 1.48 EPE (Uç Nokta Hatası).
KITTI-2015: 3.23 Fl-all hata oranı.
Spring: 3.192 1px başarım metriği.

Üstelik bu başarılar yakalanırken, 1080p çözünürlükteki çıkarım (inference) süreçlerinde model bellek açısından son derece verimli kalmaktadır.

Yazılım Geliştiriciler İçin Pratik Çıkarımlar ve Öğrenimler

Heuristik Kod Karmaşasını Azaltma: Göreve özgü özel matematiksel numaralar yerine genel amaçlı transformer blokları kullanmak, yazılım mimarisindeki teknik borcu azaltır ve boru hatlarının bakımını kolaylaştırır; özel CUDA çekirdeklerine duyulan ihtiyacı asgariye indirir.
Bellek Dostu Dikkat Stratejileri: Yüksek çözünürlüklü görsel modeller tasarlarken kuadratik dikkat darboğazını aşmak için yerel pencereler ile seyreltilmiş küresel dikkatin hibrit kullanımı endüstride kritik bir optimizasyon tekniğidir.
Öngörülebilir Ölçekleme Yasaları: Özel modüllerden arındırılmış saf yapılar, donanım kaynakları ve veri büyüklüğü arttıkça ölçekleme yasalarına (scaling laws) tam uyum sağlayarak tahmin edilebilir performans artışı sunar.

[Orijinal kaynağa buradan ulaşabilirsiniz.](https://huggingface.co/papers/2609.11486)