---
title: "Periscope: Dondurulmuş Dil Modellerini Bağlam Penceresinin Ötesine Genişletmek"
url: https://blog.edumints.com/periscope-dondurulmus-dil-modellerini-baglam-penceresinin-otesine
category: "LLM"
date: 2026-10-06T09:19:46.659Z
publisher: Edumints Blog
lang: tr-TR
source_name: "Hugging Face Papers"
source_url: https://huggingface.co/papers/2610.04047
---

# Periscope: Dondurulmuş Dil Modellerini Bağlam Penceresinin Ötesine Genişletmek

## Giriş ve Temel Problem

Geleneksel büyük dil modelleri (LLM), uzun metinleri karesel (*quadratic*) karmaşıklığa sahip tek bir ileri geçişle (*forward pass*) okur; ancak bağlam penceresi sınırında durur ve bu sınıra ulaşmadan önce dahi metin uzadıkça doğruluk kaybı yaşar. Periscope çalışması, sonlu bir küme üzerinden karar verilirken (hangi belgenin ilgili olduğu, hangi seçeneğin desteklendiği veya hangi pasajın kanıt teşkil ettiği) bu okuma sürecinin çarpanlara ayrılıp ayrılamayacağını sorgular.

## Periscope Mimarisi ve Çalışma Mekanizması

Periscope, ek bir eğitime ihtiyaç duymayan (**training-free**) yenilikçi bir çıkarım yöntemidir:

- **Metin Izgarası Yapılandırması:** Bir metindeki $N$ adet parça (*chunk*), $K = \lceil \sqrt{N} \rceil$ olmak üzere $K \times K$ boyutlarında bir ızgara biçiminde düzenlenir.
- **Yerel ve Kademeli Sorgulama:** Dondurulmuş (**frozen**) modele aynı soru; ardışık parçalardan oluşan $K$ yerel aralık (*local span*) ve metnin tamamını örnekleyen $K$ kademeli aralık (*strided span*) üzerinden yöneltilir ve tek bir token üzerinden her yanıtın log-odds olasılığı okunur.
- **Kanıt Haritası (*Evidence Map*):** Her yanıt en iyi yerel ve kademeli skorunu alır. Parçaların bu iki aralık üzerinden puanlanması, ek bir maliyet getirmeksizin zirve noktası doğrudan yanıtın ardındaki kanıt parçasını gösteren bir kanıt haritası üretir.
- **Hesaplama Ölçeği:** $s$ tokenlık bir metin ve $c$ parça boyutu için her sorgu yaklaşık $\sqrt{sc}$ token tutar. Böylece $W$ tokenlık bir pencere, $s^{1.5}$ hesaplama maliyetiyle $W^2/c$ kadar tokene ulaşabilir ve uzun okumanın yerini bu harita alır.

## Karşılaştırmalı Test Sonuçları

- **LongBench v2 Başarımı:** Haritanın en yüksek sırada derecelendirdiği yalnızca $K$ parçanın (yaklaşık 9k token) okunması; aynı modelin 32k'den 1M tokene kadar uzanan en iyi tam pencere okuma performansını yakalamaktadır.
- **InfiniteBench Üstünlüğü:** Medyan bağlam uzunluğunun 150k token olduğu InfiniteBench testinde, en iyi tam pencere okumasının 5 puan önünde yer alır.
- **BRIGHT Sıralaması:** Aynı harita, BRIGHT uzun belge derlemlerini test edilen altı yöntem arasındaki en yüksek NDCG@10 skoruyla sıralar.

## Yazılım Geliştirme ve Mühendislik Açısından Pratik Çıkarımlar

- **Donanım ve KV Önbellek Verimliliği:** Her çağrı yalnızca tek bir sorguyu önbelleğe aldığından, 27B parametreli bir model 4.5 milyon tokenlık bağlamları tek bir 80GB GPU üzerinde işleyebilir. Geleneksel tek geçiş 296GB KV önbelleği gerektirirken, Periscope sayesinde GPU metni değil yalnızca modeli tutmak için kullanılır.
- **Maliyet Odaklı RAG Mimarileri:** Geliştiriciler, tüm dokümanı tek seferde devasa bağlam pencerelerine besleyip yüksek bellek tüketmek yerine, $K \times K$ ızgara ve log-odds puanlama ile dondurulmuş modeller üzerinden düşük gecikmeli ve yüksek doğruluklu kanıt çıkarımı yapabilir.

[](https://huggingface.co/papers/2610.04047)

---

Bu konuyu derinlemesine öğrenmek isterseniz: [Ölçeklendirme ve Optimizasyon](https://edumints.com/kesfet/embedding-ve-reranking-modelleri-productionda-depl-blu6) modülüne göz atın.

---

**Kaynak:** Hugging Face Papers (https://huggingface.co/papers/2610.04047)
**Yayıncı:** [Edumints Blog](https://blog.edumints.com) · Alıntılarken bu URL'ye bağlantı verin: https://blog.edumints.com/periscope-dondurulmus-dil-modellerini-baglam-penceresinin-otesine