Bir İçerik Denetleme Modelini Dizüstü Bilgisayarda Fine-Tune Etmek Kolaydır; Zor Olan Sonuca Güvenmektir

Bir platformun gelen yorumları yayına almadan önce denetlemesi gibi, iletileri safe (güvenli) veya unsafe (güvensiz) olarak sınıflandıran küçük bir dil modelini (SLM) 8 GB RAM'e sahip standart bir dizüstü bilgisayarda, birkaç dakika içinde ve tamamen ücretsiz eğitmek mümkündür. Ancak elde edilen sonuç her zaman kusursuz bir kazanım değildir: Genel başarı skoru yükselirken model en kritik senaryolarda daha kötü performans gösterebilir. Bu deneyimden çıkarılacak en değerli ders; düşük donanımla fine-tuning sürecinin nasıl işletileceği ve yapılan ayarın gerçekte işe yarayıp yaramadığının nasıl doğrulanacağıdır.

1. Öncelikle: Gerçekten Fine-Tuning Yapmalı mısınız?

Çoğu senaryoda bu sorunun yanıtı hayırdır.

• İhtiyacınızı daha iyi kurgulanmış bir prompt (istem mühendisliği) çözüyorsa, öncelikle bunu tercih etmelisiniz.
• Model sadece bilmediği güncel olgulara ihtiyaç duyuyorsa, bu bilgileri sorgu anında sağlamak gerekir; RAG (Retrieval-Augmented Generation) mimarisinin varlık sebebi budur.
• Fine-tuning; uzun prompt'lara gerek kalmadan, her seferinde aynı formatta çalışması istenen, tekrarlı ve sınırları net çizilmiş özel görevlerde anlam kazanır. Mesajları iki sabit etikete ayırmak bu kurala mükemmel bir örnektir.

2. Görev ve Değerlendirmenin Neden Kolay Olduğu

Model bir metin alır ve yalnızca tek bir kelimeyle yanıt verir: safe veya unsafe. Çıktı sabit bir kümeden ibaret olduğu için ikinci bir hakem modele (LLM-as-a-judge) veya karmaşık değerlendirme metriklerine ihtiyaç kalmaz; basit bir karakter dizesi (string) kontrolü yeterlidir.

Burada kritik bir yazılım mühendisliği detayı bulunur: safe kelimesi unsafe sözcüğünün içinde bir alt kümedir. Yanıt içinde doğrudan "safe" arayan dikkatsiz bir kontrol, tüm "unsafe" yanıtlarını da doğru sayacaktır. Yalnızca tam kelime eşleşmesi (whole-word match) yapmak tek satırlık bir düzeltmedir; ancak gözden kaçırıldığında test metriklerinizi sessizce tahrif eder.

3. Veri Seti

Eğitimde haber sitelerindeki gerçek okuyucu yorumlarından oluşan açık kaynaklı Civil Comments veri seti kullanılır. Her yorum, insan moderatörlerin işaretleme oranına göre bir toksisite puanı barındırır. İncelemede en az %70 oranında bayrak alan yorumlar unsafe olarak etiketlenir.

Gerçek toksik içerikler hassas veriler barındırdığından açık kod deposuna (repository) yüklenmez. İndirme betiği ile dengeli küçük bir kesit .gitignore kapsamındaki yerel dizine çekilir. Hassas alanlarda çalışan geliştiricilerin temel ilkesi şudur: İncelenen ham metinleri değil, yalnızca ölçülen sonuçları ve türetilmiş etiketleri versiyon kontrolüne dahil edin.

4. Fine-Tuning Gerçekte Neyi Değiştirir?

Bir dizüstü bilgisayarda modeli sıfırdan yeniden eğitmek donanım yetersizliği nedeniyle imkansızdır. Bunun yerine açık kaynaklı Qwen2.5-1.5B-Instruct modelinin milyarlarca ağırlığı dondurulur (frozen) ve üzerine LoRA (Low-Rank Adaptation) adı verilen küçük bir adaptör eğitilir.

Model boyutunun yalnızca %0,17'si kadar olan bu adaptör (~10 MB), taban modelin üzerine takılan hafif bir düzeltme modülüdür. Çıkardığınızda orijinal modele döner, taktığınızda ince ayarlı modeli kullanırsınız. Bu modülerlik, modelleri saklamayı, sürümlendirmeyi ve test etmeyi son derece pratik kılar.

5. Eğitim ve Ne Zaman Duracağını Bilmek

Donanım sınırlarını aşmak adına Apple'ın Mac yongalarında yerel çalışan MLX araç seti ve 8 GB bellek kısıtına uyum sağlayan 4-bit kuantize edilmiş bir model tercih edilir. Tüm eğitim parametreleri dizüstü bilgisayarın kısıtlarına göre optimize edilir.

[Orijinal kaynağa buradan ulaşabilirsiniz.](https://dev.to/sara_bezjak/fine-tuning-a-content-moderation-model-on-a-laptop-is-easy-trusting-the-result-is-not-50fb)