Fine-Tuning mi, Prompt Mühendisliği mi, RAG mi?

Kurumsal görüşmelerde en pahalı karışıklık: “Modeli verimizle eğitelim” cümlesiyle kastedilenin çoğu zaman eğitim olmaması. Üç ayrı teknik var ve yanlış seçim aylar kaybettiriyor.

Üç tekniğin tek cümlelik tanımı

• Prompt mühendisliği: modele işi doğru tarif etmek — talimat, örnek, format. Ağırlıklar değişmez.
• RAG: cevabı yazarken modele sizin belgelerinizden pasaj vermek. Ağırlıklar değişmez; bilgi dışarıdan gelir.
• Fine-tuning: modeli örnek çiftleriyle yeniden eğitmek. Ağırlıklar değişir; davranış kalıcılaşır.

Karar ağacımız

“Model bilgiyi bilmiyor” problemi → RAG. Şirket prosedürünüzü, güncel mevzuatı, dünkü toplantı notunu model bilemez. Bu bilgiyi eğitimle vermeye çalışmak hem pahalı hem bozuk: bilgi güncellenince model bayatlıyor ve kaynak gösteremiyor. Bilgi problemi = arama problemi.

“Model işi yanlış yapıyor” problemi → önce prompt. Format tutmuyor, üslup yanlış, adımlar atlanıyor: bunların çoğu iyi talimat ve az sayıda örnekle çözülür. Ucuz, hızlı, geri alınabilir. Prompt kütüphanesi sürümlenmeli ve eval’den geçmelidir — bkz. RAG değerlendirme.

“Prompt yetmiyor, örüntü derin” problemi → fine-tuning. Dar ve tekrarlı bir görevde (belirli belge tipini kodlamak, kurum jargonunda sınıflandırma) binlerce kaliteli örneğiniz varsa küçük bir modeli ince ayarlamak hem kaliteyi hem maliyeti iyileştirebilir: büyük modelin işini, ince ayarlı küçük model 10 kat ucuza yapar.

Sahadan üç uyarı

1. Fine-tuning bilgi deposu değildir. Eğitim setindeki gerçekleri modele “öğretirsiniz” ama güvenilir geri çağırma garantisi yoktur; halüsinasyon sürer. Bilgi RAG’in işidir.
2. Önce ölçüm seti, sonra teknik. Hangi yöntemin kazandığını izlenim değil, aynı ölçüm setinde karşılaştırma söyler. Çoğu projemizde sıralama şöyle çıkıyor: iyi prompt + iyi RAG, tek başına fine-tuning’i geçiyor.
3. Birleşim normaldir. Üretimdeki tipik sistemimiz: RAG (bilgi) + özenli prompt (davranış) + yer yer ince ayarlı küçük model (dar alt görevler).

Kararsız kaldığınız bir kullanım senaryosu varsa keşif görüşmesinde birlikte karar ağacından geçirelim.