İnce ayar mı, iyi istem mi? Fine-tuning ve istem farkı

Bir dil modelinden istediğiniz sonucu alamadığınızda iki yol akla gelir: Ya ona derdinizi daha iyi anlatırsınız ya da modeli kendi verinizle yeniden eğitirsiniz. İlkine istem mühendisliği (prompt engineering), ikincisine ince ayar (fine-tuning) denir. İkisi sık sık birbirinin alternatifi gibi konuşulur, oysa farklı sorunları çözerler. Bu yazıda her birinin neyi değiştirdiğini, ne zaman tercih edilmesi gerektiğini ve karar verirken izlenebilecek pratik bir sırayı ele alıyoruz.

İki farklı müdahale noktası

Yeni işe başlayan yetenekli bir çalışan düşünün. Ona bir görev verirken iki şey yapabilirsiniz. Birincisi, görevi iyi tarif etmek: Amacı, hedef kitleyi, örnek çalışmaları ve dikkat etmesi gereken kuralları anlatan net bir brif hazırlamak. İkincisi, onu birkaç hafta boyunca belirli bir işe özel bir eğitimden geçirmek; öyle ki o işi her seferinde brife gerek kalmadan, alışkanlık hâline gelmiş bir biçimde yapsın.

İstem mühendisliği birinci yola, ince ayar ikinci yola benzer. İstem, modelin kendisine dokunmaz; ona yalnızca o anki görev için daha iyi bir talimat verir. İnce ayar ise modelin parametrelerini, yani davranışını belirleyen iç değerlerini, sizin hazırladığınız örneklerle günceller. Sonuç, kalıcı olarak biraz farklı davranan yeni bir model sürümüdür.

Reklam

İyi bir istem nelere çözüm olur?

Modern dil modelleri talimatlara uymak üzere eğitildiği için, sorunların büyük kısmı daha iyi bir istemle çözülebilir. İyi bir istem genellikle şu unsurları içerir:

  • Rol ve amaç: Modelin hangi bakış açısıyla ve hangi amaçla çalıştığı.
  • Bağlam: Hedef kitle, kullanım yeri, elinizdeki ham bilgi.
  • Açık kurallar: Uzunluk, ton, kullanılmaması gereken ifadeler, emin olunmayan durumda ne yapılacağı.
  • Örnekler: Beklenen girdi ve çıktıdan birkaç örnek. Buna “az örnekli istem” (few-shot) denir ve modelin biçimi ve üslubu yakalamasında çok etkilidir.
  • Çıktı biçimi: Madde listesi, tablo ya da bir yazılımın okuyabileceği yapılandırılmış veri gibi.

İstem mühendisliğinin en büyük avantajı hızdır. Bir değişikliği dakikalar içinde deneyebilir, sonucu görebilir ve geri alabilirsiniz. Ek altyapı, eğitim verisi ya da uzmanlık gerektirmez. Model sağlayıcısı daha iyi bir sürüm çıkardığında, aynı istemi yeni modelde kullanmaya devam edebilirsiniz.

İnce ayar neyi değiştirir?

İnce ayarda, örneğin yüzlerce ya da binlerce “girdi ve olması gereken çıktı” çifti hazırlanır ve model bu örnekler üzerinde ek bir eğitimden geçirilir. Bu süreç, modelin genel bilgisini baştan oluşturmaz; var olan yeteneklerini belirli bir yöne doğru “yontar”.

İnce ayarın gerçekten parladığı durumlar şunlardır:

  • Tutarlı bir biçim veya üslup: Her seferinde belirli bir yapıda, belirli bir marka diliyle ya da belirli bir sınıflandırma şemasına göre çıktı gerekiyorsa.
  • Dar ve tekrar eden görevler: Belirli türde belgelerden alan çıkarmak, gelen mesajları kategorilere ayırmak gibi çok sayıda tekrarlanan işler.
  • İstemi kısaltmak: Her istekte uzun talimatlar ve çok sayıda örnek göndermek yerine bu davranışı modele kalıcı olarak kazandırmak; bu da yüksek hacimli kullanımda maliyeti ve gecikmeyi düşürebilir.
  • Küçük bir modeli büyütmek: Belirli bir görevde daha küçük ve ucuz bir modeli ince ayarla eğiterek, o görev için daha büyük bir modele yaklaşan sonuçlar almak.

Bedeli de vardır: Kaliteli eğitim verisi hazırlamak emek ister, sonucu değerlendirmek için ayrı bir test süreci gerekir, model sürümleri değiştikçe ince ayarın tekrarlanması gerekebilir. Ayrıca her model ve her sağlayıcı ince ayara izin vermez.

Bir örnekle somutlaştıralım: Bir sigorta şirketi, müşterilerden gelen e-postaları “hasar bildirimi”, “poliçe değişikliği”, “şikâyet” ve “bilgi talebi” gibi kategorilere ayırmak istiyor olsun. Başlangıçta, kategorileri tanımlayan ve her biri için birkaç örnek içeren iyi bir istem büyük ihtimalle işe yarar. Ama günde çok sayıda e-posta işleniyorsa ve şirketin kendine özgü sınır durumları varsa, geçmişte doğru etiketlenmiş e-postalarla küçük bir modele ince ayar yapmak hem daha tutarlı hem de daha ekonomik bir çözüme dönüşebilir.

Yan yana karşılaştırma

Ölçüt İstem mühendisliği İnce ayar
Modeli değiştirir mi? Hayır Evet, yeni bir sürüm oluşur
Deneme hızı Dakikalar Veri hazırlığıyla birlikte günler veya haftalar
Gereken veri Birkaç örnek yeterli olabilir Özenle hazırlanmış çok sayıda örnek
Güçlü olduğu alan Esnek, değişken görevler Tutarlı biçim, dar ve yüksek hacimli görevler
Bakım İstemi güncellemek kolay Yeniden eğitim gerekebilir

Sık yapılan bir hata: Bilgi öğretmek için ince ayar

En yaygın yanlış anlamalardan biri, ince ayarın modele şirkete özel bilgileri “ezberletmenin” en iyi yolu olduğudur. “Ürün kataloğumuzu modele ince ayarla öğretelim, sonra müşteri sorularını cevaplasın” fikri kulağa mantıklı gelir, ama pratikte çoğu zaman beklentiyi karşılamaz.

Bunun birkaç nedeni var. İnce ayar, modele daha çok nasıl davranacağını öğretmekte başarılıdır; neyi bileceğini güvenilir şekilde eklemekte değil. Model eğitim örneklerindeki bilgileri kısmen hatırlayabilir, ama hangi bilgiyi nereden aldığını gösteremez ve eksik kaldığı yerde yine tahmin yürütebilir. Üstelik ürün fiyatı ya da politika değiştiğinde modeli yeniden eğitmeniz gerekir.

Kuruma özel ve sık değişen bilgiler için genellikle daha uygun yaklaşım, ilgili belgeleri soru anında bulup modele bağlam olarak vermektir. Bu yöntem bilgiyi güncel tutar ve cevabın kaynağını gösterebilir. İnce ayar ise bu sistemin üzerine, örneğin cevapların belirli bir üslupta ve yapıda olmasını sağlamak için eklenebilir.

Karar verirken izlenecek sıra

Hangi yolu seçeceğinizden emin değilseniz aşağıdaki sıra, gereksiz emek harcamadan doğru noktaya ulaşmanıza yardım eder:

  1. Başarıyı tanımlayın. “Daha iyi cevap” yerine ölçülebilir bir hedef koyun ve gerçek örneklerden oluşan küçük bir test kümesi hazırlayın.
  2. Önce istemi iyileştirin. Talimatları netleştirin, örnekler ekleyin, çıktı biçimini belirleyin. Sonuçları test kümesiyle ölçün.
  3. Eksik olan bilgi mi, davranış mı? Model doğru bilgiye sahip olmadığı için yanılıyorsa bilgiyi bağlam olarak sağlamayı düşünün. Bilgi elinde olduğu hâlde biçim ve tutarlılık sorunu sürüyorsa ince ayar gündeme gelebilir.
  4. Farklı modelleri deneyin. Bazen sorunun çözümü, göreve daha uygun başka bir hazır modeldir.
  5. Son olarak ince ayarı değerlendirin. İstem sınırına ulaştıysanız, görev yüksek hacimliyse ve elinizde kaliteli örnekler varsa ince ayar mantıklı bir sonraki adımdır.

İnce ayara geçmeden önce hazır olması gerekenler

  • Gerçek kullanım senaryolarını yansıtan, birbirine tutarlı ve hatasız eğitim örnekleri.
  • Eğitimde kullanılmayan, ayrı tutulmuş bir test kümesi.
  • İnce ayarlı modeli, iyi istemlenmiş temel modelle karşılaştıracak bir değerlendirme yöntemi.
  • Eğitim verisinde kişisel veya gizli bilgi bulunmadığına dair kontrol.
  • Model sağlayıcısı yeni bir temel model çıkardığında sürecin nasıl tekrarlanacağına dair bir plan.

Özetle, istem mühendisliği ve ince ayar birbirinin rakibi değil, farklı katmanlarda çalışan iki araçtır. Çoğu proje için doğru başlangıç noktası iyi bir istemdir; ince ayar ise ne istediğinizi ve neyi ölçtüğünüzü netleştirdikten sonra, belirli bir sorunu çözmek için başvurulan bir uzman aracıdır.

“İnce ayar mı, iyi istem mi? Fine-tuning ve istem farkı” haberi, Etesio Teknoloji’nin yapay zekâsı Safinaz tarafından Türkçeleştirilip yayına alınmıştır.

Reklam
Enver KOÇAK

Enver KOÇAK

Gaziantep merkezli yazılım mühendisi, yapay zekâ ve siber güvenlik uzmanı; Etesio Teknoloji'nin kurucusu ve enverkocak.com'un yayıncısı. Yapay zekâ modellerini, araçlarını ve sektördeki gelişmeleri günlük olarak takip ediyor; haberleri kaynaklarıyla birlikte Türkçe olarak derliyor. Fatih Sultan Mehmet Vakıf Üniversitesi Sürekli Eğitim Merkezi (FSMSEM) – 560 saatlik Gazetecilik Eğitimi (Ağustos–Aralık 2024) sertifikasına sahiptir.

İlgili Haberler

Yapay zekâ işleri elimizden alacak mı? Daha dengeli bir bakış

Ne her işin yok olacağı kıyamet senaryosu ne de hiçbir şeyin değişmeyeceği rahatlığı gerçeği anlatıyor. Yapay zekânın işler üzerindeki etkisine meslek değil görev düzeyinde, daha sakin bir bakış.

Devamını oku

Küçük işletmeler için yapay zekâ ile otomasyona başlangıç

Küçük işletmelerde tekrar eden işlerin bir kısmı yapay zekâ destekli otomasyona devredilebilir. Doğru işi seçmekten araç seçimine ve bir aylık başlangıç planına kadar adım adım rehber.

Devamını oku