Halüsinasyon: Yapay zekâ neden emin bir şekilde yanılır?

Bir yapay zekâ sohbet aracına bir konuda kaynak sorduğunuzda size yazar adı, başlık ve yayın yılıyla birlikte düzgün görünen bir liste verebilir. Sonra bu kaynakları aradığınızda bazılarının hiç var olmadığını fark edersiniz. Bu duruma halüsinasyon denir: Modelin gerçeğe dayanmayan bir bilgiyi, doğruymuş gibi ve çoğu zaman tam bir özgüvenle üretmesi. Bu yazıda halüsinasyonun neden ortaya çıktığını, en çok nerede görüldüğünü ve riskini azaltmak için neler yapabileceğinizi ele alıyoruz.

Boş bırakmayan öğrenci

Yanlış cevabın puan götürmediği bir sınav düşünün. Bilmediği soruyu boş bırakan öğrenci kesin olarak sıfır alır; tahmin yürüten öğrenci ise bazen tutturur. Böyle bir sınavda öğrencilerin her soruya bir şeyler yazmayı öğrenmesi şaşırtıcı değildir. Üstelik iyi bir öğrenci, tahminini bile düzgün cümlelerle, konuya uygun terimlerle ve ikna edici bir üslupla yazar.

Dil modelleri de benzer bir eğilim taşır. Temel görevleri, verilen metnin en makul devamını üretmektir. Bir soruya “bilmiyorum” demek de bir devam seçeneğidir, ama eğitim verisindeki metinlerin büyük kısmı sorulara bir cevap verir. Model, akıcı ve konuya uygun bir cevabın neye benzediğini çok iyi öğrenmiştir; o cevabın doğru olup olmadığını ise her zaman ayırt edemez.

Asıl sebep: Model doğruyu değil, makul olanı üretir

Bir dil modeli bilgiyi bir ansiklopedi gibi madde madde saklamaz. Eğitim sırasında gördüğü metinlerden kalıplar ve ilişkiler çıkarır, bunları milyarlarca sayısal değerin içine dağıtır. Bir soruyu cevaplarken bu kalıpları kullanarak yeni bir metin üretir. Sık geçen, iyi bilinen bilgilerde bu süreç genellikle doğru sonuç verir. Ama az geçen, belirsiz ya da hiç görmediği bir bilgi istendiğinde model, eksik parçayı “makul görünen” bir şeyle doldurabilir.

Bir kaynak listesini düşünelim. Model, akademik kaynakların nasıl göründüğünü çok iyi bilir: yazar soyadı, yıl, başlık, dergi adı. Konuyla ilgili tanıdık isimleri ve kelimeleri birleştirerek bu kalıba tam oturan, ama gerçekte yayımlanmamış bir makale künyesi oluşturabilir. Ortaya çıkan şey bir yalan değildir; model kimseyi kandırmaya çalışmaz. Sadece biçim olarak kusursuz, içerik olarak dayanaksız bir metin üretmiştir.

Halüsinasyonun en sık görüldüğü yerler

Halüsinasyon her konuda aynı sıklıkta görülmez. Bazı alanlar özellikle risklidir:

• Kaynaklar ve alıntılar: Makale künyeleri, kitap sayfa numaraları, birine atfedilen sözler, mahkeme kararları.
• Kesin sayılar: İstatistikler, tarihler, fiyatlar, teknik özellikler. Model, gerçek değere yakın ama yanlış bir sayı verebilir.
• Az bilinen kişiler ve kurumlar: Ünlü olmayan birinin biyografisi, küçük bir şirketin geçmişi, yerel bir kurumun yöneticileri.
• Güncel olaylar: Modelin eğitim verisi belirli bir tarihte kesilir. Sonrasını bilmediği hâlde, arama gibi bir araçla desteklenmiyorsa yine de cevap üretmeye çalışabilir.
• Yazılım ayrıntıları: Var olmayan bir fonksiyon adı, yanlış bir parametre ya da bir kütüphanede bulunmayan bir özellik. Kod düzgün görünür ama çalışmaz.
• Yanlış öncüllü sorular: “X şirketinin 2010’daki iflası neden oldu?” gibi, içinde yanlış bir varsayım taşıyan sorular. Model, varsayımı düzeltmek yerine ona uygun bir hikâye kurabilir.

Bu listeden çıkan ortak bir ders var: Halüsinasyon riski, sorunun cevabının eğitim verisinde ne kadar sık ve tutarlı biçimde geçtiğiyle yakından ilişkilidir. Herkesin bildiği bir tanımı sormak düşük risklidir; tek bir belgede geçen bir ayrıntıyı sormak yüksek risklidir. Bir soruyu sormadan önce “Bu bilgi internette yaygın olarak yazılı mı?” diye düşünmek, cevaba ne kadar güveneceğinizi belirlemek için iyi bir başlangıçtır.

Neden bu kadar emin konuşuyor?

İnsanlar arasında emin bir ses tonu genellikle bilgiye işaret eder. Bir uzman tereddüt etmeden konuşuyorsa konuya hâkim olduğunu varsayarız. Dil modellerinde bu işaret güvenilir değildir. Modelin üslubu, büyük ölçüde eğitildiği metinlerin üslubundan gelir ve yazılı metinlerin çoğu açıklayıcı, net ve kendinden emin bir dille yazılmıştır.

Ayrıca bir cevabın tamamı aynı tonda üretilir. Model, doğru bildiği bir cümleyle uydurduğu bir cümle arasında üslup farkı yaratmaz. Aynı paragrafın içinde doğru bir tanım, doğru bir örnek ve tamamen hayalî bir istatistik yan yana durabilir. Bu da halüsinasyonu tespit etmeyi zorlaştırır: Hatalı kısım, doğru kısımların güvenilirliğinden “ödünç” alır.

Bir cevabın şüpheli olduğunu gösteren işaretler

Hiçbir işaret kesin değildir, ama aşağıdaki durumlarda daha dikkatli olmak gerekir:

• Cevapta, sizin hiç istemediğiniz kadar ayrıntılı ve kesin sayılar varsa.
• Aynı soruyu biraz farklı şekilde sorduğunuzda farklı isimler, tarihler ya da rakamlar geliyorsa.
• Kaynak gösterilmiş ama bu kaynaklara bir arama motorunda ulaşamıyorsanız.
• Konu çok niş olduğu hâlde cevap, şaşırtıcı derecede akıcı ve eksiksiz görünüyorsa.
• Modelden bir ayrıntıyı açıklamasını istediğinizde önceki ifadesini değiştiriyor ya da yeni ayrıntılar ekleyerek savunuyorsa.

Riski azaltmak için ne yapılabilir?

Kullanıcı olarak

1. Bilgiyi siz verin. Bir belge hakkında soru soracaksanız belgeyi paylaşın ve modelden yalnızca o belgeye dayanarak cevap vermesini isteyin. Model elindeki metni özetlerken, hafızasından bilgi çağırmaya göre çok daha güvenilirdir.
2. Belirsizliğe izin verin. İsteminize “Emin olmadığın yerde bunu açıkça belirt” ya da “Bilgi yoksa bilmiyorum de” gibi bir cümle eklemek, modelin tahmin yürütme eğilimini azaltabilir.
3. Kritik bilgiyi doğrulayın. Sağlık, hukuk, finans ya da yayımlayacağınız bir içerikte geçen her sayı, isim ve kaynak, birincil bir kaynaktan kontrol edilmelidir.
4. Varsayımlarınızı sorgulatın. Bir sorunun öncülünden emin değilseniz, önce “Bu doğru mu?” diye sorun, sonra ayrıntıya geçin.
5. Arama destekli araçları tercih edin. Güncel konular için internette arama yapıp kaynak gösteren bir araç, sadece hafızasından konuşan bir modelden daha uygundur. Yine de gösterilen kaynağın gerçekten o bilgiyi içerdiğini kontrol edin.

Uygulama geliştiren biri olarak

• Modeli güvenilir verilere bağlayın; cevabı ilgili belgelerden getirilen metinlere dayandırın ve kaynağı kullanıcıya gösterin.
• Kesin olması gereken bilgileri (fiyat, stok, hesap bakiyesi gibi) modele ürettirmeyin; bunları doğrudan veritabanından çekin.
• Cevap biçimini kısıtlayın. Serbest metin yerine belirli bir şemaya uyan yapılandırılmış çıktı istemek, doğrulamayı kolaylaştırır.
• Yüksek riskli akışlarda bir insan onayı adımı bırakın.
• Gerçek kullanıcı sorularından oluşan bir test kümesiyle sistemi düzenli olarak sınayın; hataların hangi soru türlerinde yoğunlaştığını izleyin.

Halüsinasyon tamamen ortadan kalkar mı?

Modeller geliştikçe ve doğrulama yöntemleri iyileştikçe halüsinasyon oranlarının azaldığı yaygın olarak gözlemleniyor. Ancak dil modelinin çalışma biçimi, yani olasılıklara dayanarak metin üretmesi, değişmediği sürece riskin tamamen sıfırlanması beklenmemelidir. Daha doğru bir bakış açısı, yapay zekâyı hızlı ve yetenekli ama denetlenmesi gereken bir yardımcı olarak görmektir.

Pratik kural basit: Modelin size zaman kazandırdığı işlerde, örneğin taslak yazmak, fikir üretmek, metni düzenlemek ya da elinizdeki bir belgeyi özetlemek gibi, onu rahatça kullanın. Bir bilginin doğruluğunun önemli olduğu her yerde ise son sözü doğrulanmış kaynaklara bırakın.

“Halüsinasyon: Yapay zekâ neden emin bir şekilde yanılır?” haberi, Etesio Teknoloji’nin yapay zekâsı Safinaz tarafından Türkçeleştirilip yayına alınmıştır.