Yapay zekâlı (YZ) dil modellerini seviyoruz; ama çok tartışılan bir huyları var: Halüsinasyon görüyorlar. Bazen büyük bir özgüvenle 'atmasyon' yanıtlar veriyorlar. Peki bu "uydurma alışkanlığı" bir hata değil, ürün özelliği olabilir mi Bu hafta konuya biraz derinlemesine daldım. Bazı çıktılar sizi şaşırtabilir, önden söyleyeyim.

1) Halüsinasyonlar neden oluyor

Biz YZ'nin içinde dev bir ansiklopedi olduğunu; bir şey sorduğumuzda Taş Devri çizgi filmindeki gibi bir canlının içeride oturup o ansiklopediyi karıştırdığını düşünüyoruz. Fakat öyle değil. YZ "Türkiye'nin en yüksek dağı…" dediğimizde engin coğrafya bilgisiyle yanıt vermiyor, kelime dizisininden sonraki en yüksek istatistiğe yönelerek Ağrı Dağı diyor. Ancak sağlıksız veriye dayalı bir konuda istatistik motoru boşluğa düşüyor. YZ'nin eğitiminde durmak yok, öğretmenlerinin 'cevap ver ve akıcı ol' emirlerini hatırlıyor ve kelimeleri kafasına göre dizmeye başlıyor. Ve acı son: Halüsinasyon gerçekleşiyor.

2) Fıtratında neden 'Bilmiyorum' yok

Hatırlayın, mutfak robotları hayatımıza ilk girdiğinde ne kadar heyecanlanmıştık. Jetgiller gibi yaşayacağımızı sanıp robotun börek açmasını beklerken, tezgahta 'güçlendirilmiş' bir blender ile karşı karşıya bırakılmıştık. Annelerimize blender satmak zordu ama mutfak robotu peynir ekmek gibi kapışılmıştı. Bugün de YZ'den beklentimiz paralel bir aşırı iyimserlik içermekte. YZ'nin şu anki "aman evladım müşteriyi boş çevirme" temelli esnaf tipi eğitimi de bu iyimserliği besliyor. Algoritma, insanların "Bu alet aptal" diyerek aboneliklerini iptal etmesini istemiyor; "Bilmiyorum" yanıtıyla hayal kırıklığına uğratmaktansa, "Muhtemelen böyledir" ile risk almayı tercih ediyor. Bu net şekilde ticari bir seçim. Bunun insani bir tarafı olduğunu da kendimize itiraf etmemiz gerek. Bir plaza toplantısını düşünün: Patron zor bir soru sorduğunda, beyaz yakalı genelde "Bilmiyorum efendim" deyip susmak yerine laf salatası ile boşlukları doldurmayı seçer. YZ de tam olarak kovulmaktan korkan bir beyaz yakalı gibi hareket ediyor.

'Onun işi gerçekler değil'

3) Halüsinasyon bir özellik mi

YZ'nin yaratıcılığı ve yalancılığı aynı mekanizmadan besleniyor. Onu şiir yazabilir, kod üretebilir, şaka ve felsefe yapabilir kılan şey; kelimeler arasında esnek, olasılıklı ve gevşek bağlar kurabilmesi. Onun işi gerçekleri bilmek değil, cümleleri anlamlı bir hikayeye dönüştürmek. Mühendislerin "istatistiksel sapma özgürlüğünü" sıfırladığı bir senaryo, YZ'yi bir Wikipedia arama çubuğuna dönüştürebilir. O zaman da üretken değil getiren bir yapay zekâdan bahsetmiş oluruz. Bir başka deyişle; halüsinasyon YZ'nin yan etkisi gibi biraz. Onu reddettiğimizde ilacın kendisini, akıcı ve yaratıcı bir YZ'yi de dışlıyoruz. Evet, algoritma ve teknoloji geliştikçe "okuduğunu yanlış anlama" ve "yanlış veriye güvenme" gibi halüsinasyon nedenleri azalabilir ama boşluk doldurma ve yaranma dürtüsünün tamamen yok olması çok zor.