İnsanlık ilk kez, ne yaptığını bildiği ama nasıl yaptığını açıklayamadığı bir teknolojiyle karşı karşıya. Geçen hafta yapay zekânın bilinmezlikleri hakkında 5 çarpıcı gerçeği gündeme taşımıştık. Bu hafta aralarından 4'üncü maddeyi mercek altına alıyoruz.

Yapay zekâ, aklımızın ermediği, gözlemleyemediğimiz marifetiyle bilgiyi nasıl üretiyor Geçen haftaki yapay zekâyla ilgili yazımızdaki dördüncü madde bunun cevabının bilinmediğiyle ilgiliydi. ChatGPT gibi yapay zekâ sohbet botlarını geliştiren mühendislerin bile büyük dil modellerinin nasıl çalıştığını tam olarak açıklayamaması... Ortada kimsenin bir hatası olmasa da yapay zekâ araştırmacıları buna 'kara kutu problemi' diyor. Yani elimizde kilitli bir kutu var, içine soru atıyoruz, karşılığında etkileyici yanıtlar alıyoruz fakat kutuyu açıp nasıl çalıştığına bakamıyoruz.

Yapay zekâ sistemleri milyarlarca cümle, desen ve görsel içeren dev veri kümeleriyle eğitiliyor. Ancak ezberleyerek değil, nöral ağlar denen karmaşık iç bağlantılar kurarak öğreniyorlar. Ortaya çıkan şeyse adeta matematikten yapılmış bir beyne benziyor: İnsan mantığını takip etmiyor, kendi düşünce tarzını ortaya çıkarıyor. Tıpkı bir insan zihninin nasıl rüya gördüğünü, nasıl sanat tasarladığını ya da bir fikre aniden nasıl vardığını tam olarak bilemediğimiz gibi, üretici bir yapay zekânın yanıtlarını da kelime kelime nasıl oluşturduğunu izleyemiyoruz. Üstelik aynısı kendimiz için de geçerli. Kimi zaman aklımızda bir fikir olur, ne düşündüğümüzü iyi biliriz ancak kelimelere dökmek imkânsız gibi gelir. İnsanın kelime dağarcığını ve ifade becerisini aşan bir haldir. Çünkü sadece rasyonel zihin değil, kavram üreten bilinç işin içindedir. Neticede kendimiz bile bazen nasıl düşündüğümüzü, bir fikri nasıl bulduğumuzu tanımlayamıyoruz.

Yapay zekâların bilgiye ulaşmak için kullandığı nöral ağlar, balta girmemiş ormanlara benziyor. Farz edin ki ormanda binlerce patika çok fazla noktadan birbiriyle kesişiyor ve bir yerden diğerine varmak için sayısız seçenek var. Üstelik her rota, yepyeni bir hikâye. Gece karanlığında sezgilerimizle en kısa yolu bulsak bile ertesi gün geldiğimiz yoldan geri dönüp bir harita çıkaramıyoruz. Yapay zekâyı böylesine sofistike kılansa matematiksel bir 'beyin' yapısına sahip olduğu halde kullandığı verilerin insanların fikirleri, hayalleri, fantezileri ve deneyimlerinden oluşması. Dil modelleri bilindiği üzere tüm internetteki içeriklerle eğitiliyor.

İlk yazılım algoritmaları insanın düşünce mantığını model alarak tasarlanmıştı. Eğer koşul 0'sa şunu yap, 1'se bunu yap. Ancak yapay zekâyı geliştiren mühendisler sadece düz mantığı değil, beynin nöral ağ yapısını, yani evrimle gelişen kozmik bir mekanizmayı örnek aldılar. Üstelik içerik olarak hazır veri tablolarını değil, insanlığın şimdiye kadar ürettiği ve dilini, kültürünü, dimağını yansıtan inanılmaz büyüklükte bilgi kütlelerini kullandılar. Sonuç olarak beyin mekaniğini taklit eden, insan aklıyla üretilmiş cümlelerin ve görüntülerin arasında gezinen bir teknoloji ortaya çıktı. Bir bakıma insan bilincine aşina ve işlem gücü hızlı bir beyin mekanizması tasarlamış olduk. Kendisi düşünce yaratmasa da insanların yarattığı düşüncelerin arasında beyin gibi dolanarak anlamlı, yeni bağlantılar kurabilen bir sistem. Dijital organizma gibi büyüyen bir makine.

Kuantum biliminin atası Max Planck "Bilinç beyinden gelmez. Daha derin bir düzenden ortaya çıkar ve beyinden yansır" diyerek insan beynini bilincin içinde yol bulduğu bir aygıt olarak tanımlar.