Dijital dünyada her gün milyarlarca içerik üretiliyor, paylaşılıyor ve tüketiliyor. Fakat bu içeriklerin hangisinin doğru, hangisinin yanlış olduğunu belirleyecek ortak ve güvenilir bir referans mekanizması maalesef yok. Bu bağlamda The Social Dilemma belgeselinde Weapons of Math Destruction kitabının yazarı Cathy O'Neil'in kurduğu kısa bir cümle, aslında dijital çağın en temel sorunlarından birini son derece çarpıcı biçimde ortaya koymaktadır: "They don't have a proxy for truth that's better than a click." Yani, "Hakikati ölçmek için tıklamadan daha iyi bir göstergeleri yok." İlk bakışta sosyal medya platformlarının çalışma biçimine yönelik teknik bir eleştiri gibi görünen bu ifade, daha yakından bakıldığında çok daha büyük bir soruna işaret etmektedir.

O'Neil'in cümlesini önemli kılan hakikat ile etkileşimin aynı şey olmadığıdır. Bir bilginin çok paylaşılması onun doğru olduğunu göstermediği gibi, milyonlarca insanın bir videoyu izlemesi de o videoda anlatılanların gerçeği yansıttığı anlamına gelmez. Buna rağmen dijital platformların teknik ve ekonomik mimarisi açısından ölçülmesi kolay olan şey elbette hakikat değil, etkileşimdir. Bir içeriğin doğru olup olmadığını belirlemek çoğu zaman bağlam, uzmanlık, kanıt, karşılaştırma ve muhakeme gerektirirken kaç kişinin o içeriğe tıkladığını milisaniyeler içerisinde ölçmek mümkündür. Böylece dijital sistemin merkezinde giderek ilginç bir yer değiştirme ortaya çıkmaktadır. Hakikatin ölçülemediği yerde etkileşim, onun yerine geçen bir ölçüte dönüşmektedir. Sosyal medya platformlarının ekonomik modeli de büyük ölçüde etkileşimin artırılmasına dayanmaktadır. Platform açısından kullanıcının ekranda daha fazla kalması, daha fazla içeriğe bakması ve daha fazla etkileşimde bulunması daha fazla veri ve reklam geliri anlamına gelmektedir.

Dahası insan dikkatini çekmek ile hakikati aktarmak arasında doğal bir uyum olduğunu varsaymak için de elimizde bir neden de yoktur. Tam tersine şaşırtıcı, öfkelendirici, korkutucu veya mevcut kanaatlerimizi doğrulayan içerikler çoğu zaman daha fazla etkileşim üretebilir. Böyle bir ortamda yanlış bilgi yalnızca sistemin engelleyemediği bir yan etki olmaktan çıkabilir ve sistemin etkileşim mantığından dolaylı olarak avantaj sağlayan bir içerik türüne dönüşebilir. Zaten bilindiği gibi yanlış bilginin bu platformlarda dolaşım hızı, doğru bilgiye göre oldukça yüksektir. Bunun için platformların yanlış bilgiyi bilinçli biçimde desteklemesi de gerekmez. Sistemin başarı ölçütünün etkileşim olması yeterlidir. Böylece hakikat ile popülerlik arasındaki ayrım giderek azalır ve popülerlik hakikatin yerine ikame edilmeye başlanır. Nihayetinde çok görünen, çok paylaşılan ve çok konuşulan şey daha doğruymuş gibi algılanmaya başlar.

Üretken yapay zekânın hızla yaygınlaşması O'Neil'in sorusunu farklı bir boyuta taşımaktadır. Çünkü üretken yapay zekâda sistem artık doğrudan içerik üretmektedir. Dolayısıyla üretilen bu bilginin doğruluğu çok daha kritiktir. Büyük dil modellerinin çalışma biçimi burada özellikle önemlidir. Bu sistemler temel olarak kendilerine sunulan bağlama ve eğitim sürecinde öğrendikleri örüntülere dayanarak olası çıktılar üretirler. Başka bir ifadeyle, bir dil modelinin amacı hakikati bulmak değildir. Model, hangi kelimenin veya kelime dizisinin verilen bağlam içerisinde uygun bir devam oluşturacağını tahmin ederek tutarlı metinler üretir. Bu nedenle dilsel olarak son derece ikna edici, düzgün ve güven veren bir cevap ile olgusal olarak doğru bir cevap arasında zorunlu bir özdeşlik yoktur.

Tam da bu noktada O'Neil'in sosyal medya için yaptığı tespit yeni bir biçimde karşımıza çıkmaktadır. Sosyal medya algoritmasının elinde hakikati temsil eden güvenilir bir ölçüt yoksa ve bu boşluğu tıklama dolduruyorsa, üretken yapay zekâ açısından benzer boşluğu ne doldurmaktadır Akıcılık mı Olasılık mı Kullanıcı memnuniyeti mi İnsanların cevabı yararlı bulması mı Eğitim ve değerlendirme süreçlerinde insanların tercih ettiği cevaplar mı Bir cevabın kullanıcı tarafından beğenilmesi onun doğru olduğunu garanti etmediği gibi çok ikna edici biçimde kurulmuş bir açıklama bütünüyle yanlış bilgiler içerebilir.

Burada sosyal medya ile üretken yapay zekâ arasında hakikatle ilişki bağlamında kritik bir süreklilik ortaya çıkmaktadır. Sosyal medyada etkileşim, hakikatin önüne geçme potansiyeline sahipken üretken yapay zekâda ikna edicilik ve dilsel tutarlılık benzer bir risk taşımaktadır. Sosyal medyada çok tıklanan ile doğru arasındaki mesafe nasıl bulanıklaşıyorsa üretken yapay zekâda da çok iyi ifade edilmiş ile doğru arasındaki mesafe benzer şekilde bulanıklaşmaktadır. Hatta ikinci durum bazı açılardan daha büyük bir risk oluşturabilir. Çünkü sosyal medyada karşımızdaki içeriğin belirli bir kişi, gazete, kurum veya hesaptan geldiğini görür ve kaynağına göre değerlendirme yapabiliriz. Üretken yapay zekâ ise çoğu zaman farklı kaynaklardan öğrenilmiş bilgileri tek ve son derece akıcı bir anlatı içerisinde birleştirerek karşımıza çıkarmaktadır. Dolayısıyla, kullanıcının bilginin güvenilirliğini değerlendirmesi zorlaşmaktadır.

Üretken yapay zekâda derindeki problem, doğru ile yanlışı ayırmak için hangi referans sistemini kullanacağımızdır. Bir yapay zekâ sistemi bize tarihsel bir olay, bilimsel bir araştırma, hukuki bir düzenleme veya ekonomik bir veri hakkında bilgi verdiğinde, bu bilginin doğruluğunun nihai ölçütü ne olacaktır Eğer bir yapay zekâ tarafından üretilen bilgiyi başka bir yapay zekâya doğrulatıyor, ardından onun cevabını da üçüncü bir yapay zekâ ile kontrol ediyorsak hakikate ulaşmış olmayız. Sadece aynı epistemolojik sorunu bir sistemden diğerine taşımış oluruz. Zincirin bir yerinde yapay zekânın dışında kalan bir referansa ihtiyaç vardır: bilimsel çalışma, özgün belge, resmî veri, güvenilir arşiv, alan uzmanlığı, doğrudan gözlem veya başka bir bağımsız kanıt. Dahası bu sistemlerde kaynakları doğru bir şekilde gösterebilen, belirsizliği açıkça ifade edebilen, bilmediğinde bunu söyleyebilen ve kullanıcının iddiaları bağımsız biçimde doğrulamasına imkân veren bir özel yapının geliştirilmesi gerekmektedir. Çünkü yapay zekânın en tehlikeli hatası her zaman açıkça saçma bir cevap üretmesi değildir. Çok daha problemli olan, yanlış bir bilgiyi son derece makul, tutarlı ve güven verici bir anlatı içerisinde sunabilmesidir.