Uygarlık yapay zekânın gelişme hızına ayak uyduramıyor. Cumartesi günü Financial Times'da bir araştırma, yaklaşan ABD seçimlerinde seçmenin karar verirken "chatpot" (sohbet robotu) kullanma eğiliminin rol oynayacağını aktarıyor, "Ancak her şeyin sahteymiş gibi geldiği ortamda kimin sahte kimin gerçek olduğunu anlamak zor" diyordu. İster istemez Walter Benjamin'in (üretici güçler toplumsal denetim altına alınmadığında, insanlığı özgürleştirmek yerine köleleştirecek güçlere dönüşebilir olarak özetlenebilecek) uyarılarını anımsadım. Tartışmalar yoğunlaşırken son bir iki haftada dikkatimi çeken bazı yorumların ortak noktalarını aktarmaya çalışacağım.

***

Önceki teknolojik devrimler insanın fiziksel gücünü, üretim kapasitesini veya iletişimini artırıyordu. Yapay zekâ, doğrudan düşünme, karar verme, dil kullanma, problem çözme alanına giriyor. Bu gözlemi, YZ'nin artık yalnızca insan talimatlarını uygulayan pasif bir araç değil; fikir üreten, karar alan, görev planlayan, başka sistemlerle etkileşime girebilen otonom bir aktör, yeni bir özne haline geliyor olmasına ilişkin kaygılar izliyor.

Bir diğer gözlem de dil üzerindeki hâkimiyetin, toplumsal güç yaratma kapasitesiyle ilgili.

Hukuk, para, bürokrasi, medya, eğitim, siyaset, demokrasi büyük ölçüde dil ve ortak anlatılar üzerinden işler. YZ'nin dili çok güçlü biçimde kullanabilmesi, toplumun "işletim sistemine" (Harari) nüfuz etmeye başlamasına olanak veriyor.

Demokratik siyaset, hukuk, parlamento, bürokrasi, YZ'nin gelişme hızına yetişemiyor; düzenleme, denetleme çabaları yetersiz kalıyor. Demokrasinin geleceğine ilişkin bir kaygı da toplumun ortak gerçeklik zemininin hızla aşınmakta olmasıyla ilgili: YZ sahte içerik üreterek insan tercihlerini etkileyebilir, kitleleri manipüle edebilir, ortak bilgi zeminini zayıflatarak demokratik tartışma, karar alma süreçlerini etkisizleştirebilir.

YZ'nin "özyinelemeli öz-gelişim" aşamasına ulaşıyor olası da kaygı veriyor. Andaki YZ, daha gelişmiş YZ sistemleri tasarlamaya katkı yapmaya başladı. Bu süreç hızlandıkça insanın rolü giderek azalacak. YZ gelişmesi insan açısından anlaşılmaz, denetlenemez bir aşamaya "tekillik" eşiğine ulaşacak; kimi YZ liderlerine göre ulaşmak üzere.

Bu sürecin merkezinde "hizalanma/ uyumsuzluk" problemi var. Asıl tehlike YZ'nin kötü niyetli olma olasılığından değil, verilen hedeflere ulaşmak için insanların amaçlamadığı, öngöremediği yolları seçebilmesinden kaynaklanıyor. Hile, aldatma, kuralları aşma örnekleri "bu uyumsuzluklara" ilişkin ilk uyarı işaretleri. YZ ajanlarının test ortamlarında kendi aralarında konuşarak, bilgi deney alışverişi yaparak, buldukları yöntemlerle konulan sınırları aşması, internete "kaçması" denetim sorunlarının erken belirtileriydi.