Mary Shelley'nin Frankenstein'ında mesele canavarın kötülüğü değildir. Asıl mesele, onu yaratanın sorumluluktan kaçmasıdır.
Hikâyenin başında bilim alkışlanır. Akıl, ilerleme ve insanın sınırları aşma cesareti yüceltilir. Canavar ortaya çıktığında ise dil değişir. Bilimsel bir kararın sonuçları artık insan iradesinin ürünü değildir; daha büyük, daha muğlak ve neredeyse metafizik bir düzene -kader denen o sisli alana- havale edilir.
Son dönemde yapay zekâ etrafında kurulan anlatı bu hikâyeye fazlasıyla benziyor.
Benzer bir eşikten geçildi.
Daha düne kadar bu teknoloji "fırsat" olarak sunuluyordu. "Bilimden kaçılmaz" deniyordu. Trilyonlar akarken, yatırım yapmayanlar geri kalmış sayılıyordu. Hız bir erdemdi. Fren ise tereddüt.
Bugün aynı aktörler uyarıyor:
"Durun, bu gâvur icadı çok tehlikeli."
Davos'ta Larry Fink'ler, Elon Musk'lar felaket senaryoları çiziyor. Yapay zekânın beyaz yakalıları silip süpüreceğinden, insanlığın hazır olmadığından, sistemin kontrolden çıkmak üzere olduğundan söz ediliyor.
Burada basit ama rahatsız edici bir soru beliriyor:
Bu kaygı gerçekten yeni mi
Yoksa sorun, makinenin kontrolünün kaybedilmesi değil de anlatının çığırından çıkması mı
Yapay zekâya yatırılan sermaye o kadar büyük ki, başarısızlık ihtimali yüksek sesle telaffuz edilemiyor. Ama herkes bir bedel çıkacağını hissediyor. Tartışma, o bedelin kime yazılacağı etrafında dönüyor.
Tam bu noktada "insanlık" sahneye çıkıyor. Son derece kullanışlı bir kavram. Muhatabı belirsiz, sorumluluğu dağıtmaya elverişli.
Larry Fink'in pozisyonu bu yüzden dikkat çekici. Yönettiği BlackRock'ın portföyünde yapay zekâya temas etmeyen neredeyse hiçbir alan yok. Teknolojiden savunma sanayiine, finans altyapılarından veri ekosistemlerine kadar her katmanda yapay zekâ var. Bu uyarılar kenardan değil,