Helvadan put yapar gibi

REFİK TUZCUOĞLU

İnsanlık tarihi, kendi sınırlarını zorlayan, aklıyla tabiata meydan okuyan ve daima daha fazlasını arzulayan bir varlığın hikâyesidir. Ateşi kontrol altına aldık, tekerleği icat ettik, atomun sırrına eriştik. Sonunda insana hizmet için ürettiğimiz her araç insanı dönüştürdü; kimi zaman daha iyiye, çoğu zaman ise endişeleri artıracak bir varlığa. Ürettiğimiz teknolojiler bizi geleneklerimizden kopardı, hayat anlayışımızı değiştirdi. Şimdi ise yeni bir safhanın eşiğindeyiz.

Tarihte ilk defa, aklımızın ve idrakimizin yerine geçecek yeni bir akıl icat ediyoruz. Bu, tekerleği icat ettiğimizdeki gibi sadece dönen bir çember değil; elektriği bulduğumuzdaki gibi yanan bir ampul değil. Kendi iradesiyle öğrenebilen, sizin yerinize karar alabilen, analiz yapıp öngörü geliştirebilen bir "ikinci akıl" bu. Adeta yeni bir canlı tür. Yapay zekâ, insanlığın son büyük eseri olma potansiyeli taşıyor. Buna son büyük risk mi desek, bilemiyorum. Belki de "modern bir tanrı"nın insan eliyle icadı. Hz. Ömer, Mekke'nin şirk döneminde insanların kendi elleriyle helvadan yaptıkları putlara taptıklarını, acıkınca da onları yediklerini anlatır. Buradan bakınca karşımızdaki teknolojiden çok, insanlığın topyekûn bir medeniyet imtihanı gibi.

Bu imtihanın ciddiyetini en sarsıcı şekilde ifade eden, Nobel ödüllü Geoffrey Hinton oldu. Onun uyarısı, bir bilim insanının analizinden çok, yarattığı potansiyel karşısında dehşete düşen bir ustanın feryadıydı. "Önümüzdeki 30 yıl içinde yapay zekânın bizi yok etme ihtimali artık yüzde 20'lere ulaştı" diyor Hinton. Yaptığı tespit, medeniyetimizin tüm kibrini yerle bir edecek kadar net: "Bizden daha zeki bir şeyi kontrol etmemiz gereken bir durum hiç yaşanmadı. Kendinizi bir yetişkin karşısındaki üç yaşındaki çocukla karşılaştırın. Biz o çocuk olacağız."

Peki, bizi kendi eserimiz karşısında bir çocuk kadar aciz bırakma riskini neden göze alıyoruz

Bu sorunun cevabı maalesef, teknolojinin kendisinde değil, insanın rekabet, hırs ve tahakküm zaaflarında saklı. Bu kadim zaaf; bir yanda ABD'nin 'sorgusuz küresel teknolojik hâkimiyet' hedefi, diğer yanda Çin'in bu yarışta öne geçme çabasıyla birleşince, yapay zekânın gelişimini bir güvenlik ve bilgelik arayışından çıkarıp tehlikeli bir güç oyununa dönüştürüyor. Bazı uzmanların ortaya attığı senaryolara göre, bu pervasız rekabet, etik ve güvenlik endişelerini ikinci plana atarak geri döndürülemez bir felaketin kapısını aralıyor.

Bu varoluşsal tehdidin gölgesinde, yapay zekâ şimdiden ahlaki bir mayın tarlası olarak hayatımıza girmiş durumda. Irkçı verilerle eğitilmiş bir algoritmanın vereceği adaletsiz bir mahkeme kararı, "deepfake" ile üretilmiş sahte bir videonun başlatacağı bir savaş, otonom bir silahın saniyeler içinde alacağı ölüm emri…

1988 yılında 'Terminatör' filmi gösterime girdiğinde, özel bir alaşımdan yapılmış insan görünümlü bir robot o tarihlerde afaki bir hayal ürünüydü. Şimdilerde ise denge testlerinde muazzam başarı gösteren robotların yapıldığını izliyoruz. 1970'li yılların meşhur 'Uzay 1999' dizisi, siyah beyaz ekranlı televizyonların başına herkesi kilitlerdi. Filmde kullanılan ileri teknoloji ürünler oldukça sürrealistti. Bugün kullandığımız teknolojiler ve haberleşme vasıtaları, o filmde gösterilenleri katbekat aşmış durumda.

Tüm bu senaryolarda ortak olan soru şudur: Vicdanı olmayan bir zekânın vereceği kararların ahlaki sorumluluğunu kim üstlenecek

Çin'de WeChat uygulaması hayatın adeta işletim sistemi hâline gelmiş durumda. Alışverişten ulaşıma neredeyse her şey bu platform üzerinden yönetiliyor. Sistem, toplu ulaşım araçlarında uygunsuz davranışlarını tespit ettiği vatandaşlara birtakım yaptırımlar getirebiliyor. Yani yapay zekânın yargısı sizi cezalandırıyor; mahkemelerin yerini vicdanı olmayan bir makine sistemi alıyor.