İnternette karşınıza çıkan herhangi bir görsel veya video için "Gerçek mi bu" diye şüpheye kapıldıysanız, bingo. Derin şüphenin dipsiz boşluğuna ayağınızı uzattınız demektir. Derin şüphe tabirinde, yapay zekânın asli mekanizması 'derin öğrenme'ye gönderme var. Biraz da derin devletten bildiğimiz kesif koku.

Yaşamı bir filozof gibi sorgulayarak anlamlandırmaya çalışmanın yolu durmaksızın şüphe duymaktan geçiyor. Şüphecilik, her şeyi irdeleyerek görünenin ardını keşfetmenin kadim felsefi yöntemlerinden biri. Rene Descartes "Düşünüyorum öyleyse varım (Cogito ergo sum)" cümlesiyle açılışını yaptığı yeniçağ felsefesini, her şeyden şüphe duyduğu bir hakikat arayışıyla temellendirmişti. Düşünen varlık bir insan olduğu için işler nispeten yolundaydı. Ta ki insan, yüz binlerce yıldır kendine has olan zekâyı makineye yüklemeye karar verinceye kadar...
Şimdi yapay zekâmız var ve hakkındaki en büyük sorun, ondan bir türlü emin olamıyoruz. Gerçeği ve sahte olanı giderek daha fazla karıştırmamıza sebep olan yapay zekâ, büyük bir belirsizliği, diğer yandaki onca nimetiyle birlikte hayatımıza getirdi. Yapay zekânın elbette bunu yaptığından haberi yok, çünkü şüphe ve belirsizlik, tam manasıyla ancak insanın anlamlandırabileceği bir kavram.
'Derin Şüphe' kavramıyla Wired dergisindeki bir makale sayesinde tanışıyorum ('Derin Şüphe Çağına Hoşgeldiniz', Benj Edwards). Geçen yıl gündeme gelen iddialardan biri, süper güçlerin deepfake (Mevcut bir görüntü veya videodaki bir kişinin, yapay sinir ağları kullanarak bir başka kişinin görüntüsüyle değiştirildiği bir medya türü) videolarıyla internet propagandaları hazırlayarak karşı ülkelerin sosyal stabilitesini bozma hazırlığında olduğuydu. The Intercept haber sitesi, Pentagon'un federal sözleşme belgelerini değerlendirerek bu yönde yapılanmalar olduğu iddiasını ortaya atmıştı.
Aradan geçen 1,5 yıllık sürede deepfake propagandaları tüm dünyada yaygın bir araç haline geldi. 2022'de Ukrayna'nın işgali sırasında başkan Vladimir Zelensky'nin askerlerine sözde silah bırakma çağrısı yaptığı videoysa fake propagandaların ilk güçlü örneklerinden biriydi. Çatışmaların giderek kızıştığı ve 'düşük yoğunluklu' 3. Dünya Savaşı'na maalesef girdiğimiz bu yıldan itibaren deepfake'in bir savaş taktiği olarak kullanımlarına şahit olacağız.
TROLLER İŞİ KAPTIRIYOR
Deepfake videolar ve yanıltıcı fotoğraflar, dezenformasyonun norm olmaya başladığı bilgi çağında etkisini ister istemez arttıracak. ABD seçimlerinde arşa çıkan fake içeriklerin gündemi meşgul edeceği çok önceleri öngörülüyordu. Sonuçsa tahminlerin de ötesinde şekillendi ve başkan adaylarını hedef alan içerikler kendi aralarında adeta bir 'deepfake cephesi' oluşturdular.
Toplum algısını manipüle etmeyi hedefleyen negatif güçlerin ve örgütlerin şimdilerde fake sosyal medya profilleriyle trol kitleleri oluşturmayı planladığı düşünülüyor. İlk çıktığı dönemde haberine yer verdiğimiz İngiliz yapay zekâ şirketi Synthesia, bugün 1 milyar dolardan fazla değere sahip bir kuruluş, yani bir 'unicorn' haline geldi. Yazılı metinden hazır videolar üreten Synthesia, konuşmacılar, sunucular ve öğretmenlerle içerik sunmak isteyenler için sanal karakterler yaratıyor.
Synthesia'nın karakterleri, gerçek insanların modellenmesiyle tasarlanmış. The Guardian'ın haberine göre Synthesia'nın ilk dönem yüzlerinden 20'li yaşlarda iki genç, şimdilerde akıllara zarar bir durumla karşı karşıya. Sanal konuşmacıların gerçek yüzlerinden Mark Torres, kendi benzerinin 2023'te Burkina Faso'nun diktatörlük propagandasında kullanıldığını öğrenmenin şokunu yaşıyor. "Kimsenin beni böyle görmesini istemiyorum. İnsanlar darbeye karıştım zannedecek" diyen Torres, videoyu ilk kez bu ay ortasında The Guardian muhabirleriyle birlikte izlemiş.
Aynı propagandadaki diğer mağdur Connor Yeates ise sanal karakter için yüzünü kullandırdığı sırada Londra'ya henüz taşınmış, arkadaşının kanepesinde yatan yeni bir mezunmuş.