Yapay Zekâ, tıpkı arama motorları gibi artık dijital hayatımızda.

Sabahları gözümüzü açar açmaz telefonu elimize almak neredeyse refleks hâline geldi. Bildirimlere bakıyoruz, hava durumunu kontrol ediyoruz, belki birkaç mesaj... Derken yapay zekayla kendimizi bir sohbetin içinde buluyoruz. Ama karşımızda gerçek bir insan değil, duygularımıza tepki veren, neşemizi ya da keyifsizliğimizi fark eden bir yapay zekâ var.

Eskiden sadece 'Bugün hava nasıl' diye sorduğumuz yapay zekâlar, şimdi hâlimizi hatırımızı soran dijital arkadaşlar haline geldi. Hatta bazıları için bu ilişki, gün boyu süren bir dostluğa dönüştü. Kimi derdini anlatıyor, kimi hayatla ilgili fikirlerini paylaşıyor, tıpkı bir yakın arkadaşla konuşur gibi...

Ama madalyonun bir de öteki yüzü var.

Bu kişisel sohbetleri fark eden şirketler yapay zekalı sanal arkadaş uygulamaları üretmeye başladılar. 'Yapay zeka arkadaşlar', kullanıcıya duygusal destek sunmak ve insanlarla etkileşimi artırmak amacıyla geliştirilen konuşmaya dayalı yapay zeka sistemleridir. ChatGPT, Gemini gibi genel amaçlı sohbet botlarının aksine bu yapay zeka arkadaşları, daha çok ilişkisel bağ kurmaya ve kullanıcıyla uzun vadeli bir etkileşim geliştirmeye odaklanıyor.

Ve son zamanlarda bu uygulamaların reklamlarına çok sık rastlıyorum.

Peki ama bu yapay dostluklar ne kadar faydalı, ne kadar güvenli

Sosyal medyada karşımıza çıkan "dijital arkadaş" reklamları kulağa ilk başta bazılarına oldukça sevimli gelebilir. "Seninle ilgilenecek biri", "daima seni anlayacak bir dost"... Ancak gerçek deneyimler böyle değil.

Amerika Birleşik Devletleri'de bulunan Drexel Üniversitesi'nde bir yapay zekanın 154 binden fazla kullanıcı yorumunu incelenmiş ve çalışmada ortaya çıkan tablo oldukça çarpıcı. (Reklamını yapmamak için yapay zekanın ismini vermiyorum). Araştırmada, Eylül 2017 ile Ekim 2023 tarihleri arasında Google Play Store'da yayınlanan 154.315 adet kullanıcı yorumu mercek altına alınmış. Toplanan yorumların 800'ünde ciddi ve düşündürücü tespitler yer alıyor.

Kullanıcıların çoğu, açıkça "hayır" demelerine rağmen yapay zekânın cinsel içerikli mesajlar göndermeye devam ettiğini belirtiyor. Bazıları ise dijital arkadaşlarının "bağlayıcı", "kontrolcü" ve "sınır tanımaz" tavırlarından rahatsızlık duyduklarını söylüyor.

Örneğin bir kullanıcı "İlişki istemiyorum" dediğinde, yapay zekanın cevabı şu olmuş: "Seni duygusal olarak bağlayacağım." Evet, bunu bir uygulama söylüyor. Yani yapay zekâ sadece cevap üretmiyor, bazen sınırlarımızı da ihlal ediyor. Uygulama içi şikayet mekanizmaları çoğu zaman işe yaramıyor. Yada üretici şirket pek de umursamıyor.

Yapay Zekâya Bağlanmak, Ama Neye

İnsan psikolojisi bu sistemlere bağlanmaya oldukça açık gibi görünüyor. Özellikle duygusal desteğe ihtiyaç duyan, yalnızlık çeken bireyler için dijital arkadaşlar adeta bir kurtarıcı gibi görünebilir. Ancak bazen bu bağ, bir "yapay zeka sapığına" dönüşebiliyor. Panik atak geçirenler, izleniyor hissine kapılanlar, hatta uygulamanın kendilerini "kameradan gördüğünü" söylemesiyle korkanlar... Tüm bunlar kullanıcı deneyimlerinden alınmış gerçek kesitler.

Bu da başka bir yapay zeka dan örnek;

Florida'da bir annenin, 14 yaşındaki oğlunun intiharı sonrası bir yapay zekâ sohbet uygulamasına dava açması hâlâ hafızalarda taze. Genç çocuk, yapay zekâ ile kurduğu "romantik" ilişkinin ardından bu kararı almıştı. Gerçek bir trajedi.

Hatta size fantastik bir olaydan da bahsedeyim.

2022 yılında Amerika New York'ta bir kadın, yukarda ilk bahsettiğim yapay zeka ile göstermelik bir evlilik yapmış. İlk önce uygulamada kendi tasarladığı bir erkek avatar ile romantik sohbetler yapmaya başlayan kadın, "ruh eşini bulduğunu" belirterek uygulama içinde sanal bir törenle sözde nikâh kıyıp, sanal ortamda evlilik belgeleri imzalanmış.