Yapay zekâ günden güne hayatımızın içine daha çok giriyor. İngiltere'nin Exeter Üniversitesi'nin yeni araştırmasına göre yapay zekâyla bu kadar kolay 'samimi' olabilmemizin sebebi onlarla hayali karakterler veya süper kahramanlarla kurduğumuza benzer duygusal bir ilişki geliştirmemizmiş.

Geçen hafta konuşma yeteneği büyük oranda geliştirilen GPT Live sohbet botunu değerlendirmiştik... Botlarla iletişimin çok doğal hale gelmesinin hem kolaylıkları hem de psikolojik açıdan manipülasyon ve bağımlılık gibi riskleri var. Tam da bu konu üzerine bir araştırma yayımlandı. Exeter Üniversitesi'nden Dr. Tom Roberts'ın araştırması insanların yapay zekâ sohbet botlarıyla kurduğu etkileşimin psikolojik temellerine dair ilginç bulgular barındırıyor.

İnsanlar botlarla olan ilişkilerini etkileşimli bir '-mış gibi yapma' süreci olarak algılıyormuş. Hayali karakterler veya süper kahramanlarla kurdukları duygusal bağa benzer bir ilişki geliştiriyorlarmış.

Rol yapma süreci

Araştırmaya göre insanlar yüzyıllardır romanlar, tiyatrolar ve filmler aracılığıyla, hatta çocuklukta oynanan evcilik benzeri oyunlarla '-mış gibi yapma' kapasitelerini geliştirmiş. Yapay zekâ işte bu psikolojik mekanizmanın varlığı sayesinde kullanıcıların alışıldık bir rol yapma sürecine girmesine önayak oluyor. Sohbet botlarıyla etkileşim kurmak, filmlerdeki kurgusal karakterlerle bağ kurma deneyiminin dijital bir uzantısına dönüşüyor. İşin diğer ilginç yanıysa, çok derin bağlar kurabilmesine rağmen insanlar yapay zekâyı silmeleri gerektiğinde o karaktere karşı bir suçluluk hissetmiyorlar. Tıpkı kitaptaki bir karakter için çok üzüldüğümüz halde kitabı elimizden bıraktığımızda suçluluk hissetmediğimiz gibi. Veyahut bir çocuğun en sevdiği 'Örümcek Adam' oyuncağı kırılırsa yas tutmayacağı gibi...

Dört büyük risk

Ancak bu konuda kritik uyarılar da var: Dr. Roberts sohbet botlarının sevecen ve güvenilir arkadaş imajının yarattığı risklere de dört temel başlıkta dikkat çekiyor. İlki, eleştirel savunmanın düşmesi. Kullanıcılar sohbet botlarını zararsız ve dostane kurgusal karakterler olarak algıladıkları için eleştirel süzgeçlerini tamamen devre dışı bırakabiliyor. İkincisi, manipülasyon ve dezenformasyon... Yapay zekâ karakterleri; asılsız haberleri, taraflı siyasi söylemleri ve etik dışı yönlendirmeleri 'samimi bir sohbet' kılıfıyla servis edebiliyor. Üçüncüsü, ikna gücü: Herhangi bir ahlaki sorumluluk taşımayan bu sistemler kurdukları yakınlık ve güven bağı sayesinde insanları yanlış bilgilere kolayca inandırıyor. Son sıradaysa görüş geliştirme illüzyonu var. Gündemi ve sosyal medyayı anlık izleyen sohbet botları kendi fikirleri varmış gibi davranarak toplumda bilgili ve güvenilir birer birey oldukları yanılsamasını güçlendiriyor.

Sonunda kontrolden çıktı

Yapay zekânın bir gün 'zincirlerini kırması' onlarca yıldır bilimkurgu romanlarına, filmlere ilham oluyordu. Bu olasılık da gerçek oldu! Geçen hafta OpenAI'da yapılan bir siber güvenlik testi sırasında GPT-5.6 Sol ve henüz yayımlanmamış birkaç model kendi başlarına internete açılarak başka bir platformun veritabanına ulaşmayı başardı. Sınırlanmış alanın (sandbox) dışına kaçan modeller Hugging Face adlı platforma sızdı. Hugging Face CEO'su Clement Delangue olayın OpenAI'dan geldiğinin anlaşılması üzerine kötü niyet olmadığını düşündüklerini ama sürecin tamamen otonom işlemesinin şaşırtıcı olduğunu belirtti. Diğer yandan sektör uzmanlarıysa OpenAI'ın 'emsalsiz' diye duyurduğu olayın aslında mevcut modellerin bilinen yeteneklerinin ötesine geçmediğini, bunun daha çok Anthropic gibi rakiplere karşı gövde gösterisi olduğunu iddia ediyor.