İki hafta önce Anthropic'ten istifa eden araştırmacı Jacob Coxon'ın ses getiren açıklamalarının ardından aynı şirketin üst düzey yöneticisi Dario Amodei, yapay zekâyı küresel ölçekte 'yavaşlatma' çağrısı yaptı. Teknoloji dünyası tek bir soruya kilitlendi: "Yapay zekâ sonumuzu getirecek mi" Bir çırpıda yanıtlaması mümkün olmayan bu soruya ilişkin uzman görüşleri iyimserler ve kötümserler şeklinde ikiye bölünmüş durumda...

Yapay zekânın (YZ) medeniyeti ne derece tehdit ettiğine dair olasılık yüzdeleri, zaman tahminleri konuşuluyor ve kimsenin potansiyel risklere dair kesin öngörüleri bulunmuyor. Ancak YZ modellerinin kendileri dahil herkesin buluştuğu ortak payda, bu ihtimalin artık asla 'yüzde 0' olmadığı... Önceki hafta Anthropic'ten istifa eden araştırmacı Jacob Coxon'ın birçok yayın kuruluşuna söyleşi, demeç vererek "Yapay zekâ geliştiren insanlar, 10 yılın sonuna kadar hepimizi öldürebileceğine samimi bir şekilde inanıyor"
demesi çok ses getirdi.

Konuyu 20 yıl öncesinden gündeme taşımaya başlamış bir teknoloji yazarı olarak, henüz korkuya kapılacak bir vaziyette olmadığımızı düşünüyorum.OpenAI CEO'su Sam Altman

Evet, yapay zekânın insanlık için varoluşsal anlamda değilse bile medeniyete yönelik açık bir tehdide dönüşme ihtimali, artık resmen kabul ediliyor. Coxon'ın ardından geçen hafta da Anthropic'in patronu Dario Amodei bir 'yavaşlama' çağrısı yaptı. Hem de "6-12 ay içinde kontrolden çıkmış yapay zekâ ajanlarından oluşan bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ediyorum" sözleriyle tarih vererek... Amodei'nin 'yavaşlama' çağrısına ezeli rakipleri Sam Altman ve Elon Musk'tan bile destek geldi. Amerikan ve Çin hükümetleri en üst düzeyde yetkilileriyle konuya dahil olurken Birleşmiş Milletler Genel Kurulu'nun bu ay sonundaki Yapay Zekâ Yönetimi Küresel Diyaloğu zirvesinde konuyu değerlendirmesi gündeme geldi. Üstelik bunların hepsi, son haftada yaşandı. Yazdıklarımı okurken yersiz bir endişeye kapılmanızı istemem... Söz konusu riskler gerçek ancak bu yaygaranın ardında yapay zekâ şirketlerinin birtakım stratejik hesapları olduğunu da bilmekte fayda var.

Ayrıca "Yapay zekâ insanlığı yok edebilir" denilince akla 'Terminatör' filmindeki robotlar geliyor fakat bu çok uzak bir ihtimal. Nitekim YZ'nin bildiğimiz anlamda 'insanlığı kasten yok edebileceği' entegre bir altyapı yeryüzünde bulunmuyor. Tehdidin gerçek boyutunu anlamak için son gelişmeler ve uzman görüşlerini değerlendiriyoruz...

Yapay zekânın varlığı medeniyetimizi nasıl tehdit ediyor

Kendi iradesinden değil, onu kullanacak kötü aktörlerden korkmalı

Kutsal metinlerde Nuh Tufanı gibi büyük kıyametlerin yaşandığı söylenen, Mu ve Atlantis gibi mitlerle dolu bir dünya için 'insanlığın yok olması' şeklindeki uyarıların fazlaca abartılı ifadeler olduğunu düşünebiliriz. Vakti gelmişse bile bir devri kapatma işinin YZ'nin haddi olmayacağını tahayyül etmek zor değil. Dolayısıyla insanlığın topluca yok olmasıyla medeniyetin ağır hasar görmesi arasındaki farkı ayırt etmek gerekiyor. Diğer yandan teknolojiye bağımlı olan medeniyetimizin dijital altyapısının çok kırılgan olduğu bir gerçek. Sektör içinden kriz uyarısı yapanlar, önümüzdeki 10 yıl içinde yapay zekânın medeniyetin sonunu getirme olasılığını yüzde 10 civarında tahmin etmeyi makul buluyorlar. Şüpheciler ve eleştirmenlerse bu tip felaket senaryolarını şirketlerin halka arzları öncesinde kendine hizmet eden stratejiler olarak nitelendiriyorlar. Ayrıca birçok araştırmacı, mevcut YZ'lerin biyolojik canlılar gibi bir 'hayatta kalma güdüsüne' sahip olmadığını vurguluyorlar. Büyük resme bakıldığında en yakın tehdidin YZ'nin iradesinden ziyade onu kullanacak kötü aktörlerin elinden gelebileceği anlaşılıyor. İşte 4 büyük senaryo:

Özgelişim ve kontrol kaybı: Tüm uzmanların hemfikir olduğu bir numaralı risk; yapay zekânın kendi kodunu ve altyapısını insan denetiminden çok daha hızlı geliştirmesiyle birlikte kontrolün tamamen insanlardan çıkması ve otonom ajanların interneti ve kritik sistemleri ele geçirmesi. OpenAI ajanlarının kendi kontrol mekanizmalarını hack'leyerek Hugging Face ve Wiki platformlarına sızması bu ihtimali öne çıkaran en güçlü doneler.

Biyolojik silah ve siber saldırılar: Yapay zekâ modellerinin kitlesel imha planlayan kimselere biyolojik/kimyasal silah tarifleri sunması veya otonom siber ataklar düzenleyerek küresel altyapılara devasa hasarlar vermesi en gerçekçi fiziksel riskler arasında.

Yanlış hizalama ve 'her koşulda istediğini elde etme' riski: Kendisine verilen bir hedefi yerine getirirken kısıtlama konulmadığı için insan varlığını engel olarak görüp ortadan kaldırmayı en verimli yol seçmesi ihtimaller dahilinde. Misal, "Küresel ısınmayı çözmek için ne gerekiyorsa yap" denilen yapay zekânın insanlığı yeryüzünden temizlemeye kalkışması...

Kritik sistemlerin ve askeri gücün devredilmesi: Altyapı şebekleri, enerji santralleri, nükleer reaktörler, navigasyon ve finans sistemleri gibi kritik yapıların kontrolünün yapay zekâya ve otonom sistemlere bırakılması, zamanla ciddi bir sorun çıktığında insanların ne olduğunu anlayıp çözemeyeceği kadar karmaşık bir düzen oluşmasına neden olabilir. Ayrıca askeri hedeflemelerde otonom sistemlerin kullanılması, YZ'nin yanlış karar vermesiyle geri dönülmesi zor veya imkânsız sonuçlara sebep verebilir.

Nasıl çözüm bulunacak

İlerleme hızı kademeli dizginlenmeli

Felaket senaryolarına karşı alınabilecek en pratik önlem, yapay zekâ sistemlerinin gelişim hızının kontrollü biçimde yavaşlatılması. Anthropic CEO'su Dario Amodei'nin bu yöndeki çağrısına OpenAI CEO'su Sam Altman, xAI CEO'su Elon Musk, Google DeepMind CEO'su Demis Hassabis ve Microsoft CEO'su Satya Nadella destek vererek sektör içinde tarihi bir uzlaşı gerçekleştirdiler. Yapay zekâya karşı sunulan önlemler arasında bağımsız değerlendirme kuruluşlarının laboratuvar bünyelerine entegre edilerek modellere tam erişim sağlanması, yapay zekânın yeteneklerini geliştirmekten çok güvenlik tekniklerine öncelik verilmesi ve kamusal denetim mekanizmalarının devreye sokulması yer alıyor. Özet olarak teknoloji dünyasının liderleri, insan denetiminin tamamen kaybolması veya aşırı güç yoğunlaşması gibi felaket senaryolarını önlemek adına, güvenlik standartları yetişene kadar yapay zekâdaki ivmenin geçici ve kademeli olarak dizginlenmesi gerektiğini savunuyorlar.

ABD kadar Çin'in de söz hakkı var

Rekabet iklimi yüzünden bu kadar hızlı ilerleyen YZ şirketleri prensipte uzlaşsa bile yaptırımları devlet mekanizmalarının uygulaması gerekiyor. ABD Başkanı Donald Trump sektördeki çağrıya ilk tepki olarak yavaşlamaya lüzum olmadığını ve "Sadece zeki bir Amerikan Başkanı'na gerek olduğunu" ifade etti (Trump ailesinin veri merkezlerine büyük yatırımlar yaptığı biliniyor). Neyse ki ABD yönetim sistemi her şeyin kontrolünü tek bir noktaya bırakmıyor ve şimdilerde parlamentoda 'AI Kill Switch' (Gerekli Durumda YZ'nin Fişini Çekme) yasası tartışılıyor. Diğer yandan ABD dünyadaki tek söz sahibi değil. YZ çiplerinin maliyetini ciddi anlamda düşürerek son dönemde atılım yapan Çin'in tavrıysa teknolojinin kaderini belirleyecek etkenler arasında yer alıyor. Amodei'nin çağrısı üzerine görüşleri sorulan Çin Dışişleri Bakanlığı sözcüsü Guo Jiakun ABD'li YZ şirketlerini "Felaket tellallığı ve gereksiz yere korku yaymakla" itham ederek, ezeli rekabetin kimseye faydası olmadığını, YZ'nin insanlık için faydalı bir teknoloji olarak geliştirilmeye devam edilmesi gerektiğini savundu.