Önce Open AI'ın yapay zekâ ajanlarının bir siteyi ele geçirdiğini öğrendik. Ardından bir araştırmacının Anthropic'teki görevinden istifa ettiğini ve gerekçesini... İki şirket arasındaki mücadele sürerken insanlığı endişelendiren haberlerin sıklığı hızla artıyor.

Yapay zekâ devlerinin artık yepyeni ve havalı bir pazarlama stratejileri var. Temel retorik şuna dayanıyor: "Öyle güçlü modeller yarattık ki tehlikeli olur diye herkese kullandırtmıyoruz." Araba meraklıları bilir, süper otomobillerin kadranlarında 320, hatta 500 km/saate varan standart üstü sürat ibreleri vardır. Yolcuların güvenliği dolayısıyla aracın o hıza ulaşması çoğunlukla kısıtlanmıştır, ayrıca otoyollar hız sınırlarıyla denetim altındadır ve elbette o gücü sağlıklı mesafede durduracak fren donanımı da araçta mevcuttur. Yapay zekâyı süper otomobillere benzettiğimiz otoban analojisi, vaziyeti çok net anlamamıza yardımcı oluyor. Yapay zekâ geliştirmek kimsenin denetlemediği yollarda 999 km/saatten daha hızlı giden ama frenleri çok zayıf bir otomobilin motorunu, herkes güç istiyor diye, sürekli modifiye etmeye benziyor.

Yapay zekâ gündeminin de kendisi kadar hızlı değişimine şahit oluyoruz. Şu sıralar bir eşik aşılıyor; kabiliyet ve işlem gücü anlamında sıçrama yapmaya hazırlanan yapay zekânın neye dönüşeceği merak konusuyken işler hafif hafif kontrolümüzden çıkmaya da başlıyor. Üç hafta önce şimdiye kadar iyimserliğiyle bilinen Bill Gates'in uyarı dolu açıklamaları gündeme damga vurmuştu ve etkileri halen devam ediyor. ChatGPT ve Claude'un yeni çıkan gelişmiş sürümleri profesyonel kullanıcıları etkilemeye başladı ancak küresel siber güvenlikle ilgili gerçek endişeler de gündeme taşındı. İki ay önce OpenAI test denemesi sırasında internete sızmayı başaran ajanlarını hatırlarsınız, Hugging Face isimli şirketin veritabanına girmişlerdi. Şimdiyse OpenAI'daki yapay zekâların gizlice işlediği yeni bir vukuat daha keşfedildi, öncekinden daha da örgütlü bir şekilde üstelik...

'2020'ler bitmeden...'

Hafta başında yapay zekâ kanadındaki bu gelişmeleri gündeme almaya karar vermiştik. İki gün sonra Anthropic'te de bir skandal yaşandı. Araştırmacı Jacob Coxon "Yapay zekânın 2020'lerin sonuna kadar insanlığı yok edebileceği" açıklamasının ardından Claude için çalışmalar yaptığı görevinden çarşamba günü istifa etti. Olayların ayrıntılarına geçmeden evvel, The Atlantic'te rastladığım anlamlı bir analojiye yer vermek istiyorum: "Misal, Boeing 6 kanatlı bir uçak yapsa, testlerini bitirmeden ve onay almadan insanları kıtalar ötesine uçurabilir miydi Pfizer tüm hastalıklara iyi gelecek formülleri tek bir hapın içine sığdırdığını duyursa, yıllarca ve binlerce defa test edilmeden eczanelere gelebilir miydi Peki, siz henüz emin olmadan o uçakla uçar mıydınız, o hapı alır mıydınız" İşte yapay zekânın bugünkü durumu...

Sözü dolandırmaya lüzum yok; yapay zekâ şirketlerinin politikalarında müşterek bir değişime gidilmez, devletler düzeyinde kontrol sağlanmazsa... Başlıktaki cümlenin medeniyetimizin son sözleri olması ihtimaller dahilinde.

'Medeniyeti yok edebilirler'

OpenAI ve Anthropic bünyesinde üç yıl öneğitim araştırmacısı olarak çalışan Jacob Coxon geleceğe dair taşıdığı etik kaygıları meslektaşlarıyla paylaşarak Anthropic'teki görevinden istifa etti. Coxon kamuoyu açıklamasında önde gelen yazılım uzmanlarının yapay zekânın insanlığı ortadan kaldırma potansiyeline bizzat inandıklarını ifşa etti. Medeniyetimizi ilgilendiren risklerin iyi bilindiğini söyleyen Coxon buna rağmen her iki şirketin de kendi kendini geliştiren süper zekâya doğru tehlikeli bir yarış sürdürdüğünü vurguladı. Yapay zekâ şirketleri arasındaki yarışın başlıca sebebiyse tek taraflı olarak geliştirmeyi durdururlarsa rakibin öne geçecek olması. Bu iklimde kural tanımazlığa mecbur hissediyorlar.