Yapay zekâ dünyasının en önemli birkaç isminden biri olan Dario Amodei yapay zekânın 1-2 yıl içinde herkesten daha akıllı hale geleceğini ve ciddi riskler yaratacağını söylüyor. Otoriter devletlerin bunu kullanabileceğini, yapay zekâ şirketlerinin insanların beynini yıkayabileceğini de ekliyor.

Anthropic şirketinin CEO'su Dario Amodei "İnanıyorum ki; nasıl bir canlı türü olduğumuzu sınayacak olan hem çalkantılı hem de kaçınılmaz bir olgunlaşma evresine giriyoruz" diyor. ChatGPT ve Gemini'yla birlikte yapay zekâ dünyasının üç büyükleri arasındaki Claude AI'ın mimarı Dario Amodei, piyasa değeri 350 milyar dolar olan şirketi yöneten isim. Amodei, yapay zekânın risklerine karşı insanlığı uyarmaya öncelik veren bir teknoloji gurusu. Söylediklerini gerçekten kale almak gerekiyor. Amodei yapay zekânın güncel ve olası riskleri hakkında 38 sayfalık bir makale yayımladı ve yine teknoloji gündemini sarsmayı başardı.

"İnsanlık, hayal etmesi bile zor bir gücü eline almak üzere; ancak toplumsal, siyasi ve teknolojik sistemlerimizin bu gücü layıkıyla yönetecek olgunluğa sahip olup olmadığı derin bir belirsizliğin içinde" diyen CEO'nun sözlerini dikkatle seçmesi anlaşılabilir. Özetle nasıl kontrol edeceğimizi bilmediğimiz o büyük gücün, yani insanüstü zekânın medeniyet ölçeğinde bir yıkıma yol açabileceğine dair 'gerçek tehlikenin' kapıda olduğu uyarısını yapıyor. Makale moral bozmak için yazılmış bir felaket senaryosu değil. Aksine Amodei bu geçiş sürecinin insanlar tarafından başarıyla yönetileceğine inancını vurguluyor. Ancak tek bir şartla: Yapay zekâ şirketlerinin ve hükümetlerin halka karşı dürüst olması ve mevcut tehditleri çok daha ciddiye alması gerek.

Biyolojik silahlar...

Gelelim makalenin özetine... Dario Amodei'in endişelerinin temelinde, yapay zekânın 1-2 yıl içinde neredeyse her konuda insanlardan daha becerikli hale gelmesi yatıyor. Bu durumu 'dâhiler ülkesi' benzetmesiyle ifade ediyor. Yapay zekânın Nobel ödüllü dâhilerin beceri ve zekâ seviyesine ulaşacağını hatta onları geçeceğini söyleyen Amodei, botların (ajanların) içerik üretmenin ötesinde kendi başlarına biyolojik ajanlar veya silah sistemleri tasarlayacak kapasiteye de ulaşabileceğini iddia ediyor. "Yapay zekânın 1-5 yıl içinde başlangıç seviyesindeki beyaz yakalı işlerin yüzde 50'sini eleyeceğini düşünüyorum" diyor. Amodei'e göre kitlesel iş kayıplarının sebebi tek başına yapay zekâ olmayacak. Risk yapay zekâ maliyetleri düşürdükçe daha fazla kâr etmenin çekiciliğine kapılacak olan işverenlerden kaynaklı.

Terör tehdidinin artması da dikkat çektiği riskli unsurlar arasında: "En çok endişelendiğim alansa yıkım potansiyelinin yüksekliği ve savunma yapmanın zorluğu nedeniyle açık ara biyoloji." Biyolojik silahlara yönelen kötü niyetli kişilerin çoğunlukla ruhsal açıdan sorunlu bireyler olduğunu belirten Amodei, davranışlarının neredeyse öngörülemez ve mantıksız olacağına işaret ediyor: "Yapay zekânın çok sayıda insanı öldürmeyi kolaylaştırmasından en büyük faydayı sağlayabilecek olanlar bu 'kabiliyetsiz' kötü niyetli kişiler." Yapay zekâ bu seviyeye gelir gelmez hemen tehdit oluşturacağını düşünmeyen Amodei, yıllar sonrasını göz önüne almak gerektiğini ve dünyada milyonlarca çeşit insan olduğunu hatırlatıyor.

Baskıcı ve otoriter rejimlerin, halkların üzerindeki kontrolü arttırmak için yapay zekâdan yararlanabileceğini öngören Amodei, Çin örneğini veriyor. "Yapay zekâ kabiliyetleri açısından ABD'nin hemen ardından gelen ve bu alanda ABD'yi geride bırakma ihtimali en yüksek ülke... Hükümetleri şu an otokratik bir yapıda ve yüksek teknolojili gözetleme devleti işletiyorlar" diyen Amodei "Yapay zekâ destekli otoriterlik beni dehşete düşürüyor" da diyor.