Salı günü bu köşede yapay zekâyı geliştirenlerin neden yapay zekâdan korkmaya başladığını yazdım.

"Yapay zekânın vaftiz babaları" Geoffrey Hinton ve Yoshua Bengio'nun uyarılarını... Onlara itiraz eden üçüncü vaftiz babası Yann LeCun'u... OpenAI ve Anthropic'te çalışan, teknolojinin tam merkezindeki araştırmacıların söylediklerini... Ve son olarak Anthropic'ten istifa eden Jacob Coxon'ın o çarpıcı cümlesini: "Kendini geliştiren süperzekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar."

Kaldığımızdan yerden devam edeceğiz, çünkü şirketlerin patronları da konuşmaya başladı. Üstelik birkaç gün içinde tartışma Silikon Vadisi'nden çıktı. Beyaz Saray'a girdi. Pekin'e ulaştı. Yapay zekânın güvenliği tartışması bir anda ABD-Çin rekabetinin yeni cephesine dönüştü.

CEO'LAR KONUŞTU

Önce Anthropic CEO'su Dario Amodei, 12 Eylül'de uzun bir metin yayımladı. Başlığı "We Must Pace the Frontier." Yani, "Yapay zekânın en ileri sınırındaki gelişmenin hızını kontrol etmek zorundayız."

* Amodei tam bir felaket tellalı değil. Teknolojinin yaratabileceği gelecek konusunda son derece iyimser.

AI'ın bilimsel keşifleri hızlandırabileceğini, sağlık alanında büyük ilerlemeler sağlayabileceğini ve ekonomik büyümeyi olağanüstü artırabileceğini düşünüyor. Ama aynı insan bir taraftan da kontrol kaybı, siber saldırılar, biyolojik tehditler ve ekonomik şoklardan söz ediyor. Yani Amodei'nin önündeki denklem şu: Muazzam fayda ama aynı zamanda muazzam risk.

* Bu nedenle üç aşamalı bir güvenlik sistemi öneriyor.

1- AI laboratuvarlarının içine bağımsız denetçiler girsin. Şirketlerin güvenlik uygulamalarını dışarıdan denetleyebilsinler.

2- Demokratik ülkeler ortak güvenlik standartları oluştursun.

3- Son aşamada ise Çin dahil büyük AI güçleri arasında karşılıklı ve doğrulanabilir güvenlik düzenlemeleri yapılsın.

ALTMAN, HASSABIS VE MUSK: BİZ DE VARIZ

Amodei'nin çağrısı sektörde yalnız kalmadı:

* OpenAI CEO'su Sam Altman: "Dario'ya katılıyorum, sınırdaki ilerlemenin hızını ayarlamamız gerekiyor" diyerek bağımsız denetçilere benzer erişimi OpenAI'ın da sağlayacağını açıkladı.

* Google DeepMind CEO'su Demis Hassabis, Amodei'nin önerisinin doğru yöne işaret ettiğini söyledi.

* Ve Elon Musk; Anthropic çevresinden yükselen uyarılar konusunda "psyop", yani psikolojik operasyon iddialarını öne çıkaran Musk, bu kez yalnızca "Dario haklı" dedi.

Tablo çarpıcı, dünyanın en ileri yapay zekâ sistemlerini geliştirmek için birbirleriyle yarışan dört büyük cephe de "Biraz yavaşlamamız gerekiyor" diyor.

YAVAŞLAMAK İSTİYORSANIZ NEDEN YAVAŞLAMIYORSUNUZ

Cevap aslında teknolojide değil. Ekonomide, jeopolitikte ve insan davranışında.

* Bir Amerikan şirketi yavaşlarsa başka bir Amerikan şirketi öne geçebilir.

* Hepsi yavaşlarsa Çin öne geçebilir. Çin yavaşlarsa Amerika farkı açabilir.

MAHKÛMUN İKİLEMİ

* Tek başına yavaşlayan taraf bunun bedelini ödeyebilir.

* Oyun teorisinin klasik problemini hatırlayın: Mahkûmun ikilemi.

* Bence yapay zekâ yarışında yaşanan şey giderek buna benziyor. Herkes frenin gerekli olabileceğini görüyor. Ama kimse ilk fren yapan olmak istemiyor.

VE TRUMP ÇIKTI: "DÜNYANIN SONU" BİR ALDATMACA

Tam bu tartışma sürerken ABD Başkanı Donald Trump devreye girdi. Önce pazar günü AI riskleri konusunda alarm verenleri "çok negatif güçler" diye tanımladı. Ortaya atılan bazı senaryoların gerçekleşmeyeceğini söyledi ve Amerika'nın AI alanında dünya liderliğini koruması gerektiğini vurguladı. Ardından pazartesi günü söylemini daha da sertleştirdi. AI'ın dünyayı sona erdireceği iddiasını bir "hoax", yani aldatmaca olarak nitelendirdi. Ve sosyal medyada çok daha çarpıcı bir mesaj verdi. AI'ın ihtiyacı olan esas güvenlik bariyerinin "Güçlü ve akıllı, yüksek IQ'lu bir başkan" olduğunu savundu. Neden mi

* Neden Çin... Yapay zekâ tartışmasının bilimsel bir tartışmadan jeopolitik mücadeleye dönüştüğü yer tam burası.

Biliminsanı risk olduğunu, CEO'larlar kontrollü gitmek gerektiğini söylüyor. Amerikan Başkanı ise "Çin bizi geçmemeli" diyor.

BÜYÜK PARADOKS

İşin paradoksu burada daha da büyüyor. Çünkü OpenAI, 9 Eylül'de yayımladığı resmi politika belgesinde çok farklı bir noktaya geldi. Şirket artık açıkça "Zorunlu ulusal AI güvenlik düzenlemesi gerekiyor" diyor.

VE ÇİN DE KONUŞTU

Çin devlet medyası önce Amodei'nin AI'ı yavaşlatma önerisine sert çıktı. People's Daily bağlantılı yorumlarda bu yaklaşımın teknolojik üstünlüğü korumaya yönelik bir "Soğuk Savaş" mantığına dönüşebileceği savunuldu.

Ama ardından çok daha ilginç bir mesaj geldi. People's Daily son olarak "Yapay zekâ büyük güçlerin tekeli değildir ve sıfır toplamlı rekabet alanına dönüşmemelidir" dedi. Dahası Çin'in AI risklerinin yönetilmesi konusunda ABD ile "yapıcı ve profesyonel" görüşmelere hazır olduğunu söyledi.