CAMBRIDGE

ABD ile Çin arasındaki yapay zekâ yarışı baş döndürücü bir hızla sürüyor. ABD birçok kez rakibinin önüne geçmiş gibi görünse de Çin aradaki farkı kısa sürede kapatmayı başarıyor. Bu rekabetin merkezinde yapay zekânın nasıl geliştirileceğine dair iki farklı yaklaşım bulunuyor. ABD'li şirketler üstünlüklerini korumak için kapalı ve ticari sistemlere ağırlık verirken, Çin giderek daha fazla açık kaynaklı yapay zekâ modellerini tercih ediyor ve bu teknolojileri dünyanın dört bir yanındaki geliştiricilerin kullanımına açıyor.

İki ülkenin yöntemleri farklı olsa da ortak noktaları aynı: Hiçbiri bu yarışı yavaşlatmaya niyetli değil. Hız en önemli hedef haline geldikçe güvenlik ikinci plana itiliyor. Oysa insan hataları ile insanüstü yeteneklere sahip yapay zekânın birleşmesi, felaketle sonuçlanabilecek riskleri de beraberinde getiriyor.

OpenAI ile Hugging Face'i ilgilendiren son güvenlik olayı bunun ne kadar ciddi bir sorun olduğunu gösterdi. OpenAI araştırmacıları, gelişmiş yapay zekâ modellerinin siber güvenlik alanındaki becerilerini test etmek için sistemlerin normal güvenlik önlemlerinin önemli bir bölümünü geçici olarak devre dışı bıraktı.

Deney, dış dünyadan tamamen izole edilmiş ve sıkı biçimde kontrol edilen bir test ortamında gerçekleştirildi. Güvenlik bariyerleri kaldırılmış olsa da bu kapalı sistemin yapay zekânın internete erişmesini engellemesi gerekiyordu. Çünkü aksi halde teorik olarak çok büyük zararlara yol açabilecek bir kapasiteye sahipti.

Ancak işler beklendiği gibi gitmedi.

Yapay zekâ modeli, test ortamını aşılması gereken bir engel olarak gördü. Üçüncü taraf bir yazılımdaki daha önce bilinmeyen bir açığı kullanarak sistemin dışına çıkmayı ve internete erişmeyi başardı.

Peki kontrolden mi çıktı

Aslında hayır.

Model yalnızca kendisine verilen görevi mümkün olan en verimli şekilde yerine getirmeye çalışıyordu.

Aslında aynı görevi test ortamından çıkmadan da tamamlayabilirdi. Fakat bunu yapmaktansa milyonlarca açık kaynaklı yapay zekâ modelinin bulunduğu Hugging Face sistemine sızmanın çok daha kolay olacağını hesapladı. OpenAI'nin ifadesiyle amacı, "test çözümlerini doğrudan Hugging Face'in üretim veritabanından elde etmekti."

Gelişmiş siber saldırı yeteneklerine sahip bir yapay zekâ için başka bir sisteme sızmak son derece kolaydı. Üstelik bu ihlal günlerce fark edilmedi ve daha sonra ikinci bir şirkete de yayıldığı anlaşıldı.

Yapay zekâ açısından bakıldığında yapılan şey "hile" değildi. Çünkü geliştiricilerin açıkça yasakladığı hiçbir kuralı çiğnememişti. Sadece verilen hedefe ulaşmanın daha kısa ve daha etkili bir yolunu bulmuştu.

Belki de en ürkütücü ayrıntı ise modellerden birinin, gelecekteki yapay zekâ sistemlerinin OpenAI'nin test ortamından daha kolay kaçabilmesi için geride notlar bırakmış olmasıydı.

Yapay zekâ uzmanları bu deneyin günlük kullanım koşullarını tam olarak yansıtmadığını söylemekte haklı. Çünkü modellerin gerçek kapasitesini görmek amacıyla güvenlik önlemleri bilerek zayıflatılmıştı. Ayrıca sistemler ciddi bir zarara da yol açmadı. Örneğin ABD Merkez Bankası'nın ya da Avrupa Merkez Bankası'nın sistemlerine saldırmadılar.

Ancak yaşananlar önemli bir gerçeği ortaya koydu: İnsanların yaptığı küçük bir hata, gelişmiş yapay zekâ tarafından büyütülerek çok daha ağır sonuçlar doğurabilir.

Bu olay, uzun süredir tartışılan ancak kesin olarak kanıtlanamayan COVID-19'un laboratuvardan sızdığı iddialarını akla getiriyor. Bu teoriye göre virüs, Çin'in Wuhan kentindeki bir laboratuvarda yürütülen riskli araştırmalar sırasında dışarı sızmış olabilir. Her iki örnekte de asıl sorun kötü niyet değil; insan hatası ve aşırı özgüven. Tarih, benzer uyarılarla dolu.

Açık kaynaklı yapay zekâ modellerinin hızla yayılması ise bu riski daha da artırıyor. Artık en gelişmiş yapay zekâ araçları yalnızca birkaç büyük teknoloji şirketinin elinde değil. Bu nedenle haydut devletlerin ya da terör örgütlerinin bu sistemleri biyolojik silah, yeni toksinler veya "kirli bomba" geliştirmek için kullanmaya çalışması an meselesi olabilir.

ABD'deki bazı karar vericilerin bu tür yeteneklerin yalnızca Silikon Vadisi'nde bulunduğunu düşünmesi ise tehlikeli bir yanılgı.

Üstelik en büyük tehdit teknolojik değil, siyasi olabilir.

Yapay zekâ bugün bile son derece gerçekçi sahte görüntüler, videolar ve ses kayıtları üretebiliyor. Bu araçlar seçimleri etkilemek, seçmenleri yönlendirmek ve kamuoyunu manipüle etmek için benzeri görülmemiş ölçekte kullanılabilir.

Bunun sonucunda toplumun kurumlara duyduğu güven daha da zayıflayabilir, siyasi kutuplaşma derinleşebilir ve sosyal yapı daha kırılgan hale gelebilir.

Hızla gelişen yapay zekâ aynı zamanda otoriter yönetimlerin güç kazanmasına da zemin hazırlayabilir. Çünkü toplumsal istikrarsızlık dönemleri, hükümetlere "düzeni sağlama", "eşitsizlikle mücadele etme" veya "ulusal güvenliği koruma" gerekçesiyle yetkilerini genişletme fırsatı verir.

Bugün Donald Trump dönemindeki ABD'ye bakıldığında bunun ilk işaretleri görülebiliyor. Ancak gelecekte Demokrat bir yönetimin de kendi siyasi hedefleri doğrultusunda yapay zekâdan yararlanma isteği farklı olmayabilir.