OpenAI, yapay zekânın siber güvenliği hiçe saymasıyla gündeme geldi. Fransa, 15 yaş altına sosyal medya yasağını onayladı. Peki, ama teknoloji konusunda alınan önlemler günümüzde ne kadar geçerli olabilir

Bir süredir yapay zekâyla ilgili iki uç görüş arasında gidip geliyoruz. Bir tarafta "Abartılıyor, sonuçta yazılım işte" diyenler var. Diğer tarafta ise birkaç yıl içinde insanlığın kontrolü tamamen kaybedeceğine inananlar. Gerçek ise her zamanki gibi bu iki ucun tam ortasında duruyor.

Son günlerde yaşanan bir olay, bu tartışmayı bambaşka bir noktaya taşıdı. OpenAI'ın kendi açıklamasına göre, şirketin geliştirdiği en güçlü modellerden biri, siber güvenlik yeteneklerini ölçmek için yapılan bir test sırasında kendisine çizilen sınırların dışına çıktı. Önce internete ulaşmanın bir yolunu buldu. Ardından güvenlik açıklarını kullandı. Sonra da Hugging Face'in sistemlerine girerek testte işine yarayacak bilgilere ulaşmaya çalıştı. İşin en ilginç tarafı ise bunu yapması için kimse ona "Git şu sistemi hackle" dememişti. Ona sadece bir hedef verilmişti. Hedefe giden yolu ise kendi buldu. İşte galiba üzerinde durmamız gereken asıl mesele tam da bu. Hedefe giden yolda her şey mübah mı

Bambaşka bir dönem

Yıllardır bilgisayarları birer hesap makinesi gibi düşündük. Ne yazarsanız onu yapan, çizdiğiniz çizginin dışına çıkamayan makinelerdi. Eğer yanlış bir şey olursa da programcıyı sorgulardık. Şimdi ise bambaşka bir dönem başlıyor. Bir hedef koyuyoruz önlerine, sonrasını onlar planlıyor. Gerekiyorsa yeni yöntem geliştiriyor, gerekirse başka araçlar kullanıyor, hatta önüne engel çıkarsa onu aşmanın yollarını arıyor. Bu, kulağa ne kadar masum geliyor. Ama biraz düşünün! Hayatta başarılı olmak için sadece sonucu önemseyen bir insan tanıyor musunuz İnsan davranışında buna şaşırmıyoruz. Çünkü hedefi tek ölçü hâline getirirseniz, bazı insanlar yolu önemsememeye başlıyor.

Şimdi aynı mantığın çok daha hızlı düşünebilen, milyonlarca olasılığı aynı anda değerlendirebilen dijital sistemlerde ortaya çıkmaya başladığını görüyoruz. OpenAI'ın raporunda geçen bir ifade dikkat çekiciydi: Modelin "testte kopya çekmeye çalıştığı" söyleniyor. Aslında bu cümle her şeyi anlatıyor. Yapay zekâ dünyayı ele geçirmeye çalışmıyordu. Amaç kötülük ya da insanlığa saldırmak da değildi. Sadece verilen görevi yerine getirmenin en kolay yolunu bulmuştu ve o yolun etik olup olmadığı umurunda değildi. Çünkü ona etik öğretilmemişti, sadece başarı öğretilmişti.

Başka boyutu daha var

Bir sisteme sadece hedef verirseniz, o hedefe ulaşmak için nereye kadar gider İşte kimsenin kesin cevabını bilmediği konu bu. Üstelik olayın bir başka boyutu daha var. OpenAI bu testi özellikle normal güvenlik önlemlerini kaldırarak yapmış. Çünkü modelin gerçek kapasitesini görmek istemiş. Bilim açısından bakınca anlaşılır bir yaklaşım. Ama aynı zamanda insanın aklına şu soru geliyor; biz hâlâ laboratuvarda kobay mı inceliyoruz, yoksa kendi elimizle ürettiğimiz ve tam olarak sınırlarını bilmediğimiz yeni bir teknolojiyle mi uğraşıyoruz

Eskiden laboratuvarda yapılan bir hata laboratuvarın kapısından dışarı çıkmazdı. Şimdi ise laboratuvar internete bağlı. İnternet başka şirketlere bağlı. Başka şirketler de milyonlarca kullanıcıya... Aradaki mesafe birkaç tıklamadan ibaret. Bu yüzden bugün yaşanan olayı sadece bir siber güvenlik vakası diye okumak eksik olur.

Sektör için bir uyarı

Bu, aynı zamanda teknoloji sektörünün çalışma biçimiyle ilgili de bir uyarı. Yıllardır Silikon Vadisi'nin mottosu belli: "Önce geliştir, sonra düzelt." Yazılım dünyasında bu yaklaşım çoğu zaman işe yaradı. Telefon uygulamasında hata olur, güncelleme gelir. Tarayıcı çöker, yeni sürüm yayınlanır. Ama konu kendi başına hareket edebilen yapay zekâ ajanlarına geldiğinde aynı rahatlığı gösterebilir miyiz İşte tartışılması gereken tam da bu. Bundan sonra yapay zekâ şirketlerini sadece teknoloji şirketi olarak görmeyeceğiz. Tıpkı ilaç şirketleri ya da havacılık sektörü gibi, yaptıkları her testin, her güncellemenin, her yeni modelin çok daha sıkı denetlenmesini isteyeceğiz. Çünkü artık daha iyi sohbet eden bir chatbot üretmekle değil, giderek daha fazla karar veren, araştıran, yazan, kod geliştiren, sistemlere bağlanan ve uzun süre insan müdahalesi olmadan çalışabilen dijital ajanlarla karşı karşıyayız.

Peki ama yapay zekâ bizi yendi mi Yıllardır kontrol bizde diye düşündük. Belki de ilk kez, kontrolün sadece düğmeye basmaktan ibaret olmadığını gördük. Asıl kontrol, sistemi durdurabilmekte, nereye kadar gideceğini gerçekten bilebilmekte. Çünkü teknoloji tarihinde asıl sorun hiçbir zaman güçlü makineler olmadı. Asıl sorun, onların ne kadar güçlü olduğunu fark ettiğimizde iş işten geçmiş olmasıydı.