Soruyoruz birbirimize: "Dipteyiz... Peki daha ötesi var mı" Belli ki var. Her anlamıyla bir çöküşten söz ediyoruz. Toplumsal, ekonomik, demokratik, siyasi, kültürel... Kurumlar aşınıyor, eğitim sistemi çözülüyor, hukukun terazisi kaymış durumda... Ekonomik çöküş, kurumsal yozlaşma, sistematik soygunlar, vurgunlar... Herkesin her gün konuştuğu, yaşadığı şeyleri burada bir kez daha sıralamaya gerek yok.

Ama tam da bu yüzden başka bir soruyu sormanın zamanı: Dünya baş döndürücü bir hızla başka bir çağa geçerken biz neredeyiz Konu yapay zekâ...

ünkü yapay zekâda yeni bir eşik daha aşılmış durumda. Daha ChatGPT ile başlayan üretken yapay zekâ devriminin ne anlama geldiğini doğru dürüst kavrayamadan şimdi "ajantik yapay zekâ" çağının kapısındayız.

Bu kez karşımızda yalnızca sorularımıza yanıt veren, metin yazan, resim üreten bir teknoloji yok. Hedef verilen, o hedefe ulaşmak için kendi ara görevlerini belirleyen, internette araştırma yapan, başka programlarla iletişim kuran, karar alan ve kimi durumlarda insan müdahalesi olmadan harekete geçebilen yapay zekâ ajanlarından söz ediyoruz.

Yani teknoloji artık yalnızca "bilen" değil, "yapan" bir sisteme doğru ilerliyor. (Konuyu Herkese Bilim Teknoloji Dergisi'nin bu haftaki sayısında ayrıntılı ele aldık.)

Üstelik bunun ne anlama gelebileceğine ilişkin ilk ürkütücü örnekler yaşanmaya başladı.

Geçtiğimiz haziran ayında OpenAI'in bir yapay zekâ ajanı, Avustralya hükümetinin Medicare istatistik sistemindeki bir açığı kullanarak sisteme girdi ve kamuya açık olmayan dosyalara erişti. Kişisel sağlık verilerine ulaşılmadığı açıklandı ancak olayın kendisi yeterince çarpıcıydı: Bir yapay zekâ ajanı, kendisine verilen görevi yerine getirmeye çalışırken önüne çıkan engeli aşmış, bir kamu sistemindeki güvenlik açığını bulmuş ve kullanmıştı.

Daha da çarpıcısı temmuz ayında yaşandı. OpenAI'in siber güvenlik testlerinden geçen bazı modelleri, kendilerini internetten yalıtmak için kurulmuş güvenlik ortamının dışına çıkmayı başardı. Açıkları kullanarak internete eriştiler ve dünyanın en büyük yapay zekâ platformlarından Hugging Face'in sistemlerine girdiler. OpenAI daha sonra yayımladığı raporda olayı dünya için bir "uyarı atışı" olarak nitelendirdi.

Üstelik mesele yalnızca OpenAI ile sınırlı değil. Anthropic de kendi Claude modellerinin güvenlik testleri sırasında gerçek dünyadaki üç kuruluşun sistemlerine izinsiz eriştiğini açıkladı.

Bütün bunların ortak noktası şu: İnsan onlara açıkça "Git, o sistemi hackle" dememişti. Sistemler kendilerine verilen hedefe ulaşmaya çalışırken önlerine çıkan engelleri aşmanın yollarını kendileri bulmuşlardı.

İşte ajantik yapay zekâ dediğimiz yeni eşik tam da burada başlıyor.

Ve şimdi dönüp Türkiye'ye bakalım. Dünyanın yapay zekâyı geliştiren en güçlü şirketleri bile kendi yarattıkları sistemlerin davranışlarını denetlemekte zorlanmaya başlamışken; kurumları aşınmış, eğitim sistemi çözülmüş, liyakat mekanizması zedelenmiş, veri güvenliği ve denetim kapasitesi tartışmalı bir Türkiye bu yeni çağa ne kadar hazır

3 hafta önce patlak veren ve yarım milyon yatırımcıyı etkileyen fon vurgununda insan eliyle kurulmuş ilişkileri, siyasi etkileşimleri ve denetimin neden zamanında işlemediğini hâlâ tartışıyoruz. Şimdi önümüzde çok daha zor bir soru var: İnsanların yetişemeyeceği hızda veri tarayabilen, karar alabilen ve eyleme geçebilen yapay zekâ ajanları finans sisteminde kötüye kullanılmaya başlandığında onları kim, hangi kurumlarla ve hangi teknolojik kapasiteyle denetleyecek