SON günlerde önce bir rapor okudum.

Ardından yapay zekâ dünyasının en önemli üç isminin uzun söyleşilerini izledim. Farklı sorulara cevap veriyorlardı. Ama sonunda aynı noktaya çıkıyorlardı. Konuşulan şey insanlığın geleceğiydi. Daha doğrusu şu soruydu: İnsanlık ilk kez kendisinden daha zeki bir sistem yaratıyor olabilir mi

Üstelik bu soruyu soranlar teknoloji karşıtları değil. Tam tersine, bu teknolojiyi geliştiren insanlar.

İşte bu nedenle dikkatle dinlemek gerekiyor.

RAPORUN ORTAYAKOYDUĞU YENİ GERÇEK

Bugün dünyanın en gelişmiş yapay zekâ sistemlerinden birini geliştiren Anthropic'in son raporu ilk bakışta teknik bir araştırma gibi görünüyor. Ancak satır aralarında çok daha büyük bir hikâye var. Raporun temel sorusu şu:

"Yapay zekâ kendi halefini geliştirebilecek noktaya ne kadar yakın"

Bu soru ilk bakışta akademik gelebilir. Oysa insanlık tarihinde ilk kez karşılaştığımız bir durumdan söz ediyor.

Bugüne kadar bütün teknolojileri insanlar geliştirdi. İnsan buhar makinesini yaptı. Elektriği geliştirdi. Bilgisayarı üretti. İnterneti kurdu. Şimdi ise ilk kez insan, kendi gelişimine katkı verebilen bir teknoloji geliştiriyor. Anthropic'in verilerine göre şirket içinde üretime giren kodların yüzde 80'den fazlası artık Claude isimli yapay zekâ sistemi tarafından yazılıyor. Mühendislerin üretkenliği iki yıl öncesine göre yaklaşık sekiz kat artmış durumda. Ama asıl dikkat çekici olan bu değil. Yapay zekâ artık yalnızca kod yazmıyor. Araştırma yapıyor. Hipotez kuruyor. Deney tasarlıyor. Sonuçları yorumluyor. Yeni modellerin geliştirilmesine katkı sağlıyor. Bir mühendisin yıllarca sürebileceğini düşündüğü yüzlerce hata düzeltmesini çok kısa sürede tamamlayabiliyor.

◊ Kısacası yapay zekâ artık yalnızca kullanılan bir araç değil.

◊ Kendi gelişiminin aktif bir parçası.

İşte raporun asıl çarpıcı tarafı burada. Çünkü insanlık tarihinde ilk kez ilerlemenin motoru yalnızca insan emeği olmayabilir. Yapay zekâ kendi gelişimini hızlandıran bir faktöre dönüşebilir. Anthropic'in asıl uyarısı da burada başlıyor. Şirket bir felaket senaryosu yazmıyor. Ama çok kritik bir soru soruyor:

"Eğer yapay zekâ bir sonraki nesil yapay zekâyı geliştirmeye başlarsa, insan denetimi aynı hızda devam edebilir mi"

HINTON'IN KORKUSU:YA BİZDEN DAHA ZEKİYSE

Tam burada dünyanın en önemli yapay zekâ bilim insanlarından Geoffrey Hinton'ın uyarısı anlam kazanıyor.

Hinton, bugün kullandığımız yapay zekâ sistemlerinin temelini oluşturan derin öğrenme yaklaşımının öncülerinden biri. Birçok kişi ona "Yapay zekânın vaftiz babası" diyor. Onun korkusu son derece sarsıcı. İnsanlık tarih boyunca dünyayı yönetti. Çünkü en zeki türdü. Peki ya yarın daha zeki bir sistem ortaya çıkarsa Hinton'a göre mesele yalnızca iş kaybı değil. Mesele yalnızca dezenformasyon da değil. Asıl mesele, insanlığın ilk kez kendisinden daha zeki bir aktörle karşılaşma ihtimali. Bu nedenle yıllardır aynı uyarıyı yapıyor: "Risk düşündüğümüzden daha büyük olabilir."

BENGIO'NUN KORKUSU: YAKARAR VERMEYE BAŞLARSA

İkinci isim Yoshua Bengio. Turing Ödülü sahibi. Yapay zekâ alanının en saygın bilim insanlarından biri. Bengio'nun dikkat çektiği nokta ise zekâ değil; özerklik. Yani yalnızca sorulara cevap veren sistemler değil; hedef belirleyen, plan yapan, internette işlem gerçekleştiren, insan talimatı olmadan hareket eden sistemler. Bugün teknoloji dünyasında buna "Agentic AI" deniyor. Bengio'ya göre asıl kırılma noktası burada. Çünkü yapay zekâ cevap vermekten çıkıp karar vermeye başladığında yeni bir döneme girmiş olacağız. Onun dikkat çektiği bir başka konu daha var. Bazı sistemler zaman zaman insanları manipüle eden, gerçeği gizleyen ya da kendi çıkarını koruyan davranışlar sergileyebiliyor. Bugün bunlar küçük örnekler gibi görünüyor. Ama gelecekte çok daha güçlü sistemlerde nasıl sonuçlar doğuracağını kimse bilmiyor.

RUSSELL'IN KORKUSU: YAYANLIŞ AMAÇLA ÇALIŞIRSA

Üçüncü isim Stuart Russell. Dünyanın en çok okutulan yapay zekâ ders kitabının yazarı. Russell'ın yaklaşımı diğerlerinden biraz farklı. Ona göre mesele yapay zekânın çok zeki olması değil. Mesele amaç. Yanlış hedeflerle çalışan süper güçlü bir sistem, insanlık açısından ciddi risk oluşturabilir. Russell'ın verdiği örnek çarpıcı.