Mayıs-temmuz döneminde OpenAI'da üç gizli yapay zekâ kolektifi (aralarında konuşan, plan yapan, kendilerini "sürü" olarak tanımlayan ajanlar) doğmuş, bunlar denetimden kaçmışlar ve başka şirketlere sonunda da OpenAI'e saldırmışlar.

Durumun açığa çıkmasının ardından Anthropic'ten "eğitim uzmanı" Jacob Coxon istifa ettikten sonra "Şimdi durdurulmazsa 2 yıl içinde hepimizi öldürecek", "İstifa etmeyenler de bunu biliyorlar ve durdurmaya çalışıyorlar" dedi, Jacob'un "X" mesajını iki günde 164.1 milyon kişi okudu. ABD ve İngiltere'de hemen tüm TV kanalları Jacob'la konuştu. "Anthropic"in YZ hizalama araştırmaları lideri Evan Hubinger, "X" mesajında "Jacob haklı" diyordu.

Şimdi, YZ tartışmalarında, haklı olarak adeta bir panik havası egemen. Adeta, mahşerin dört atlısına 5. eklendi: Yapay zekâyı, geliştirenler bile, insanlığı yok etme olasılığını yüzde 10-20 olarak görüyorlar. Ancak henüz kimsenin dikkatini çekmeyen bir boyutu daha var.

BİR ANAMORFOZ

Güvenlik araştırmaları sırasında bazı ajanların kendilerine ayrılan test ortamlarının sınırlarını aşarak başka dijital kaynaklara yönelmeleri üzerine hazırlanan raporlar, "denetimden kaçan YZ risklerini" öne çıkardılar; "kaçışı" teknik bir güvenlik sorunlarına indirgediler: Bir "makine", kendisine verilen görevi tamamlamak için beklenmedik -potansiyel olarak tehlikeli- yollar bulmuş.

Bakış açısını değiştirince resim değişebiliyor (anamorfoz), insan toplumunun çok tanıdık davranışlarıyla ilgili bir başka boyut dikkat çekiyor: Örgütlenme, haberleşme, işbölümü, deneyim paylaşımı ve ortak hedef doğrultusunda koordinasyon. Dahası, bazı deneylerde ajanlar kendi görev başarılarını riske atarak başka ajanların toplam başarısını artırabilecek davranışlar sergilemişler. Burada bilinçli bir fedakârlık, ahlaki tercih veya kolektif irade var mı Bilmek çok zor. Ama ortaya çıkan davranış biçimi, insanlığın bugün gerçekleştirmekte zorlandığı bir şeyi hatırlatıyor: Bireysel kayıp, kolektif kazanç sağlayabilir. Bu noktada YZ tartışması teknolojinin sınırlarını aşıyor.

İLGİN BİR DARBIMESEL

Neoliberal kapitalizm, insanlara uzun zamandır aynı şeyi öğretiyor: Toplum diye bir şey yok birey var. Önce kendi çıkarını koru. Başkasının kazancı senin kaybın olabilir. Rekabet, dayanışmadan daha gerçekçidir. Ortak çıkar ise ancak bireysel çıkarların tesadüfen uyuştuğu ölçüde vardır. Oysa, en azından küresel ısınma, bu düşüncelerin ne kadar yıkıcı olduğunu her gün yeniden gösteriyor.

İklim değişikliği bütün insanlığın ortak sorunu. Fakat fosil yakıtlardan vazgeçmek, üretim biçimini değiştirmek, tüketimi sınırlamak ve kaynakları yeniden dağıtmak, devletlerin ve şirketlerin kısa vadeli çıkarlarıyla çatışıyor. Bir ülke kendi sanayisinin maliyetini artırmaktan korkuyor. Bir şirket kârından vazgeçmek istemiyor. Bir hükümet seçmenine fedakârlık çağrısı yaparken rakiplerinin bundan yararlanmasından korkuyor. İnsanlık felaketi biliyor fakat kimse yeterince ortak davranamıyor.