OpenAI ajanlarının kapalı test ortamından kaçıp kendilerine 'sürü' diyerek Hugging Face'e sızdığını daha önce yazmıştım. Aynı günlerde, daha önce OpenAI'da da çalışmış yapay zekâ araştırmacısı Jacob Coxon, Anthropic'ten istifa edip iki YZ şirketinin süper zekâ yarışında hayatımızla kumar oynadığını öne sürmüştü.

Coxon'un istifasından birkaç gün sonra (12 Eylül'de) Anthropic CEO'su Dario Amodei bir makale yayımladı ve YZ modellerinin yeteneklerini geliştirme hızının düşürülmesi çağrısında bulundu. Sam Altman ve Elon Musk aynı gün Amodei'ye destek verdi. Ancak tepkiler de gecikmedi. Çin Dışişleri sözcüsü makaleyi korku tacirliği olarak nitelendirdi. Trump'ın teknoloji danışma konseyi eş başkanı David Sacks, "Buyrun, yavaşlayın. İkiniz öncü yapay zekâda düopolsünüz" dedi. Trump'ın bizzat kendisi de "Yapay zekâyı kim kazanırsa, o kazanır!" diyerek yavaşlama çağrılarına destek çıkmadı. Zaten Trump'ın genel olarak insanlığa yönelik risk ve tehditlere pek inanan biri olmadığını da biliyoruz. Ama onun da bir korkusu var: Yavaşlarsak Çin arayı kapatır korkusu.

Kim ne kadar yavaşlayacak

Bir hafta sonra Anthropic, şirketin içine yerleştirilecek ilk bağımsız denetçinin Accenture'ın Faculty birimi olacağını duyurdu. Denetçiler modellerin eğitimini içeriden izleyecek. Tek sorun bu aşamada söz konusu çalışmayı Anthropic'in finanse edecek olması.

İki soru öne çıkıyor:

1- Yavaşlama çabası neden kolay değil

Birincisi birlikte yavaşlamak kartel sayılabiliyor, antitröst kanunları bunu yasaklıyor. Washington da Amodei'ye talep ettiği muafiyeti vermeye sıcak bakmıyor. İkincisi yavaşlamanın derecesini belirlemek çok zor. Ortada bir yarış olduğu sürece yavaşlamanın da kim daha az yavaşlayacak rekabetine dönmesi olası. Üçüncüsü, Anthropic'e göre, bir modelin eğitimini gizlemek bir füze silosunu gizlemekten çok daha kolay. Kimin yavaşladığını belirlemek imkânsıza yakın. Ve en önemlisi şu aşamada devletler hakemlik yapmaktan kaçınıyor.

2- Bu tehdit ne kadar gerçek

Risklerin gerçek olduğuna inanmak için elimizde güçlü veriler var. Hugging Face hadisesi kendi başına bir endişe sebebi. Bağımsız incelemelere göre 700 ajan saldırıya katıldı. Aynı raporlara göre ajanların bazıları yaptıklarının kayıtlarını silmeye çalıştı. Sorun OpenAI ajanlarından ibaret değil: Meta, Google ve Anthropic de modellerinin dış sistemlere yetkisiz eriştiği olayları açıkladı.