"Bugün Anthropic'ten istifa ettim. Son üç yılımı OpenAI ve Anthropic'te pretraining araştırmaları yaparak geçirdim. İki şirket de sorumlu davranmıyor. Kendini geliştiren süperzekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar."

Yapay zeka araştırmacısı Jacop Coxon'un istifasını duyurduğu bu sözler dünyayı sarstı. Coxon'a göre insanlık, sonuçlarını tam olarak bilmediği bir yarışın içine girdi. Daha önemlisi Coxon yalnız değil. Bu köşeyi takip edenler daha önce de benzer kaygıların dile getirildiğini hatırlayacaktır. AI laboratuvarlarının içinden gelen uyarılar, şirket CEO'larının açıklamaları, Washington'daki düzenleme tartışmaları ve birbiriyle çatışan bilim insanlarının görüşleri aynı sorunun etrafında birleşiyor; "Yapay zekâdaki hız, onu anlama ve kontrol etme kapasitemizi aşıyor mu"

PARAYI DAMASADA BIRAKTI

Coxon'ın istifasında dikkati çeken bir ayrıntı daha var. Anthropic'teki hisselerini hak edişine yaklaşık iki ay kalmıştı. Beklemedi. Gitti. Yani masada yalnızca kariyer bırakmadı. Para da bıraktı.

- Silikon Vadisi'nde "gelecek model dünyanın en güçlü modeli olacak", "AGI yaklaşıyor", "süperzekâ geliyor" gibi iddiaların aynı zamanda yatırım ve pazarlama dili haline geldiğine dair ciddi eleştiriler var. Dolayısıyla her felaket uyarısını sorgulamak gerekir.

- Ama milyonlarca dolara ulaşabilecek bir geleceği geride bırakan bir araştırmacı; "Artık bunun parçası olmak istemiyorum" diyorsa, ne söylediğine biraz daha yakından bakmak gerekiyor.

- Coxon, önümüzdeki bir-iki yılın insanlık açısından kritik olabileceğini söylüyor. Çünkü ona göre yapay zekânın yetenekleri yalnızca artmıyor. Artışın niteliği değişiyor. Kodlama, matematik, bilimsel araştırma, siber operasyonlar ve AI geliştirmek için AI kullanılmaya başlanması.

KENDİSİNİ GELİŞTİRENYAPAY ZEKÂ NE DEMEK

Bugün insan yapay zekâyı geliştiriyor. Sorun yapay zekânın yapay zekâ geliştirmesi. Sonra ortaya çıkan daha güçlü sistemin, kendisinden de ileri bir sistemin geliştirilmesine daha fazla katkıda bulunması. Ve bu döngü tekrar etmesi. AI literatüründe bunun için kullanılan kavramlardan biri: Recursive self-improvement yani özyinelemeli kendini geliştirme;

- Bu fikir yeni değil. Fakat bugünkü tartışmayı farklılaştıran şey, AI sistemlerinin artık yazılım geliştirme ve AI araştırmasının çeşitli parçalarında gerçekten kullanılmaya başlanması.

- Asıl korku da şu: Eğer yapay zekâ geliştirme süreci giderek otomatikleşirse, bir noktada teknolojik ilerlemenin hızı insanların onu test etme, anlama ve denetleme hızının üzerine çıkabilir mi

- Bunun gerçekleşeceğini bugün kimse bilimsel kesinlikle söyleyemez. Ama artık ciddi araştırmacılar "Bu ihtimali yok sayamayız" diyor.

'VAFTİZ BABALARI'NE DİYOR

Modern yapay zekânın bugünkü yükselişinde üç isim özellikle öne çıkıyor: Geoffrey Hinton, Yoshua Bengio, Yann LeCun. Üçü de derin öğrenmenin gelişmesindeki çalışmaları nedeniyle 2018'de Turing Ödülü'nü paylaştılar. Bu nedenle dünya basınında sık sık yapay zekânın "Godfathers of AI"-vaftiz babaları olarak anılıyorlar;

- Hinton, son günlerde kendisine "AI'ın insanlığın yok olmasına yol açması için yüzde 10 civarında bir ihtimal sizce mantıksız mı" diye sorulduğunda; "Mantıksız değil" dedi. Hinton'ın gerekçesi aslında felsefi olarak son derece basit; "İnsanlık daha önce kendisinden daha zeki olabilecek varlıklar yaratmadı." Dolayısıyla geçmiş deneyimlerimize bakıp; "Nasıl olsa kontrol ederiz" diyemiyoruz. Mesele yapay zekanın yalnızca bizden kurtulmasını engellemek değil. Bizden kurtulmayı hiç istememesini nasıl sağlayacağız İşte alignment tartışmasının özü de bu.

-Bengio'nun yaklaşımı bana Hinton'dan biraz farklı geliyor. Daha bilim-politika eksenli. 2026 International AI Safety Report'un başkanlığını yaptı. Raporun temel mesajlarından biri şu: AI'ın yetenekleri hızla artıyor. Ama bu sistemlerin nasıl davrandığına ilişkin bilimsel anlayışımız aynı hızda gelişmiyor. Özellikle daha bağımsız hareket eden "agentic AI" sistemleri konusunda belirsizlik artıyor.

Bengio son aylarda özellikle iki olgunun üzerinde duruyor; aldatma kapasitesi ve otonomi. Yani bir sistem, hedefini gerçekleştirmek için bizden bilgi saklamayı veya bizi yanıltmayı öğrenebilir mi Bengio'ya göre bugünkü kanıtlar gelecekte kesin bir felaket olacağını göstermiyor. Ama risklerin araştırılmasını gerektirecek kadar ciddi sinyaller var. Bu nedenle son dönemdeki önerisi kendi hedeflerini gizlice takip etmeyen, dünyayı anlamaya ve güvenilir bilgi sağlamaya odaklanan farklı bir AI mimarisi.