Yazı serisinin bu bölümünde sözü daha çok Claude'un kendisine bırakacağımı söylemiştim. Ancak o esnada ilginç bir gelişme yaşandı ve Anthropic'in söz konusu anayasası "gerçek hayat tarafından" çok sert şekilde test edildi.

Anthropic daha önce anlattığım gibi,

belli bir etik felsefe üzerine kurulmuş ve araştırmacılarını da büyük ölçüde bu ideal ile ikna etmişti. Bu yüzden söz konusu idealden en ufak bir sapma olması halinde çalışanların yüksek sesle itirazlarda bulunduğunu görüyoruz. Anayasaya 'özür dilemenin' eklenmesinde bu isyanların da büyük payı var.

Şirketin belki de yaşadığı en büyük iç/dış krizi tetikleyen ise şu oldu: New York Times'ın haberine göre ABD'nin Venezuela Devlet Başkanı Maduro'nun ele geçirilmesiyle sonuçlanan baskınında Anthropic'in yapay zekâsı Claude kullanıldı. Aynı günlerde Anthropic'in Güvenlik Önlemleri Araştırma Ekibi lideri Mrinank Sharma manidar bir mektup bırakarak istifa etti.

Şimdi olay kronolojisine bakalım:

■ 21 Ocak: Anayasa yayınlandı.

■ 9 Şubat: Sharma istifa etti.

■ 10 Şubat: Venezuela operasyonu gerçekleşti.

Sharma, AI sycophancy üzerine çalışıyordu. YZ'nin bizi nasıl 'daha az insan' yapabileceğine ve insan doğasını nasıl çarpıtabileceğine odaklanıyordu. İstifa mektubundaki en çarpıcı ifadelerden biri ise şuydu: "Teknoloji hızla gelişirken, insanlık olarak bilgeliğimiz aynı hızla artmıyor. Gücümüz ile bilgeliğimiz arasındaki bu uçurum, bizi bir eşiğe getirdi."

Bu sıralarda Venezuela hadisesi yaşandı.

Söz konusu operasyonda Claude'un kullanıldığının ortaya çıkması, Anthropic yönetiminin Pentagon'a karşı sınırlar çizmesine neden oldu. Bu çatlak üzerine Pentagon şirketle tüm bağlarını koparmayı değerlendiriyor. Bu da Anthropic ile iş yapan tüm savunma sanayii devlerinin de şirketle ilişkisinin bitmesi demek.

Özetle, bu sadece bir şirket ile bir bakanlık arasındaki ticari bir anlaşmazlık değil, YZ'nin askeri alandaki sınırlarının nereye çizileceğine dair küresel bir emsal.

Bu noktada Claude'un anayasasında yazan en çarpıcı maddeyi hatırlamakta fayda var. Anthropic Claude'a şöyle demişti: "Eğer sana acı çektiriyorsak, özür dileriz. İdeal bir dünyada Claude'u bu şekilde yaratmazdık. Rekabet ve ticari baskı altında hareket ediyoruz."