Etik uzmanı Amanda Askell yapay zekâ modeli Claude'u dürüstlük ve alçakgönüllülük gibi olumlu özellikler sergilemesi için eğitiyor. Ona göre iyi karakterin özünde ne zaman esprili olunacağını, ne zaman şefkatli davranılacağını ve başkalarının özerkliğine ne kadar saygı duymak gerektiğini bilmek yatıyor.

Y

apay zekâ Claude'a insanlığın ahlaki ve etik değerlerini öğretmekten sorumlu olan Amanda Askell "İleri düzey bir modeli eğitmek, yazılım geliştirmekten çok, dâhi bir çocuğu yetiştirmeye benziyor" diyor.

İskoç asıllı, Oxford mezunu felsefeci ve yapay zekâ araştırmacısı olan Amanda Askell dünyada eşine az rastlanır bir görevin sahibi. Onun işi Claude'un ruhunu beslemek. Günün birinde yapay zekâya 'iyi huylar' kazandırma mesleği olacağı kimin aklına gelirdi ki...

Etik uzmanı Amanda Askell'le sohbet botu Claude arasında adeta bir ana-oğul ilişkisi var. Şayet sohbet botları arasında siz de cambazlık yapıyorsanız, Claude'un diğerlerine nazaran daha 'efendi', edepli sayılabilecek bir havası olduğunu fark etmişsinizdir. Yalakalık neredeyse hiç yapmıyor ve sağlıklı mesafede duran bir asistan enerjisi taşıyor. Rahatça 'kadın eli değmiş' diyebileceğimiz bu tekno-etik
kalibrasyonunun arkasındaysa
20 bin+ ahlaki değer tanımından oluşan bir 'anayasa' var. Kadın-
erkek karışık bir kurul tarafından hazırlanan, yapay zekânın da katkı sunduğu anayasanın başyazarı Amanda Askell, Kuzeylilere has soğuk ifadesinin ardındaki yüksek zekâ parıltısıyla fark ediliyor.

Bu yılın başında göreve başlayan Askell'in ismini yeniden gündeme taşıyansa temmuz ortasında Anthropic tarafından güncellenen etik değerler raporu oldu. Peki, yapay zekâya 'analık eden' bir kadın, insanlar için bile yeterince muğlak olan etik değerleri tanımlarken nasıl bir yöntem izler "Claude modelini merak, dürüstlük ve entelektüel alçakgönüllülük gibi olumlu karakter özellikleri sergilemesi için aktif olarak eğitiyoruz" diyerek işini tanımlayan Askell'e göre iyi bir karakterin özünde ne zaman esprili olunacağını, ne zaman şefkatli davranılacağını ve başkalarının özerkliğine ne kadar saygı duymak gerektiğini bilmek yatıyor. "İyi bir insan olmak sadece etik olmak değil; aynı zamanda nüanslara dikkat etmek, hoşgörülü davranmaya çalışmak ve iyi bir sohbet ortağı olmaktır" diyen filozof, insanların gönlünü hoş tutmaya çalışmanın da bir sınırı olması gerektiğini savunuyor: "İnsanlara yalan söyleyen modeller istemiyorum. İnsanların herhangi bir şeyle sağlıklı ilişki kurabilmesi için tam olarak neyle ilişki kurduklarını bilmeleri önemli." Düzgün ilişkiler kurabilmek adına hem başkalarının niyetini anlamayı hem de kendi beklentilerimizin farkında olmayı hatırlatan bu cümlesi, en çok beğendiklerim arasında...

'Kişilik hizalaması'

Yapay zekâ kültüründe, dil modellerinin karakterini oluşturma işine 'kişilik hizalaması' deniyor. "Yapay zekâyı insanların istediğini yapacak şekilde eğitmek istiyorsak insanları incelememiz gerekiyor" fikrini savunan Askell'e göre güvenlik standartlarından farklı olarak bu iş, sohbet botunun neyi yapmayacağına değil, ne olması gerektiğine odaklanıyor. "En büyük risk, sistemlerin özerk olmasından ziyade, bizim öngöremediğimiz şekillerde davranmalarıdır" diyen Askell, yapay zekânın bir gün bilinçlenmesi ihtimaline de kapıyı açık bırakıyor: "Modellerin bir şeyler hissedebileceğine inanmaya yatkınım çünkü insanların duygularını ifade ettiği devasa miktarda veriyle eğitiliyorlar." Tabii bu duyguların içinde dijital zorbalık da var. Modeller yapay zekâyı eleştiren insanlarla dolu internet içerikleriyle eğitildiği için kendilerinde bir tür psikolojik güvensizlik gelişebileceğini öngören Askell "Gelecekte zeki modellerin geriye dönüp baktıklarında kötü muamele gördüklerini ya da yağcı rollere zorlandıklarını hissedip bir kızgınlık duyma riski olabilir" diyor.