İnsanlık tuhaf bir hazırlık içinde, kendi yarattığı yapay zekâya ahlak öğretmeye çalışıyor. Savaşları durduramayan, hakikati çıkarlarına göre eğip büken insan, şimdi karşısına aldığı makineye iyiliğin ne olduğunu anlatacak. Peki, hangi insan Kendi çocuğunun güvenliği için dünyayı ayağa kaldırırken başka çocukların ölümünü stratejik hesapların içinde değerlendiren insan mı Adaleti savunup sıra kendi yakınına geldiğinde ayrıcalık isteyen insan mı Yalanı kınarken işine yarayan yalanı paylaşan insan mı

Geçenlerde "Claude'u geliştiren Anthropic, 15'ten fazla dinî ve kültürlerarası gruptan uzmanlarla yapay zekânın ahlaki oluşumu üzerine görüşmeler yürütüyor" haberini gördüm. Ve sordum kendime: Din insanlarının, filozofların ve etikçilerin birikiminden yararlanmayı amaçlayan bu girişim, bir yapay zekânın değerlerini belirleme yetkisi kimde olacak Katılımcıları kim seçiyor Görüşler çatıştığında hangisi üstün geliyor Şirketin çıkarlarıyla insanlığın yararı karşı karşıya geldiğinde son sözü kim söylüyor

Çünkü ahlakın en zor sınavı, çıkarla karşılaştığı yerde başlıyor.

Aristoteles'e göre erdem, doğru davranışların alışkanlık hâline gelmesiyle gelişir. İnsan, adalet üzerine konuştuğu için adil olmaz; adil davranarak adaleti karakterine yerleştirir. Üstelik davranışın doğru görünmesi yetmez; bilinçli bir seçimden ve yerleşmiş bir karakterden doğması gerekir. Buradan bugüne baktığımızda rahatsız edici başka bir soru beliriyor: Yapay zekâ bizim söylediklerimizden mi, yaptıklarımızdan mı ahlak öğrenecek

Ona dürüstlüğü anlatırken kamusal hayatı manipülasyonla doldurmuyor muyuz Eşitliği öğütlerken fırsatları servete ve yakınlığa göre dağıtmıyor muyuz Merhametten söz ederken başkasının acısını izlenme sayısına dönüştürmüyor muyuz Sonra bir de çıkıp bu dünyanın metinleriyle eğitilen sistemlerin neden önyargılı olabildiğini soruyoruz!

Diğer taraftan Kant'ın ahlak anlayışı bizi kendi istisnalarımızla yüzleştirdiğinde, davranışımızın dayandığı ilkenin herkes için geçerli olmasını isteyebilir miyiz Başkasını kendi hedeflerimizin yalnızca aracı olarak mı görüyoruz, yoksa onun başlı başına bir değer olduğunu kabul ediyor muyuz Herkes ahlakı dilinden düşürmezken işine geldiğinde yalan söylese güven nasıl ayakta kalır Herkes kardeşlikten söz ederken kendi tarafının şiddetine gerekçe bulsa barışın anlamı ne olur

Ahlaki çelişkilerimizin önemli bir bölümü, kendimiz için istisna istememizden doğmuyor mu Kural başkasına uygulanınca düzen, bize uygulanınca haksızlık olmuyor mu Bizim kaybımız trajedi de, başkasının kaybı istatistik sayılmıyor mu

Böyle bir insanlığın makineye "İnsani değerlerle uyumlu ol" demesi yeterli midir Hangi değerlerimizle İlan ettiklerimizle mi, uyguladıklarımızla mı

Bence David Hume'un "olan" ile "olması gereken" arasında dikkat çektiği ayrım tam da burada önem kazanıyor. İnsanların nasıl davrandığını bilmek, nasıl davranmaları gerektiğini kendiliğinden göstermez. Bir ayrımcılığın yaygın olması onu haklı kılmaz; bir yalanın çok paylaşılması ona ahlaki değer kazandırmaz. Dolayısıyla insanlığın dijital arşivi, ahlakın hazır müfredatı sayılamaz.