Biz hâlâ beynimizin nasıl çalıştığını tam olarak bilemiyoruz. Hatıralarımız nedir ve nerede saklanır Yediğimiz bir yemekten aldığımız tad ve koku nasıl olur da bizi bir anda çocukluğumuza veya geçmişte yaşadığımız bir olaya geri götürür, bunun mekanizmasını da bilmiyoruz.

Sadece hatıralar değil, beynimiz nasıl karar alır onu da bilmiyoruz. 'Zor problem' diye tanımlanan bilincimiz ya da benliğimiz hakkında da çok az bilgiye sahibiz. Bilincin doğasına ilişkin tüm heyecan verici yeni araştırmalara rağmen, hâlâ neden ve nasıl var olduğu hakkında hiçbir fikre sahip değiliz. Onu çevreleyen sorular ihtilaf, anlaşmazlık ve uyumsuzlukla çınlıyor: Nasıl bilinçliyiz Kökenleri nelerdir Bilinç tam olarak nedir Veya maddenin parçacıklarında bilinç varsa, insan gibi büyük bilinçli varlıklar üretmek için bu parçacıklar nasıl birleşmektedir

Filozof Donald D. Hoffman'ın dediği gibi: "Akıldan yoksun madde, enerji veya alanların nasıl bilinçli yaşantıya sebep olduklarını ya da teşkil edebildiklerini açıklayan bir teori henüz yok. Önerilerin hiç biri de bilimsel teori olmanın yanına bile yaklaşamıyor."

Kısacası insan beynini ve bilincini bilmeden, yapay zekâya bilinç kazandırılamaz.

Bilinçli bir insan, ne düşündüğünün farkındadır ve bir şeyi düşünmeyi bırakıp, başka bir şeyi düşünmeye başlayabilir; düşünce zincirinin başında nerede olduğunun bir önemi yoktur. Fakat bir bilgisayarın bunu yapması imkânsızdır. 80 yıldan fazla süre önce, önde gelen bilgisayar bilimcisi Alan Turing; herhangi bir bilgisayar programının kendi başına durmasını sağlamanın hiçbir yolu olmadığını göstermişti. Üstelik bu kabiliyet, bilincin temel bir özelliğidir.

Yapay zekânın bilinç kazanamayacağını söyleyen bir başka filozof Daniel Dreyfus'tur. Dreyfus, insan davranışının türlü yaşantı ve deneyimlerle edinilmiş türlü bilgilerin sağduyuya dayalı bir birleşimi olduğu, insanların ancak dünyanın içinde var olarak dünyayı anlamlandırdığını, dolayısıyla belli kurallarla bir zihin yaratılamayacağını düşünerek fenomenolojik öznenin zihinsel temsillerinin çeşitliliğine dikkati çekmiştir. İnsan zihninin yapısı bir şekilde biçimsel formüllere indirgense dahi insanın yaşam boyu kazandığı becerilerin sayısal verilere indirgenmesi imkânsız olacaktır. Bilinci oluşturan en önemli özellik fenomenal deneyimlerdir. Vücudumuza ve dış dünyaya ait duyumlarımız veya duygularımız öznel deneyimlerdir. Öznel deneyimler, öznel deneyimi deneyimleyen özne için o özne gibi olmaktır.

Ayrıca bilim kurgu filmlerinde olduğu gibi bilgisayarların kendini geliştirerek insanlığın başına dert olmaları ihtimal dışıdır; çünkü kendilerine program olarak verilen temel bilgileri geliştirmeleri, programın dışına çıkmaları imkânsızdır. O bilgileri de zaten insan beyni üretmiş olduğundan ve insan kendisinden daha mükemmel (veya karmaşık) bir sistemi üretemeyeceğinden, bilgisayarlar insanlardan daha basit yapıda olmak zorundadır.

Hâlbuki beyin programları önceden tespit edilmiş ve değişmez değildir. İnsan beyninin kıstasları ve değer yargıları değişebilmektedir. Her an farklı harici (dış) şartlara adapte olmaktadır.