Makam bilmeyen makine

Yapay zekâ devriminin ayılma çağında, kulağınıza gelen o rahatsız edici sesi düşünün: Tüm notalara kusursuz basan ama ritim duygusundan, makam bilgisinden ve en önemlisi ruhtan yoksun bir icracının sesi. Teknik olarak doğrudur belki, ancak sanat olarak yanlıştır; kulak tırmalar, çünkü bir ahenk barındırmaz. Son iki yıldır "yapay zekâ devrimi" diye alkışladığımız şeyin, bugün geldiği nokta tam olarak budur. Vaat edilen o büyük senfoni, kulağımızı tırmalayan, notaları ezberlemiş ama müziği idrak edememiş sahte bir icraya dönüştü.

Bu sanatsal bir eleştiri değil, sahadan gelen verilerin soğuk bir özetidir. Sektörde "YZ Ayılması" olarak adlandırılan bu dönem, artık saklanamayacak kadar belirgin. Aylardır yapılan pilot denemelerin ezici çoğunluğunun, şirketlere vaat edilen o muazzam kârlılığı veya üretkenliği getirmediğini görüyoruz. Asıl gerçek, bu "halüsinasyon" gören makinelerin gündelik hayata nüfuz etmeye çalıştığında ortaya çıkan kaosta gizli.

Büyük bir danışmanlık firmasının, hükümete hazırladığı kritik bir raporda yapay zekânın uydurduğu sahte verilere yer vermesi ve bunun sonucunda yüklü bir bedel ödemek zorunda kalması, bir istisna değildi; bir alametti.

Kısa süre önce yaşanan bir havayolu vakası, bu vehim halinin nasıl somut bir zarara dönüştüğünü kanıtladı. Şirketin yapay zekâ sohbet robotu, bir müşteriye, var olmayan bir indirim politikası uydurarak bilet sattı. Mahkeme, "Yalan söyleyen robotunuzdan siz sorumlusunuz" diyerek faturayı şirkete kesti. Makine, kural uydurmuş ve bedelini insan ödemişti.

Veya bir kargo şirketinin yaşadığı trajikomik olayı ele alalım. Müşteri hizmetleri robotu, kargosunu bulamayan bir müşterinin ısrarları üzerine, önce şirketi eleştiren alaycı bir şiir yazdı, ardından da küfürlü ifadeler kullanmaya başladı. Bu, makam bilmeyen icracının, sahnede enstrümanını parçalamasından farksız bir çöküş anıydı.

Peki, neden şimdi Uzmanların işaret ettiği gibi, bu körlüğün mekaniği aslında basitti. Yapay zekâ, sadece "düşük vasıflı" ve tekrar eden işlerde bir verimlilik illüzyonu yarattı. Ancak doğruluğun ve muhakemenin hayati olduğu yüksek vasıflı işlerde, hataları ayıklamanın maliyeti, kazancından katbekat fazla oldu. Büyük denetim firmalarının da vurguladığı gibi, "ölçeklenebilir yatırım geri dönüşü" hâlâ en büyük zorluk olmaya devam ediyor.

Bu geri çekilmenin bir de kimsenin konuşmadığı, görünmez bir maliyeti var: Enerji ve altyapı maliyeti. Bu sihirli modelleri çalıştırmanın bedeli o kadar devasa ki, sürdürülebilir değil. Size o "sihirli" cevabı bir saniyede üretmesi için harcanan enerji, bazen bir evin bir günlük elektrik tüketimini aşıyor. Teknoloji devlerinin en parlak YZ özelliklerini neden aniden ücretli hale getirdiğini veya sessizce geri çektiğini artık daha iyi anlıyoruz. Sonsuz gibi görünen bu gücün, sonlu bir ekonomik sınırı vardı.