Yapay zekânın melek mi yoksa öcü mü olduğu yönündeki tartışmalar bitmek bilmiyor. Kimi ülkeler sınırlama getiriyor, kimileri de ilk ve ortaokullarda kesinlikle yasaklıyor. Tartışmaya son olarak Birleşmiş Milletler Çocuklara Yardım Fonu UNICEF de katıldı.

Yapay zekânın artan bir şekilde hayatımıza girdiğine ve artıları kadar eksileri de olduğuna dikkat çeken UNICEF, bu konuda tüm ülkelerin birlikte hareket etmesini, yoksa yüksek risklerle karşılaşılabilineceğine vurgu yapıyor!

İsterseniz gelin önce UNICEF'in verilerine bir göz atalım; sonra da "eyvah eyvah" mı diyeceğiz yoksa tedirginliğin bu kadarı da abartılı deyip bu yöndeki gelişmeleri alkışlayanlar kervanına mı katılacağız, hep birlikte karar verelim.

Riskler ve dijital eşitsizlikler

■ UNICEF'in 10 ülkeden elde edilen yeni verilere dayanan analizine göre, en az 20 milyon çocuğun yapay zekâ kullandığı tahmin ediliyor.

■ Çocukların bu teknolojiyi benimseme hızı, yetişkinlerin benimseme hızının üç katından daha fazla.

■ 2 milyondan fazla çocuk –yani her 10 çocuktan biri– kendilerini endişelendiren konularda tavsiye almak için yapay zekâya başvurduğunu belirtirken yaklaşık 13 milyon çocuk öğrenme ve ödevlerini desteklemek için yapay zekâ kullandığını ifade etti.

■ Çocukların yapay zekâ kullanımı hızla artarken çocukların korunması da dâhil olmak üzere bu teknolojinin kullanımını düzenleyen kurallar bu gelişmelere ayak uydurmakta zorlanıyor.

■ Çocuklar; yapay zekâ sistemlerinin nasıl tasarlandığı, arkasındaki iş modelleri ve kendi verilerinin nasıl kullanıldığı gibi konularda bu sistemlere daha fazla maruz kalıyor. Ancak bu sistemlerden kaçınma veya sorgulama konusunda çok daha sınırlı bir güce sahipler.

■ Zayıf yönetişim düzenlemelerinin etkilerini ilk hissedenler ve sonuçlarıyla en uzun süre yaşayacak olanlar çocuklar olacaktır.

■ Yapay zekânın çocuklara öğrenme, oyun oynama veya yaratıcılıklarını geliştirme alanlarında fırsatlar sunma potansiyeli bulunuyor. Ancak yapay zekânın bilişsel gelişim, duygusal bağımlılık ve zarara maruz kalma üzerindeki etkilerine ilişkin kanıtlar henüz yeni ortaya çıkıyor. Aslında bir nesil, küresel ölçekte devam eden bir deneyimin içinde büyüyor.

■ Çocukların kendileri de risklerin farkında. 10 ülkede çocukların üçte biri, yapay zekânın dolandırıcılık, başkalarını kandırma veya yanlış bilginin yayılması amacıyla kullanılmasından endişe duyduğunu belirtti.

■ Her dört çocuktan biri ise görüntü veya videolarının cinsel içerikli deepfake –gerçek gibi görünmesi için Yapay Zekâ (AI) kullanılarak üretilen veya manipüle edilen görüntü, video ya da ses içerikleri– içeriklere dönüştürülmesinden korktuğunu ifade etti.

■ Çok sayıda yapay zekâ sistemi çocuklara yeterli koruma mekanizmaları olmadan ulaşıyor; güvenlik ise çoğu zaman en son düşünülen unsur oluyor.

■ UNICEF, ilk Yapay Zekâ Yönetişimi Üzerine Küresel Diyalogu öncesinde hükümetleri, özel sektörü ve paydaşları; özellikle güvenlik ve korunma hakkı başta olmak üzere çocuk haklarının küresel yapay zekâ yönetişimi süreçlerine dâhil edilmesi konusunda şu adımları atmaya çağırıyor: