Yapay zeka hakkında her gün yeni bir mucize duyuyoruz: İnsan gibi yazıyor, şarkı söylüyor, resim yapıyor. Derken bir gün biri çıkıp "AI şimdi artık pazarlık da ediyor" diyor. Ve tam bu noktada durup düşünmek gerekiyor!

Çünkü yapay zekanın gerçeklerini abartılı hayallerden ayırmak her geçen gün daha da zorlaşıyor. Bu yüzden bazı araştırmacılar bir "AI Hype Endeksi" bile hazırlamış durumda. Olay şu: Ne kadar havalı görünürse görünsün, hala pek çok AI sistemi tam anlamıyla güvenilir değil. Özellikle de yeni gözdemiz olan "AI ajanları" konusunda işler biraz karışık.

Yapay zeka ajanları şu anda sektörün gözbebeği.

Ama nedir bu "ajan" dedikleri Daha önce yazdım ama tekrar hatırlatayım

Yapay zeka ajanları, sadece soruya cevap vermekle yetinmeyen, bir hedef doğrultusunda kendi başına karar alıp işlem yürütebilen yazılımlar. Bir nevi "karar motoru" diyebiliriz.

Yani çocuğunuz "Bana yeni bir oyun öner" dediğinde sadece liste sunmaz, o anki ruh halini, hava durumunu ve daha önce oynanan oyunları analiz edip öneri üretir.

Ancak burada sorun şu: Ne kadar bağımsız hareket edebilirlerse, o kadar öngörülemez de olabilirler. İşte tam bu yüzden, yapay zekanın en önemli isimlerinden biri olan Yoshua Bengio, bu sistemlerin güvenliği için alarma geçmiş durumda.

Yoshua Bengio, derin öğrenmenin üç kurucusundan biri olarak kabul edilen ve 2018'de "Yapay Zekanın Nobel'i" sayılan Turing Ödülü'nü alan bir bilim insanı. Montreal Üniversitesi'nde profesör, Mila AI Enstitüsü'nün kurucusu ve OpenAI gibi şirketlerin teknolojik gidişatını etik açıdan sorgulayan en güçlü akademik seslerden biri.

Şimdilerde, "yapay zeka ajanlarının ne söylediği kadar, ne ima ettiği de tehlikeli olabilir" diyerek yeni bir sivil oluşum kuruyor.

Bu sistemlerin yanıltıcı, manipülatif ya da kontrol dışı davranışlar sergilemesi halinde doğabilecek sosyal riskleri araştırıyor.

"YA BU OYUNCAK ÇOK AKILLIYSA"

Peki ya bu "ajanlar" çocuk oyuncaklarına entegre edilirse

İşte burada devreye giriyor OpenAI ve Mattel'in ortaklığı. Bildiğimiz Barbie'nin üreticisi Mattel, "çağa ayak uydurmak" adına OpenAI ile el sıkıştı. Amaç: "Yaşlara uygun, güvenli ve yaratıcı yapay zeka oyuncaklar geliştirmek."

Şu anlık kulağa hoş geliyor. Ama bir durup düşünelim: Bu oyuncaklar, çocuğun sorularına göre cevap mı verecek Yoksa cevabın arkasındaki amacı da mı analiz edecek Ve daha da önemlisi, bu ajanlar pazarlık edebilecek mi Belki bir gün: "Anne, bu oyuncağı çok sevdim. Ve Barbie de 'sen buna sahip olmalısın' dedi zaten. O yüzden almazsan özgüvenim zedelenebilir"

Evet, şaka gibi ama gerçeğe dönüştürülmeye çalışılan bir dünyadayız. Yapay zeka ajanları, ne söylediği kadar ne zaman sustuğu ile de gündem olacak.

AJANLAR GELDİ, PİLLER BİTTİ

Yapay zekanın oyuncaklara entegre edilmesi fikri yeni değil. Ama bu kez konu bir adım öteye geçti. Artık sadece konuşan bebekler değil; analiz eden, öneride bulunan ve bazen ikna etmeye çalışan oyuncaklar geliştiriliyor.

İşin ucunda çocukların gelişimi var ama aynı zamanda veri güvenliği, yönlendirme, tüketim alışkanlıkları ve bağımlılık riskleri gibi dev sorular da bizi bekliyor.

Ve evet, sektör "şimdilik" pozitif konuşuyor. Ama Bengio gibiler, bu pozitifliğin ne kadarının haklı ne kadarının "hype" olduğunu sormamızı istiyor.

Oyuncağın pili bitebilir, ama onun söyledikleri uzun süre zihnimizde dönmeye devam edebilir.

Eskiden YouTube'a girip kedi videoları izleyen bizler, şimdi aynı platformdan haber alıyor, podcast dinliyoruz. Evet, YouTube artık sadece "zaman öldürmelik" değil bir medya imparatorluğu.

2025 itibarıyla 2,5 milyar kişi her ay YouTube'a giriyor. Bu neredeyse "girenin çıkanın belli olmadığı" bir metaverse. Üstelik sadece Z kuşağı değil, 50 yaş üstü kullanıcı oranı patladı. Artık YouTube, "Google'da virüs bulaşır" sanan amcaların da ev favorisi.