Elon Musk'ın sahibi olduğu yapay zekâ şirketi xAI tarafından geliştirilen sohbet botu Grok'un başı yine dertte. Geçtiğimiz temmuz ayında dünya liderleri hakkındaki küfürlü ve ırkçı paylaşımları sebebiyle gündemdeydi, şimdi de "izinsiz, çıplak veya bikinili" görsel üretme ve düzenleme özelliği ile tartışma konusu. Endonezya, çocuk istismarı ve cinsel tacize yol açan bu özelliği sebebiyle Grok'u yasaklayan ilk ülke oldu, İngiltere ise X'i kapatmak için düğmeye bastı. Her ne kadar Grok, Türkiye'de "coğrafi kısıtlama" engeline takılmış, Musk'da yeni uygulamanın artık sadece ücretli abonelere açık olacağını duyurmuş olsa da yazılım açıkları yeni görsel üretmeye izin veriyor hâlâ. Önceki üretilen içerikler de kaldırılmış değil. Peki buna Musk'ın dediği gibi "özgürlük" denilebilir mi İzinsiz, müstehcen görsel üretmenin kanundaki yeri ne Sordum.

İNGİLTERE'DEN TEHDİT ENDONEZYA'DAN İLK ENGEL GELDİ

Çevrimiçi Güvenlik Yasası kapsamında erişim engelleme ve şirketlere, küresel cirosunun yüzde 10'u oranında cezai yaptırım talep edebilen İngiliz Medya- İletişim Denetleme Ofisi Ofcom, Grok ve X hakkında resmî inceleme başlattı. Teknoloji Bakanı Liz Kendall da X'in İngiliz yasalarına uymaması halinde hükümet olarak, engellenmesini destekleyeceklerini açıkladı ve "Kadınlar ve çocukların görüntülerinin cinsel amaçla manipüle edilmesi iğrenç ve kabul edilemez" dedi.

Tepkiler sonrası Grok, izinsiz, cinsel içerikli görsel düzenlemeye izin veren özelliğini "yalnızca ücretli kullanıcılar"a açtığını duyurdu. Ama bu hamle, "Grok'un yasa dışı içeriği engellemek yerine parayla sınırlandırdığı" gerekçesiyle tartışmaları durdurmadı. Üstelik bağımsız testler, Grok'un algoritmadaki açıklar sebebiyle ücretsiz kullanıcılar tarafından da hâlâ görsel üretebildiğini ortaya koydu.

Fransa ve Avrupa Birliği (AB) Komisyonu ise konu hakkında bir değerlendirme sürecinde olduklarını duyurdu.

Endonezya Grok'u engelleyen ilk ülke olurken, Malezya ve Hindistan da sorumluluğun X'te olduğu vurgusuyla, inceleme başlattı.

Türkiye'de ise bu uygulamaya, "yerel- coğrafi bir kısıtlama" uygulanıyor. Grok'a sorduğumda verdiği cevap şu: "Siyasi içerikler başta, kamu düzeni ve kişilik haklarıyla ilgili şikâyetler üzerine bu tür görseller engellendiği için üzgünüm örnek paylaşamıyorum."

Musk, tepkiler üzerine "Grok'u yasa dışı içerik üretiminde kullananlar, yasa dışı içerikleri yüklemiş gibi muamele görecektir" dese de X cephesi son gelişme ve iddialar hakkında sessiz.

ETİK VE AHLAK DIŞI UYGULAMALARIN YASAKLANMASINA 'SANSÜR' DENİLEMEZ

Siber Güvenlik Uzmanı, Osman Demircan, Musk'ın Twitter'ı X çevirdiği dönem, platformun tamamen özgürlüklere alan açacağı, buna cinsel içeriklerin de dahil olacağını söylediğini hatırlatarak diyor ki: "İpin ucunun kaçtığı nokta şu; bir yapay zekâyı, 'kontrol' dahilinde özgürleştiremezsiniz. Bir kodu, veriyi yüklediğinizde yapay zekâ ona yüklediğinizden fazlasını geliştirir. Zaten küfür skandalı da böyle patladı. Ki öncesinde de 'yetişkin içerik' kategorisinde olan birçok video, yaş sınırı olmadan, herkesin basit bir aramayla ulaşabileceği bir hale getirildi X'te. Bugün iş, kişilerin fotoğrafları 'izinsiz' kullanılarak cinsel içerikli, sahte görseller üretilmesine kadar vardı."

BUNUN NERESİ ŞAKA

"Bu içeriklerin çocuk pornografisinde kullanıldığı iddiaları var. Yanı sıra cinsel taciz, özellikle de ergenler arasında akran zorbalığının da önü açmakta. Gördüğüm sahte bir görselde; tekerlekli sandalyedeki engelli bir erkek çocuğa bikini giydirilip, ayağa kaldırılmış ve 'Eğer yürüyebilseydin böyle görünecektin'