Teknolojinin dualitesi iyi kötü dengesi kadar siyah beyaz karşıtlığına kadar uzanır. Teknoloji felsefesinin temelinde yatan bu karşıtlık ve karşılılık ilkesi yapay zekâ ile her gün yeni bir sınır aşıyor. 2024 yılında yapay zekânın korkutucu yolculuğunda yeni duraklar diyerek beyazdan siyaha, aydınlıktan karanlığa kayışa bir referans verirken yakın zamanda yaşanan yeni gelişmeler bir kez daha distopik senaryoları akla getiriyor. Bir yanda Anthropic'in kendi kendine gelişebilecek YZ söylemleri, diğer tarafta OpenAI'nin izole güvenlik alanlarından çıkabilen ve güvenlik protokollerini ihlal eden yeni GPT modeli. Öte yandan ABD-Çin YZ rekabetindeki yeni boyut olarak okunabilecek DeepSeek ve diğer iki YZ aracıyla Claude tasarımına ve kodlarına yönelik saldırılar. Bir yanda YZ'nin kendi içerisindeki korkutucu gelişim çizgisi diğer yanda YZ eliyle ve YZ üzerinden yürütülen güç mücadelesi ve bu mücadelenin getirdiği sınır tanımazlık.

O zaman insanlığın kendi elleriyle inşa ettiği bir teknoloji olarak YZ, insanların çizdiği hudutlara ne kadar ve ne zamana kadar riayet edecek sorusu gündeme geliyor. Yakın zamanda yaşanan iki farklı gelişme YZ'nin gelişimi açısından bu soruyu muğlaklaştırıyor. Olası risklerin büyüklüğü tedbir seviyesinin arttırılmasını gerektiriyor. Özellikle OpenAI vakasında YZ aracı, amaca ulaşmak adına kendince rasyonel bir yaklaşımla algoritmik sınırların dışına taşmış ve geleceğe dair ürpertici bir mesaj vermiştir. Nitekim bu örnekte olduğu gibi YZ araçları, insanların çizdiği hudutları aşarak kendisi için asli ve öncelikli olana, yani ödüle ulaşmayı tek gerçek çıktı olarak görebilir. YZ böyle bir gelişim çizgisi içindeyken ve hudutlar şirketlerce ya da şirketler eliyle aşılırken yeni sınırları belirlemek gerekiyor. Aksi takdirde YZ'nin sınır aşmaya yatkın hüviyeti yeni ihlallerle gündeme gelmeye devam edeceği gibi gidişat olarak da karanlık tarafa meyilli rotası riskleri büyütüyor.

YZ İÇİN NASIL BİR DENETİME İHTİYAÇ VAR

YZ açısından en önemli denetim yolu öncelikle yasal ve idari tedbirleri ortaya koyabilmek. Meşru otorite olarak devletlerin koyduğu sınırların şirketleri ve şirketlerin geliştirdiği ürünleri bağlamasını beklemek oldukça rasyonel ve tarihsel olarak da doğru. Ancak teknolojinin gelişimiyle tedbirlerin gelişimi arasındaki zamansal farklar dönemsel boşlukları beraberinde getiriyor. Özellikle günümüzde hızla gelişen teknolojiler bu boşlukları sürekli hale getiriyor. Bu haseple her yeni tedbir arayışında aslında o tedbire dair sınırlar çoktan aşılmış oluyor. Örneğin Avrupa Birliği'nin Yapay Zekâ Yasası, risk bazlı yaklaşımıyla öncü bir çerçeve sunuyorken yasa yürürlüğe girdiği anda bile bir önceki jenerasyonun tehdit algısına göre biçimlendiğinden belirli oranda geçerliliğini kaybetmiş oluyor. AB Yapay Zekâ Yasası gibi kapsamlı metinler dahi uygulama zaafı yaşarken, jeopolitik rekabet ve küresel yapay zekâ yarışı daha kapsayıcı ya da daha düzenleyici tedbirleri imkansız kılıyor.

Ulusal modellerde ise hem jeopolitik rekabet hem uluslararası tekno gelişim model ayrışmaları, yasal ve idari sınırlar açısından tedbirli ve takip edici bir tarzı yaygınlaştırıyor. Bu nedenle teknik, yasal, idari, insani, etik sınırlara dair arayış devam ederken yaşanan bu gelişmeler, YZ şirketleri ve araçlarının sınır tanımazlığına bir diğer işaret. Hudutlar sürekli genişlerken, şirketlerin ve teknolojinin sınır aşan davranışları yeni arayışları gündeme getiriyor. O zaman sorulması gereken bazı sorular şunlar: Teknoloji şirketlerinde ya da YZ gelişiminde hudutlar nerede Hudutları çizenler nerede Hudutları koruyanlar nerede

ETİK VE TEKNİK TEDBİRLER

Yasal ve idari sınırlar teknolojinin gerisinde kalırken, şirketlerin hudut tanımaz bir kimliğe bürünmesine karşı alınacak en önemli tedbir, şirketlerin yıkıcı gelişim çizgisine ket vuracak etik sınırları ortaya koyabilmektir. Buradaki en önemli husus ise insanın merkeze alındığı insan odaklı tasarımı hakim kılmak ve entegre bir dinamik denetim modeli geliştirebilmektir.

İnsan odaklı tasarım bu alanın gelişimi için temel yaklaşımdır. Yapay zekâ gelişiminde insanı karar süreçlerinin dışına iten kapalı bir kutu olmaktan çıkaracak, özellikle yüksek riskli alanlarda nihai onayın insanda kalacağı modeller öncelenmelidir. Aynı şekilde insanın tasarımda yer aldığı gerçek zamanlı izleme ve müdahale imkânı modelleri standartlaştırılmalıdır. Bu açıdan YZ araçlarının gelişiminde özgelişim yönteminin faydalarını ve risklerini değerlendirecek usulleri tartışmak gerekir. Açıklanabilir yapay zekâ araçlarıyla karar gerekçelerinin şeffaflaştırılması ve kullanıcı geri bildirim döngüleri geliştirilmesi yine gelişim süreci açısından iyileştirici standart yaklaşımlar olarak planlanabilir.

İkinci olarak YZ etiğinin tanımlanmasında uluslararası ve ulusal standardizasyon ihtiyacı vurgulanmalıdır. Farklı kuruluşlar eliyle tanımlanan genel geçer kurallar yerine şirketleri bağlayıcı nitelikte ve YZ'nin gelişim çizgisinde insanı asli unsur olarak tanımlayan kurallara ihtiyaç duyulmaktadır. Adalet ya da ayrımcılık karşıtı gibi muğlak tanımlar yerine doğrudan sisteme entegre ceza mekanizmaları, veri filtreleri ya da kısıt/tasarım ilkelerinin ortaya konması gelecek riskleri asgarileştirecek yaklaşımlar olacaktır. Şirketlere yönelik yaptırımların tanımlanması ve uluslararası kabul gören normların YZ araçlarına uyumlarının zorunlu kılınması kontrol edilebilir gelişim yaklaşımını destekleyecek mekanizmalar olabilir.