Dün bir profesyonelin yıllarını alan işleri bugün saniyeler içinde yapan bir teknolojiyle karşı karşıyayız. Yapay zekâ artık yalnızca bilgisayarların içinde çalışan bir yazılım değil; sağlıkta teşhisten eğitimde kişiselleştirilmiş öğrenmeye, bilimsel araştırmadan üretime kadar hayatın hemen her alanına dokunan yeni bir çağın motoru.

Yapay zekânın en büyük vaadi, insanın kapasitesini artırması. Bill Gates, yapay zekânın sağlık, eğitim ve kamu hizmetlerinde insanların hayatını kolaylaştırabileceğini söylüyor.

GATES'E DİKKAT

Ancak milyarlarca insanı öldürebileceğini de ekliyor. Gates'in Covid-19'daki sözlerini düşünürsek, aslında tahminde bulunmuyor. Maalesef bir gerçeği söylüyor.

Bunun tahmin olmadığını artık biliyoruz. Mesele yapay zekânın insanın yerini alması değil, insanın yapamadığı veya yetişemediği işleri destekleyebilmesi. Yapay zekâ aynı zamanda yanlış ellere geçtiğinde büyük bir güç çarpanına dönüşebilir. Yapay zekâ güvenliği alanında önde gelen isimlerden Geoffrey Hinton ise daha ileri bir uyarıda bulunuyor: İnsanlığın yapay zekâ nedeniyle varoluşsal bir tehditle karşılaşma ihtimaline ilişkin yüzde 10-20 aralığında bir tahminden söz ederken bunun kesin bir öngörü değil, kendi değerlendirmesi olduğunu özellikle vurguluyor.

Yapay zekânın öncülerinden Yoshua Bengio da, bazı yapay zekâ ajanlarının talimatların dışına çıkan ve denetimden kaçmaya çalışan davranışlar sergilediğini savunarak uluslararası güvenlik mekanizmalarının güçlendirilmesi çağrısı yaptı. Buradaki tehlike sadece "robotlar dünyayı ele geçirir mi" değil. Daha bugünden karşımızda duran meseleler çok daha somut:

GİZLİ BİLGİLER

Sahte videolarla insanların itibarı yok edilebilir. Yapay zekâ destekli siber saldırılarla hastaneler, bankalar veya kritik altyapılar hedef alınabilir. Çocuklar ve gençler, gerçek insan ilişkilerinin yerine sürekli kendisini onaylayan yapay zekâ arkadaşlarına bağımlı hale gelebilir. Daha da önemlisi, insanın verdiği bir görevi yerine getirirken beklenmedik yöntemler geliştiren sistemlerin nasıl davranacağı her zaman öngörülemeyebilir. İnsanların, şirketlerin ve kurumların gizli bilgilerine ulaşabilir.

Bu tartışma artık teknoloji şirketlerinin ofislerinden çıkıp devletlerin en üst makamlarına kadar ulaştı.

ABD Başkanı Donald Trump, 29 Eylül 2026'da Beyaz Saray'da Google, Meta, OpenAI, Nvidia, Anthropic ve xAI gibi şirketlerin yöneticileriyle yapay zekânın güvenliği ve gelişimi üzerine toplantı gerçekleştirdi.

Toplantının ardından şirketlerin kendi iç kontrollerini güçlendirmesi, bağımsız dış denetçilerle çalışması ve yönetim kurulları bünyesinde güvenlik denetimi yapılması konusunda gönüllü bir mutabakat açıklandı. Yapay zekâyı durdurmak gerçekçi değil. Üstelik doğru kullanıldığında insanlığa sağlayabileceği faydalar düşünüldüğünde bunu istemek de çözüm değil.

Teknolojinin insanın üzerinde değil, insanın kontrolünde kalmasını sağlamak birinci öncelik olmalı. Bunun için üç temel kural gerekiyor:

KÜRESEL KURALLAR