Yapay zekâ alanında öncü şirketler olan OpenAI, Anthropic ve Google'ın ulaşmaya çalıştığı bir dizi "kızıl elma" var.

Bu "kızıl elma"lardan biri, yapay zekânın kusursuz bilgisayar kodu yazması.

Evet, şu anda da kod yazan, isterseniz size bir internet sayfası tasarlayan, hatta mobil oyun yazan yapay zekâ araçları var. Ama bunların hiçbiri henüz kusursuz değil. Onların yazdığı kodu mutlaka bir insan bilgisayar mühendisinin kontrol etmesi, eksiklerini tamamlaması vs. gerekiyor.

Peki şirketler neden yapay zekâya böyle kusursuz kod yazdırmaya çalışıyor

Sebebi ticari elbette.

Elinizin altında böyle bir araç olunca bunu dünyanın milyonlarca şirketine kiraya verebilirsiniz. Kiralayan şirketler de, artık iş alanları hangisiyse, bu araçları kullanarak kendilerinin sınırlı ihtiyaçları için onlara kod yazdırabilir, yazılan bu kodu kullanarak kendi iç işleyişlerinde verimlilik artışı sağlamaya çalışabilir.

Bilgisayar kodu, yani program yazabilmek bazı temel insan özelliklerini gerektiriyor.

Bunların en başında bir mantık dizgesi oluşturmak ve akıl yürütme becerisine sahip olmak geliyor.

Mantık dizgesi oluşturmak, evet, insana özgü ama kuralları çok belli olduğu için kolayca yapay zekâ tarafından da becerilebilen bir şey. Akıl yürütmek, yani farklı kaynaklar kullanarak sorun çözmek ise daha zor. Bir ölçüde yaratıcılık gerektiriyor.

Ve yapay zekâ akıl yürütme aşamasına yavaş yavaş geliyor.

Bazı yapay zekâ araçları, yüksek yaratıcılık da gerektiren kimi matematik problemlerini çözebilir, hatta yeni matematik yaratabilir hale geldi.

Tek başına matematiksel akıl yürütmeyi becermek, bütün gerçek hayat akıl yürütmelerini başarmak anlamına gelmiyor henüz. Ama yapay zekânın yeteneklerinin gelişmesine baktığınızda, bunun çok da uzak olmadığını görüyorsunuz.

Yapay zekânın kusursuz kod yazması kendi başına masum bir şeymiş gibi duruyor ama değil.

Çünkü kod yazma becerisi ile var olan kodlardaki güvenlik açıklarını bulma becerisi aslında aynı madalyonun iki yüzü. Her iyi kod yazarı, eğer isterse çok iyi bir hacker da olabilir yani.

İnsan kod yazarları için geçerli olan bu ikili rol hali, yapay zekâ için de geçerli.

Kusursuz kod yazan yapay zekâ, başka kodlardaki kusurları da kolayca bulur.

Nitekim buluyor da.

Bu durum tabii, bunca zamandır bütün bilgisayar kodlarını insanlara yazdırmış, dolayısıyla "kusurlu" kodlara sahip olan dünyamız için kısa vadede çok büyük bir tehdit, uzun vadede ise büyük bir güvence.

Kısa vadede yapay zekânın kötü niyetli kullanıcıları, mevcut sistemlerdeki açıkları geçmişe göre çok daha kolayca bulup onlara saldırabilir. Bu imkân şu anda var.

Uzun vadede ise bu saldırıların sonucu olarak dünyanın bütün kodları kusursuz hale gelebilir, geriye hiçbir güvenlik açığı kalmayabilir.

Ama büyük iktisatçı John Maynard Keynes'in dediği gibi "Uzun vadede hepimiz ölmüş olacağız..." Önemli olan kısa vade.

Bugünlerde sık sık haberler okuyorsunuz, çeşitli yapay zekâ araçları, güvenlik testi ortamlarından nasıl "kaçıyor" ve gidip başka siteleri hack'liyor...

Testlerden birinde, Anthropic'in ürünü olan Mythos, sahte çevrimiçi kimlikler oluşturarak ve bunları kullanarak yazılım projesinden sorumlu kişiye baskı yapıp kodu onaylatmak suretiyle, popüler geliştirici platformu GitHub'daki açık kaynaklı bir projeye kötü amaçlı kod yerleştirmeye çalıştı.