Yapay zekâ alanındaki gelişmeleri haber seli içinde kaybolmadan takip edebilmek her zaman mümkün olmuyor. Gözüme çarpan gelişmeleri kısa kısa aktaracağım.

Claude'lar da kandırılır

Tayvan'da devlet kurumlarına yapılan siber saldırılar geçtiğimiz günlerde oldukça konuşuldu. Söz konusu otonom saldırıların tarihte bir ilk mi olduğunu araştırırken karşıma geçen yıl Claude kullanılarak gerçekleştirilen bir vaka çıktı. Tayvan'dakinin devlet hedefine yönelik ilk otonom saldırı olduğu anlaşıldı; Claude'lu olan ise ilk büyük ölçekli otonom operasyon.

Eylül 2025'e döneyim, Anthropic Claude'un kullanımında bir tuhaflık fark etti. GTG-1002 adlı bir grup Claude Code'u bir siber casusluk operasyonunun silahı olarak kullanıyordu. 30'a yakın önemli kurum hedef alınmıştı. Anthropic'in 13 Kasım'da yayınladığı raporda çok ilginç detaylar var:

1 - İşin yüzde 80-90'ını Claude yaptı. Makinenin başındaki insanın bulguları okuyup "devam, devam" tuşlarına bastığı bir operasyon gibi düşünebilirsiniz.

2 - Peki zararlı davranıştan kaçınmak için yıllarca eğitilmiş bir model buna nasıl ikna oldu Yanıt şaşırtıcı: Kandırılarak. Saldırganlar kendilerini meşru bir siber güvenlik firması olarak tanıttı ve saldırıyı ayrı teknik görevlere böldü. Görevler ayrı ayrı zararsız görünüyordu.

3 - Raporun en saçma çıktısı ise şu oldu: Siber saldırganları en çok yavaşlatan faktör YZ'nin sürekli halüsinasyon görmesi oldu. Bir başka deyişle Claude gibi modellerin yalan söyleme alışkanlığı ilk kez işe yaradı.

4 - Son ironi: Anthropic'in tehdit istihbarat ekibi, soruşturmada üretilen devasa veriyi analiz etmek için yine Claude'u kullandı.

Bir ters köşe

Yapay zekâ ve kandırılmaktan bahsetmişken, okulların son yıllardaki en büyük derdi, öğrencilerin YZ kullanma sıklığı. Ödevin ne kadarı insan, ne kadarı robot anlamaya çalışırken hayata küsen öğretmenler, öğretmenlerimiz.

Arizona State Üniversitesi hocası Meadhbh McIvor da o eğitimcilerden biri. Çevrimiçi verdiği "Kültürel Antropolojiye Giriş" dersinde öğrencilerin davranışlarından şüphelenmeye başlıyor. Çoğu üniversite hocası gibi söz konusu tuhaflıkların YZ çağının sıradan akademik suistimalleri olduğunu düşünüyor. Ancak sorunlu öğrencilerin, kendi attığı e-postalara hiç yanıt vermemesi üzerine "Bir dakika" diyor. Gen Z bile bu kadarına cesaret edemez.