Yapay zekâ konusu işin içindekiler tarafından eleştirilmeye başlandı. Ben de bu konuyu KVKK Başkanı Prof. Dr. Faruk Bilir hocam ile konuştum. Aklımdaki gündelik hayatın içinden soruları kendisine sordum.

Bir uygulamaya belge yüklerken neyi paylaşıyoruz

Çocuğumuz bir sohbet botuyla konuşurken ne anlatıyor

Hakkımızda karar veren bir sistemin karşısında bizim söz hakkımız nerede başlıyor

YAPAY ZEKANIN TARLASI KİŞİSEL VERİLER

Başkana önce şunu soruyorum:

Yapay zekâyı konuşurken neden dönüp dolaşıp kişisel verilere geliyoruz

Sağlıktan eğitime, finanstan işe alımlara uzanan kullanım alanlarını anlatıyor. Bu sistemlerin hız ve verimlilik sağladığını, ancak geniş veri kümelerinden yararlandığını belirtiyor. O verilerin içinde bizim bilgilerimiz de bulunabiliyor. Yani biz ekrandaki cevaba bakarken, Başkan o cevabın arkasındaki veri işleme sürecine dikkat çekiyor.

Peki, bu alanın kuralları var mı

Başkan, kullanılan teknoloji ne olursa olsun, kişisel veriler işlendiği ölçüde 6698 sayılı Kanun'un uygulanacağını söylüyor. Verilerimizin neden işlendiğinin, kimlerle paylaşılabileceğinin açıklanması; haklarımızı kullanabilmemiz ve güvenliğin sağlanması gerektiğini anlatıyor.

Yapay zekâya özgü riskleri, denetimi ve sorumlulukları açıklığa kavuşturacak tamamlayıcı düzenlemelere ihtiyaç bulunduğunu da ekliyor.

Bu kez şunu soruyorum:

Ben özel hayatımı paylaşmıyorum, dersem rahat olabilir miyim

Başkanın anlattığına göre, mesele yalnızca bizim gönüllü olarak söylediklerimiz değil. Farklı kaynaklardaki bilgiler birleştirilebiliyor. Tek başına bizi tanımlamayan parçalar, yan yana gelince kimliğimizi görünür kılabiliyor. Dahası, doğrudan paylaşmadığımız bilgiler hakkında çıkarım yapılabiliyor.

Yani söylemediklerimiz de hesabın içine girebiliyor mu

Evet, işaret ettiği risklerden biri bu. Gereğinden fazla veri toplanması, bilgilerin başka amaçlarla kullanılması ve hakkımızda kapsamlı profiller oluşturulması da aynı tablonun parçaları.

Bir başka uyarısını da buraya not düşeyim: Bazı modellerin eğitiminde kullanılan kişisel bilgiler, üretilen cevaplarda açığa çıkabiliyor. Demek ki yalnızca sisteme giren bilgiyi değil, sistemden çıkan bilgiyi de konuşmamız gerekiyor.

Sohbeti bir iş başvurusuna getiriyorum.

Diyelim ki başvurum reddedildi. Kararı otomatik bir sistem verdi.

Bana kalan, sonucu kabullenmek mi

Başkan burada Kanun'un 11'inci maddesini hatırlatıyor. Kişinin verilerinin yalnızca otomatik sistemlerle analiz edilmesi sonucunda aleyhine bir sonuç doğmasına itiraz hakkı bulunduğunu söylüyor.

Bir ayrıntının daha altını çiziyor:

Kullanılan veriler hatalı, eksik veya önyargılıysa, bunlar sonuçlara da yansıyabiliyor. Dolayısıyla sistemin nasıl değerlendirme yaptığının anlaşılması ve sonucun sorgulanabilmesi önem taşıyor.

Kredi başvurularında ve sigortacılıkta da benzer süreçlerle karşılaşılabildiğini anlatıyor. Sohbet böylece gündelik hayatımıza uzanıyor. Konu, uzak bir gelecekte makinelerin ne yapacağından ibaret değil; hakkımızda verilen kararları nasıl anlayacağımız da bu tartışmanın içinde.

ÖNLEMLER HEPİMİZİN İŞİ!

Peki, önlemi ne zaman alacağız Sorun ortaya çıktıktan sonra mı

Başkan, mahremiyetin sistemin tasarım aşamasında düşünülmesi gerektiğini anlatıyor. Önce hangi verinin gerçekten gerekli olduğu belirlenecek. Kullanıcı da korunmak için ayrıca ayar değiştirmek zorunda kalmayacak.

Örneği somut. Verilerimizin model geliştirmek amacıyla kullanılmasına ilişkin tercih, başlangıçta kapalı sunulabilir.

Başkanın kullandığı iki kavramın karşılığı böylece netleşiyor: Tasarımdan itibaren mahremiyet ve varsayılan olarak mahremiyet. Yani koruma, sonradan hatırlanan bir ek özellik olmayacak.

ÇOCUKLARA DÖNÜK TEHDİT

Sıra çocuklara geliyor.

Evde ne diyeceğiz

Yapay zekâyla konuşma, ödevinde kullanma, tamamen uzak dur mu

Başkanın anlattığı yaklaşım bu değil. Yaşa uygun kullanım ve ebeveyn rehberliğinden söz ediyor. Hangi uygulamanın kullanıldığı bilinecek, gizlilik koşulları ve ebeveyn kontrolü seçenekleri incelenecek. Çocuğa adını, adresini, okulunu, telefonunu paylaşmaması anlatılacak.

Bir de şuna dikkat çekiyor Başkan: Çocuk, aldığı her cevabın doğru olmadığını bilecek.

Soruyu sorabilmek kadar, cevabı gerektiğinde sorgulayabilmek de bu sohbetin konusu.

"GÖLGE YAPAY ZEKA"

Peki, biz yetişkinler

İşyerinde bir dosyayı özetletmek için yüklediğimizde her şeyi düşünmüş oluyor muyuz

Başkan bu noktada "Gölge Yapay Zekâ" kavramını açıklıyor. Çalışanın, kurumunun bilgisi veya kontrolü dışında kullandığı araçlardan söz ediyor.