Yapay zekâ devlerinin devletle olan etik imtihanını ve Anthropic vakası üzerinden şekillenen "Vicdani Ret" kavramını ele almıştık. Bu hafta, Anthropic CEO'su Dario Amodei'yi asıl korkutan o karanlık dehlize giriyoruz: Dijital Ayak İzleri. Bir zamanlar sadece reklam verenlerin ilgi alanlarımızı tahmin etmek için kullandığı o masum tıklamalar, bugün nasıl oldu da ayağımıza dolanan birer dijital prangaya dönüştü

Görev kayması ve görünmez duvarlar

Literatürde 'Görev Kayması' diye bir olgu vardır; başlangıçta kısıtlı bir hedef (sadece suçluların takibi) için geliştirilen teknolojinin, zamanla tüm toplumu kuşatacak şekilde genişlemesi olarak tanımlanabilir. Bugün Amerika'da ICE (Göçmenlik ve Gümrük Muhafaza) birimlerinin sokaklarda sadece akıllı telefonlarıyla yüz tanıma yaparak vatandaşlık sorgulaması yapması veya Palantir'in "ImmigrationOS" gibi sistemlerle bireylere güven puanı vermesi, bu kaymanın en sert örneğidir.

Buradaki asıl tehlike, gözetlemenin artık izlemenin ötesine geçerek, "önceden belirlemek" haline gelmesidir. Algoritma sizin nerede olduğunuzu bilmekle yetinmiyor; dijital ayak izlerinizden yola çıkarak nerede olacağınızı ve orada ne yapacağınızı da tahmin etmeye çalışıyor. Eğer sistem sizin adres güven puanınızı düşük bulursa veya sosyal medya etkileşimlerinizden bir "risk" profili çıkarırsa, daha siz evden çıkmadan dijital pranganız daralmaya başlıyor.

Sartre'dan algoritmalara: Başkası cehennemdir (Mi)

Jean-Paul Sartre, "Başkası cehennemdir" derken, başkasının bakışının bizi nesneleştirdiğinden ve özgürlüğümüzü elimizden aldığından bahsederdi. Bugün o bakış, artık bir insanın bakışı olarak kalmadı, saniyede milyonlarca veriyi işleyen bir kod dizininin bakışı haline geldi. Amin Maalouf'un "Ölümcül Kimlikler" kavramını hatırlayalım; eğer kimliğimiz sadece algoritmaların bizi içine hapsettiği veriden ibaret kategoriler üzerinden tanımlanırsa, insanın kendini yeniden inşa etme özgürlüğü nerede kalır

Dijital ayak izimiz artık geçmişimizin bir dökümü olarak takip edilmiyor. Teknolojik pranganın bağlayıcılığıyla geleceğimizin de hapishanesi haline geçiş yapıyor. "Dijital pranga" tam da budur: Geçmişte attığınız bir "like", paylaştığınız bir konum veya arama motorundaki bir sorgu; yıllar sonra bir iş başvurusunda, vize görüşmesinde veya bir banka kredisinde karşınıza aşılmaz bir duvar olarak çıkabilir. Zuboff'un "Gözetim Kapitalizmi" olarak tanımladığı süreç, bugün devlet gücüyle birleşerek bir "Füzyon Senaryosu"na (hükümet ve teknoloji devlerinin veri ortaklığı) evriliyor. Bu yeni düzende mahremiyet, hem bir saklanma ihtiyacı; hem de bir insanın tahmin edilemez olma ve hata yapma hakkıdır.