Panoptikon'u Kalabalık Kaynaklarla Oluşturuyoruz

Bir adam, polis kalabalığa girdiğinde telefonunu kaldırıyor. Video sarsıntılı, gürültülü, anlık. Dakikalar içinde çevrimiçi oluyor. Saatler içinde her yerde. İşte hesap verebilirlik artık böyle işliyor. Bir şey oluyor, biri kaydediyor ve bu görüntü gerçekten ne olduğunu gösterebiliyor, bazen resmi açıklamalarla çelişiyor. Bu, vatandaşları güçlendirebilir ve yetkililer için sonuçlar doğurabilir. Ancak görüntülerin yaşam döngüsü burada bitmiyor. Son aylarda, sivil özgürlük grupları, tüketici akıllı gözlüklerine yüz tanıma eklemenin günlük kaydı daha rahatsız edici bir şeye dönüştürebileceği konusunda uyardı: gerçek zamanlı yüz tanımlama. Bu, bir amaçla yakalanan görüntülerin daha sonra başka bir amaçla aranabilmesi, eşleştirilebilmesi ve kullanılabilmesi yönünde zaten devam eden daha geniş bir değişimi yansıtıyor. Ouroboros, kendi kuyruğunu yiyen bir yılan veya ejderha olan antik Mısır sembolüdür. Gözetim şirketçiliği ve yönetim gecikmesi üzerine daha geniş araştırmalarıma bakarken, güçleri hesap verebilir kılmayı amaçlayan gözlemlerin aynı gözetim altyapısı için yeni bir girdi haline geldiği bu yinelemeli modeli tanımlamak için "gözetim ouroborosu" terimini kullanmaya başladım. Yüz tanıma hesap verebilirliği değiştiriyor. 2020'deki George Floyd protestoları sırasında, insanlar polisleri gerçek zamanlı olarak kaydetti. Telefonlar, birbirlerine değil, memurlara doğrultuldu. Amaç basitti: devletin ne yaptığını göstermek. O görüntüler hızla yayıldı ve çok daha büyük bir kamu verisi havuzunun parçası haline geldi. Aynı zamanda, The New York Times ve BuzzFeed News gibi yayınlardan gelen haberler, kolluk kuvvetlerinin Clearview AI tarafından oluşturulan sistemler de dahil olmak üzere yüz tanıma araçlarını kullandığını gösterdi. Bu sistemler, internetten toplanan milyarlarca görüntüden oluşturuldu, bunlar arasında kamuya açık fotoğraflar ve videolar da bulunuyordu. Temel yaklaşım artık rutin hale geldi: İnsanlar devleti veya başka bir şeyi kaydediyor - örneğin, 6 Ocak'taki ABD Capitol saldırısında - ve devlet bu görüntüleri ve verileri aranabilir bir ortamda derliyor, bu da daha sonra görüntüleri çeken bazı kişileri tanımlamak için kullanılabilir. Kolluk kuvvetleri tarafından kullanılan yüz tanıma sistemleri, yasal korumaları giderek geride bırakıyor. 2024'teki bir Hükümet Hesap Verebilirlik Ofisi incelemesi, federal kolluk kuvvetlerinin, eğitim, gizlilik korumaları, sivil özgürlükler güvenlik önlemleri ve denetimle ilgili devam eden endişelere rağmen, suç soruşturmaları için yüz tanıma sistemlerinin kullanımını genişletmeye devam ettiğini buldu. Daha önceki GAO bulguları, ajansların, sistemleri kullanan personel için resmi eğitim gereklilikleri getirilmeden önce yaklaşık 60.000 yüz tanıma araması yaptığını gösterdi. Amerikan Sivil Özgürlükler Birliği ve diğer gruplar, bu araçların çevrimiçi paylaşılan görüntülerden, protesto ile ilgili görüntüler de dahil olmak üzere, insanları tanımlamak için kullanılabileceği konusunda uyardı. Yüz tanıma ile ilgili endişeler, San Francisco ve Boston gibi bazı ABD eyaletleri ve şehirlerinin, devletin bu teknolojiyi kullanımını kısıtlamasına veya yasaklamasına yol açtı; federal ajanslar ise bu tür sistemlerin nasıl test edildiği, dağıtıldığı ve denetlendiği konusunda eleştirilerle karşılaşmaya devam etti. 2024'te Internet Policy Review'da yayımlanan bir analiz, kolluk kuvvetleri tarafından kullanılan yüz tanıma sistemlerinin, onları yönetmek için tasarlanmış yasal korumaları giderek geride bıraktığını ve veri koruma, denetim ve orantılı kullanım etrafında artan gerilimler yarattığını uyardı. Kendini inşa eden casus ağı. Gözetim, bir altyapı gerektiriyordu. Kameraların kurulması ve verilerin kasıtlı olarak toplanması gerekiyordu. Artık durum böyle değil. İnsanlar her yerde kameralar taşıyor. Sürekli kaydediyor ve gerçek zamanlı olarak yüklüyorlar. Olaylar, planlama veya koordinasyon olmaksızın birden fazla açıdan belgeleniyor. Birikimli sonuç, kullanılabilir veri akışının sürekli bir akışıdır: yüzler, yerler, zaman damgaları ve etkileşimler. Nesnelerin İnterneti de etrafımızda bekliyor, bilgi topluyor ve insanların en az beklediği anda bunu yayıyor, Andrew Guthrie Ferguson'un "Veriniz Sizin Aleyhinize Kullanılacak" adlı kitabının son bölümünde açıkladığı gibi. Benzer dinamikler küresel ölçekte ortaya çıkıyor. Uluslararası Hukuk ve Bilgi Teknolojisi Dergisi'nde yayımlanan bir analiz, Çin ve Japonya'daki yüz tanıma sistemlerinin, onları yöneten yasal çerçevelerden daha hızlı genişlediğini inceled