Yüz Tanıma Teknolojisinde Irk Profili Oluşturma: Yüz Tanıma Irkçı Olabilir mi?

Yüz Tanıma teknolojisi ve yetenekleri, kolluk kuvvetlerinde bu teknolojiyi güçlendirecek yeni algoritmalar ön plana çıktığından beri hayal gücümüzün çok ötesine geçti. Şu anda, yüz tanıma teknolojisi, kalabalık toplantıların ortasında suçluları tespit etmek için en düşük veri toplama süreçlerinde kolluk kuvvetleri tarafından kullanılmaktadır. Teknoloji, halka açık yerlerde ve sokaklarda CCTV kameralarından alınan görüntüleri kullanır ve daha sonra, ceza gerektiren suçlardan aranan bir yüzü tespit etmek için toplanan verileri ajans arşivlerine karşı çalıştırır.

Bu teknoloji, cep telefonları ve akıllı giyilebilir cihazlar da dahil olmak üzere en küçük gadget'lara daha da yerleştirildi . Dolayısıyla sizi sadece sokakta korumakla kalmayıp, akıllı cihazlarınızda saklanan kişisel bilgilerinizi de korumayı amaçlamaktadır. Pazarlama ve reklamcılık uygulamaları için “yüz izi” kullanmak, sosyal medya kampanyalarının modern çağında yaygınlaştı. Ve sonra alışveriş merkezlerinde, perakende mağazalarında vb. özel gözetim vardır.

Bu açıdan bakıldığında, yüz tanıma teknolojisinin yadsınamaz avantajlarına hızlıca işaret edilebilir. Ancak aynı zamanda kullanıcı gizliliğine, veri korumasına ve tabii ki kanun ile halk arasındaki şeffaflığa yönelik oluşturduğu tehdit açısından da incelendi. Böyle istilacı bir teknolojinin hem avantajlarının hem de dezavantajlarının farkında olmak iyi bir şey. Yine de, yüz tanıma teknolojisinin insanların görmezden geliyor gibi göründüğü bir dezavantajı daha var ve bu da ırksal profil oluşturma ve ırk ayrımcılığı .

Bu yazıda, bu teknolojinin ırksal önyargıyı ve ayrımcılığı nasıl desteklediğine ve bu tür istilacı teknolojinin yansımalarının ne kadar ciddi olduğuna bakıyoruz.

Yüz Tanıma Nasıl Çalışır?

Resim Kaynağı: Ulusal Posta

Adım 1: Bir kameradan, hesabınızdan, e-postanızdan, vb. bir resminiz çekilir. Bu, düz bir profil resmi veya kalabalıkta rastgele bir fotoğraftır.

Adım 2: Yüz tanıma yazılımı, yüzünüzü, saklanan yüz izleri veri tabanından geçirecektir. Yüz izi, yüzünüzün geometrik takibi yoluyla toplanır.

Adım 3: Resminizin bilinen herhangi bir yüz iziyle eşleşme yüzdesi, üzerinde bir belirlemenin yapıldığı bir algoritma kullanılarak üretilir.

Otomasyon Önyargısı: Yüz Tanıma Teknolojisinin Birçok Kusurundan Biri

Otomasyon Sapması veya Makine Sapması, bir makine algoritmasının giriş verilerinin kalibrasyonunda belirli bir sapma sergilediği ve dolayısıyla olumsuz çıktı verdiği senaryoyu ifade eder. Bu, algoritma kodunda bir hata, kalibrasyon için saklanan veri setlerinin eksikliği, yanlış giriş değerleri veya makinelerin kalibre edilmesinin ötesinde aşırı giriş verileri olduğunda meydana gelir.

Tüm bunlarla Irksal Profilleme Nasıl Gidiyor?

Resim Kaynağı: The Guardian

O zamanlar önemsiz sayılan eski bir olayla başlayalım. 2001 yılında, Tampa City, 2001 Super Bowl nedeniyle turistler şehrin sokaklarını sular altında bırakırken, kalabalık şehri gözetlemek için yüz tanıma yazılımı kullandı. Bir New York Times raporuna göre, yazılım, kendilerine karşı olağanüstü tutuklama emri bulunan 19 kişiyi tespit etti; ancak, stadyumun altyapısı, tespit edilen suçlulara ezici bir kalabalık arasında ulaşmayı imkansız hale getirdiği için herhangi bir tutuklama yapılmadı.

Bu özel vakada hiçbir yerde ırksal profilleme belirtileri görülmezken, ilk kez sivil özgürlüklerin ve bireylerin mahremiyetinin ihlaline karşı gözetim teknikleri ortaya konuldu. Önümüzdeki yıllarda, Tampa Polisi, güvenilir olmayan sonuçlara dayanarak bu gözetim sistemlerinden vazgeçti.

Resim Kaynağı: ICO

Biraz daha yakın tarihli bir senaryoya hızla ilerleyen Ali Breland, The Guardian'a , ağırlıklı olarak beyaz olmayan insanların yaşadığı Brentwood bölgesinde kötü şöhretli bir uyuşturucu satıcısı olmakla suçlanan siyah bir adam olan Willie Lynch'in tutuklanmasıyla ilgili bir haber yaptı. Lynch'e karşı tek kanıt, polis onu suçlu olarak belirlemeden önce bir polis veritabanına karşı çalıştırılan cep telefonundaki resimleriydi. Lynch, sekiz yıl hüküm giydi ve şimdi mahkumiyete itiraz etti. İddia edilen satıcı olsun ya da olmasın, soruşturma altındaki herhangi birinin mahkumiyetini desteklemek için yalnızca makine tabanlı bir sonucun yeterli olup olmadığı konusunda kaçınılmaz olarak endişe uyandırıyor mu?

2019'da, The Guardian için Tom Perkins tarafından bildirildiği üzere Detroit polisi, iddiaya göre son iki yıldır tutuklamalar yapmak için yüz tanıma özelliğini kullanmıştı. Detroit, nüfusunun %80'inden fazlasının siyahi olduğu bir yer. Detroit Polis Komisyonu'ndan siyahi bir üyeden yapılan açıklamada, uygulamaya karşı endişeler dile getirildi. Siyahların, sistemin algoritmasını tehlikeye atan ortak bir yüz özelliği olduğunu ve bunu “tekno-ırkçılık” olarak adlandırdığını söyledi.

Resim Kaynağı: Vox

Fabio Bacchini ve Ludovica Lorusso tarafından Bilgi İletişimi ve Etik Derneği Dergisi için 2019 yılında yapılan bir araştırmada, bu biyometrik ve yüz tanıma sistemlerinin kolluk kuvvetleri için %100 güvenilir olmadığı bulundu. Ayrıca, ırk ayrımcılığının tüm bu sistemler üzerinde olumsuz bir etkisi oldu ve bunun da ters toplumsal sonuçları oldu. Çalışma, özellikle bu tür sistemlerin gözetim için yaygın olarak kullanıldığı batı toplumlarını hedef aldı.

Bunlar, yüz tanıma sistemlerinin neden olduğu ırksal farklılıkların gün ışığına çıktığı pek çok örnekten sadece üçü. Ancak, teknolojideki algoritmik kodlama yükseltmelerinde bu kadar artan doğruluğa rağmen bu sistemler neden bu kadar beceriksiz?

Batı Devletlerinde Beyaz Üstünlüğü: Beyaz Baskın Bir Teknoloji Endüstrisi

2014 yılında, dev Apple Inc. de dahil olmak üzere teknoloji şirketlerinin çoğunluğunun çoğunlukla beyaz, erkek çalışanları işe aldığı tespit edildi. Apple'da çalışanların %55'i beyazdı ve benzer şekilde Apple liderliği beyaz çalışanların %63'ünü oluşturuyordu. Benzer çeşitlilik raporlarını paylaşan şirketler arasında Facebook , Google ve Twitter da yer aldı. Beş yıl sonra, Wired'da yayınlanan bir rapor, bu sayılarda çok az gelişme olduğunu ortaya koydu.

Facebook, sayılarda iyi bir gelişme gösterirken, Apple'ın siyah teknik çalışanlarının yüzdesi, toplam işgücünün yalnızca %6'sında değişmeden kaldı. Amazon, ABD ofislerinde %42 siyahi veya Latin Amerikalı işçi kaydeden tek kuruluştu.

Bu istatistikler ne anlama geliyor? ABD'de, gözetleme sistemleri için algoritma tasarlama gibi büyük projelere atanan kodlayıcıların çoğu beyazdır. Bunlar, bir şirket tarafından piyasaya sürülecek/açılacak bir ürün veya hizmetle ilgili en önemli kararları veren kişilerdir. Ve bu nedenle, nihai yaratıma giden onların bakış açıları, yaklaşımları ve düşünce süreçleridir. Bu, beyazların ırkçı olduğu ve bu tür gözetim sistemlerini kasten tasarladıkları anlamına gelmez . NUMARA!

Resim Kaynağı: Forbes

Beyaz bir adam bir yüz tanıma algoritması tasarladığında ve yalnızca ona danışan/yardım eden beyaz meslektaşları olduğunda, kodu tamamlamadan önce diğer rengin yüz özelliklerine sahip insanları dikkate almazlar. Beyaz mühendisler teknoloji endüstrisine hakim olduğundan, ilk kodu hazırlamak için kullanılan veri arşivleri de beyaz teknisyenler tarafından oluşturulur ve kalibre edilir. Bu nedenle, kodun kendisi, temel hesaplama algoritmasında bir önyargı ile oluşturulur ve gözetim sonuçlarında bu ırksal farklılıklara neden olur.

Kod, beyazların içinde neyi somutlaştırdığını öğrenir. Başka bir renkten herhangi bir kişinin bakış açısı veya katkısı yoktur.

Kalibrasyon Sorunları

Amerikan kolluk kuvvetleri, gözetim ve veri takibine büyük ölçüde güveniyor. Muhbirlerin sivillerin yetkisiz gözetimi ile ilgili bilgileri gasp ettiği birçok durum olmuştur. Edward Snowden'ın NSA'nın yasadışı gözetimini ifşa etmesi buna bir örnektir.

Görüntü Kaynağı: CBS Yerel

Bu gözetim programları, milyonlarca vatandaşın yüz izleri ve diğer kişisel bilgileri ile desteklenmektedir. Sadece yüz izlerini ele alırsak, sosyal medya platformlarında açıkça resim paylaşan milyonlarca Amerikalı var. O zaman ülkenin her sokağında yüz binlerce yoldan geçenin canlı görüntüsünü sunan CCTV kameraları var . Şu anda, polis veri tabanlarında yaklaşık 117 milyon görüntü varken, FBI'ın gözetim yüz tanıma algoritmalarında kalibre edilmesi gereken 400 milyondan fazla veri kümesi var.

Şimdi bu veri kümelerini, belirli bir kişinin tüm yüz özelliklerini yakalayan veya yakalamayan tek bir görüntüyle karşılaştırdığını hayal edin. Böyle bir senaryoda, hataların ortaya çıkması muhtemeldir. Anlamak ve tek bir yüz izine karşı çalıştırmak için çok fazla veri var. Kalibrasyon bu kadar karmaşık olduğunda hiçbir algoritma sonucunda yüzde yüz garanti veremez. Bu, sonunda yüz tanıma teknolojisinin neden olduğu ırksal profillemeye eklenir.

Yüz Tanımada Muazzam Güvenilirlik

Resim Kaynağı: NY Post

Willie Lynch vakası, kolluk kuvvetleri söz konusu olduğunda yüz tanımanın kanıt olarak sunulan tek güvenilir teknik olmaması gerektiğini hatırlatıyor. Tampa şehir polisinin teknolojiden vazgeçmesinin nedeni budur.

Yüz tanımanın mükemmel bir çare olduğu ve polise yardımcı olduğu doğrudur. Boston Maratonu Bombalamaları suçluları, gözetim kayıtlarının kapsamlı ve ayrıntılı analizi kullanılarak tanındı. Ama bu kimseyi mahkum etmek için tek kanıt olamaz. Yüz tanıma algoritmalarının sonuçlarını kanıtlamak için destekleyici kanıtlar olmalı ve nihai bir karara varmadan önce otomasyon yanlılığı kavramı dikkate alınmalıdır.

Donanım Sorunu: Mobil ve Kameralarda Yüz Tanıma

Görüntü Kaynağı: TechCrunch

Güvenlik kamerası sistemleri ve ilgili donanım ve yazılımlar tek bir şirket tarafından tasarlanmamıştır. Milyarlarca dolarlık bir endüstri, onlarca şirketin kolluk kuvvetlerinden sözleşme almak için rekabet ettiği bir sektör. Bu sistemlerin çoğu Çinli üreticilerden. Her şey en iyi niteliklere sahip en ucuz teknolojiyi elde etmekle ilgili. Çoğunlukla böyle çalışır. Ve bu nedenle, her zaman farklı sistemlerin kalibrasyonunda farklılıklar ve ayrıca sürveyans sonuçlarının kalitesinde farklılıklar olasılığı vardır. Birçok kamera gözetim algoritması, teknik yetersizlik nedeniyle beyaz olmayan insanların görüntülerini kalibre etmede etkisizdir ve bu nedenle ırk ayrımcılığını yüceltir.

Yüz tanıma yoluyla ırkçılığa neden olan teknik sorunlar, Apple Yüz Kilidi özelliğinde de fark edildi. Çin'den gelen bir davada, iPhone X yüz kilidinin iki farklı Çinli iş arkadaşı arasında ayrım yapamadığı ve bu özelliği işe yaramaz hale getirdiği ortaya çıktı. Benzer raporlar, iki siyah insanı birbirinden ayırma özelliğindeki sorunlara atıfta bulunarak reddedildi. Yukarıda belirtildiği gibi, Apple teknik ekiplerde siyahların sadece %6'sına sahiptir. Bir yüz tanıma teknolojisinin elde taşınan cihazlarımızda bile ırkçılığı nasıl destekleyebileceğinin açık bir örneği.

Çözüm

Evet, Yüz Tanıma ırkçıdır ve bu artık yaygın bir bilgidir. Teknoloji bu tür sorunları düzeltmek için her gün gelişiyor olsa da, sonuçların hepsi aynı. Teknolojinin dünyayı teknik ilerlemeler ve gelişme gibi ortak hedefler üzerinde birleştirmesi gerekiyor, ancak bazı teknikler sadece ırksal ve toplumsal uyuma zarar veriyor.

Şimdilik, kolluk kuvvetlerinin yapabileceği en iyi şey, güvenilir bile olmayan algoritmik kalibrasyonlardan elde edilen kanıtlara dayanarak davalarını desteklememektir. Ayrıca, tüm etnik kökenlerden insanların bir araya gelerek ırksal farklılıklardan arınmış bir ürün ortaya çıkarabilmeleri için işyerlerinde çeşitlilik ve kapsayıcılığın ciddiye alınmasının tam zamanıdır. Dünyada binlerce ırk var ve insanlar, küresel toplumu çok uzun süredir rahatsız eden ırk farklılıklarını bir kenara bırakmak için büyüdüler. Bunun sürdürülmesi gerekiyorsa, o zaman kendimize çok güvendiğimiz makinelere de aynı şekilde öğretilmelidir.