Profilowanie rasowe w technologii rozpoznawania twarzy: czy rozpoznawanie twarzy może być rasistowskie?

Technologia rozpoznawania twarzy i jej możliwości wyszły daleko poza naszą wyobraźnię, odkąd na znaczeniu zyskały nowe algorytmy wzmacniające tę technologię w organach ścigania. Obecnie technologia rozpoznawania twarzy jest wykorzystywana przez organy ścigania na najniższych poziomach procesów gromadzenia danych do identyfikacji przestępców pośród zatłoczonych zgromadzeń. Technologia wykorzystuje nagrania z kamer CCTV w miejscach publicznych i na ulicach, a następnie wykorzystuje zebrane dane do archiwów agencji, aby wykryć twarz poszukiwaną za przestępstwa kryminalne.

Technologia ta została ponadto zastosowana w najmniejszych gadżetach, w tym w telefonach komórkowych i inteligentnych urządzeniach do noszenia. Dlatego nie tylko chroni Cię na ulicach, ale także ma na celu ochronę Twoich danych osobowych przechowywanych na Twoich inteligentnych urządzeniach. Używanie „odcisku twarzy” do praktyk marketingowych i reklamowych stało się powszechne we współczesnej erze kampanii w mediach społecznościowych. Do tego dochodzi prywatny nadzór w centrach handlowych, sklepach detalicznych itp.

Z tej perspektywy można szybko wskazać niezaprzeczalne zalety technologii rozpoznawania twarzy. Ale został również zbadany pod kątem zagrożenia, jakie stanowi dla prywatności użytkowników, ochrony danych i oczywiście przejrzystości między prawem a opinią publiczną. Dobrze jest mieć świadomość zarówno zalet, jak i wad tak inwazyjnej technologii. Jest jednak jeszcze jedna wada technologii rozpoznawania twarzy, którą ludzie wydają się ignorować, a jest nią profilowanie rasowe i dyskryminacja rasowa .

W tym artykule przyjrzymy się, w jaki sposób ta technologia promuje uprzedzenia rasowe i dyskryminację oraz jak poważne są konsekwencje tak inwazyjnej technologii.

Jak działa rozpoznawanie twarzy?

Źródło obrazu: poczta krajowa

Krok 1: Twoje zdjęcie zostało zrobione z aparatu, Twojego konta, e-maila itp. Jest to albo proste zdjęcie profilowe, albo przypadkowe zdjęcie w tłumie.

Krok 2: Oprogramowanie do rozpoznawania twarzy przeprowadzi Twoją twarz przez bazę danych zapisanych odcisków twarzy. Odcisk twarzy jest zbierany poprzez geometryczne śledzenie Twojej twarzy.

Krok 3: Procent dopasowania twojego zdjęcia do dowolnego znanego odcisku twarzy jest tworzony przy użyciu algorytmu, na podstawie którego dokonuje się oceny.

Błąd automatyzacji: jedna z wielu wad technologii rozpoznawania twarzy

Automatyzacja Bias lub Machine Bias odnosi się do scenariusza, w którym algorytm maszyny wykazuje pewne odchylenia w kalibracji danych wejściowych, dając w ten sposób niekorzystne wyjście. Dzieje się tak, gdy występuje błąd w kodzie algorytmu, brak przechowywanych zestawów danych do kalibracji, nieprawidłowe wartości wejściowe lub nadmiar danych wejściowych, których kalibracja nie jest w stanie wytrzymać maszyny.

Jak się z tym wszystkim wiąże profilowanie rasowe?

Źródło obrazu: The Guardian

Zacznijmy od starożytnego incydentu, który w tamtym czasie był uważany za nieistotny. W 2001 roku Tampa City wykorzystało oprogramowanie do rozpoznawania twarzy do nadzoru nad zatłoczonym miastem, gdy turyści zalewali ulice miasta z powodu Super Bowl w 2001 roku. Jak wynika z raportu New York Times , oprogramowanie zidentyfikowało 19 osób, które rzekomo miały przeciwko nim zaległe nakazy; jednak nie dokonano żadnych aresztowań, ponieważ infrastruktura stadionu uniemożliwiała dotarcie do zidentyfikowanych winowajców wśród przytłaczającego tłumu.

Chociaż w tym konkretnym przypadku nigdzie nie zaobserwowano oznak profilowania rasowego, po raz pierwszy zastosowano techniki nadzoru przeciwko naruszaniu wolności obywatelskich i prywatności osób. W nadchodzących latach policja Tampa zrezygnowała z tych systemów nadzoru, powołując się na niewiarygodne wyniki.

Źródło obrazu: ICO

Przechodząc do nieco nowszego scenariusza, Ali Breland poinformował w „The Guardian” o aresztowaniu Williego Lyncha, czarnoskórego mężczyzny oskarżonego o bycie notorycznym dilerem narkotyków w okolicy Brentwood, zamieszkałej głównie przez ludzi kolorowych. Jedynym dowodem przeciwko Lynchowi były jego zdjęcia na telefonie komórkowym, które były sprawdzane w policyjnej bazie danych, zanim policja uznała go za sprawcę. Lynch był skazany na osiem lat, a teraz odwołał się od wyroku skazującego. Niezależnie od tego, czy był rzekomym dealerem, czy nie, nieuchronnie budzi to obawy, czy tylko wynik oparty na maszynie wystarczy, aby podtrzymać przekonanie kogokolwiek objętego dochodzeniem?

W 2019 r., jak donosi Tom Perkins dla The Guardian , policja z Detroit została znaleziona przy użyciu rozpoznawania twarzy do dokonywania aresztowań rzekomo przez ostatnie dwa lata. Detroit to miejsce, w którym ponad 80% ludności to czarni. Oświadczenie czarnoskórego członka Komisji Policji w Detroit wzbudziło obawy przeciwko tej praktyce. Powiedział, że czarni mają wspólną cechę twarzy, która zagraża algorytmowi systemu, nazywając to „technorasizmem”.

Źródło obrazu: Vox

W badaniu przeprowadzonym w 2019 r. dla Journal of Information Communication and Ethics Society przez Fabio Bacchiniego i Ludovicę Lorusso stwierdzono, że te systemy biometryczne i rozpoznawania twarzy nie są w 100% wiarygodne dla organów ścigania. Co więcej, dyskryminacja rasowa miała negatywny wpływ na wszystkie takie systemy, co ma dalsze odwrotne konsekwencje społeczne. Badanie dotyczyło w szczególności społeczeństw zachodnich, gdzie takie systemy są szeroko wykorzystywane do nadzoru.

To tylko trzy z wielu takich przykładów, w których wyszły na jaw przypadki różnic rasowych spowodowanych przez systemy rozpoznawania twarzy. Ale dlaczego te systemy są tak niekompetentne pomimo tak rosnącej dokładności w ulepszaniu kodowania algorytmicznego w technologii.

Biała supremacja w zachodnich stanach: przemysł technologiczny zdominowany przez białych

W 2014 roku większość firm technologicznych, w tym gigant Apple Inc., zatrudniała głównie białych mężczyzn. W Apple 55% pracowników było białych i podobnie, kierownictwo Apple obejmowało 63% białych pracowników. Firmy, które udostępniły podobne raporty dotyczące różnorodności, to także Facebook , Google i Twitter. Pięć lat później raport w Wired ujawnił, że nastąpiła minimalna poprawa w tych liczbach.

Podczas gdy Facebook wykazał przyzwoitą poprawę liczb, odsetek czarnoskórych pracowników technicznych Apple pozostał na niezmienionym poziomie i wynosił zaledwie 6% całkowitej siły roboczej. Amazon był jedyną organizacją, która zarejestrowała 42% czarnoskórych lub latynoamerykańskich pracowników w swoich biurach w Stanach Zjednoczonych.

Co oznaczają te statystyki? W Stanach Zjednoczonych większość koderów, którzy są przypisani do dużych projektów, takich jak projektowanie algorytmów systemów nadzoru, jest biała. Są to osoby, które podejmują najważniejsze decyzje dotyczące produktu lub usługi, które firma ma wprowadzić na rynek. A zatem to ich perspektywy, podejście i procesy myślowe wchodzą w skład ostatecznej kreacji. Nie oznacza to, że biali są rasistami i celowo zaprojektowali takie systemy nadzoru . NIE!

Źródło obrazu: Forbes

Kiedy biały facet projektuje algorytm rozpoznawania twarzy i ma tylko białych kolegów doradzających/pomagających mu, nie biorą oni pod uwagę osób o innych cechach twarzy przed sfinalizowaniem kodu. Ponieważ biali inżynierowie dominują w branży technologicznej, archiwa danych używane do przygotowania początkowego kodu są również tworzone i kalibrowane przez białych techników. W ten sposób sam kod jest tworzony z odchyleniem w swoim podstawowym algorytmie obliczeniowym, co skutkuje tymi rasowymi różnicami w wynikach nadzoru.

Kod po prostu uczy się, co w nim ucieleśniają biali. Nie ma perspektywy ani wkładu jakiejkolwiek osoby innego koloru.

Problemy z kalibracją

Amerykańskie organy ścigania w dużej mierze opierają się na inwigilacji i śledzeniu danych. Było wiele przypadków, w których sygnaliści wyparli informacje dotyczące nieuprawnionego nadzoru osób cywilnych. Jednym z takich przykładów jest ujawnienie przez Edwarda Snowdena nielegalnej inwigilacji prowadzonej przez NSA.

Źródło obrazu: CBS Local

Te programy nadzoru są wspierane odciskami twarzy i innymi danymi osobowymi milionów obywateli. Jeśli weźmiemy pod uwagę tylko odciski twarzy, miliony Amerykanów otwarcie udostępniają zdjęcia na platformach społecznościowych. Następnie na każdej ulicy w kraju znajdują się kamery CCTV, które oferują na żywo materiał z setek tysięcy przechodniów. Obecnie w policyjnych bazach danych znajduje się około 117 milionów obrazów, podczas gdy FBI ma ponad 400 milionów zestawów danych do kalibracji w algorytmach rozpoznawania twarzy nadzoru.

Teraz wyobraź sobie te zestawy danych w porównaniu z pojedynczym obrazem, który mógł uchwycić wszystkie cechy twarzy danej osoby lub nie. W takim scenariuszu prawdopodobnie pojawią się błędy. Jest po prostu zbyt dużo danych, aby zrozumieć i porównać je z jednym odciskiem twarzy. Żaden algorytm nie może zagwarantować stuprocentowej pewności wyniku, gdy kalibracja jest tak skomplikowana. To ostatecznie składa się na profilowanie rasowe spowodowane technologią rozpoznawania twarzy.

Ogromna niezawodność rozpoznawania twarzy

Źródło obrazu: NY Post

Przypadek Williego Lyncha przypomina, że ​​rozpoznawanie twarzy nie powinno być jedyną wiarygodną techniką przedstawianą jako dowód, jeśli chodzi o egzekwowanie prawa. To jest powód, dla którego policja miasta Tampa zrezygnowała z technologii.

Prawdą jest, że rozpoznawanie twarzy jest doskonałym rozwiązaniem i pomaga policji. Sprawcy zamachów bombowych w Boston Marathon zostali zidentyfikowani na podstawie obszernej i szczegółowej analizy nagrań z monitoringu. Ale to nie może być jedyny dowód, by kogoś skazać. Muszą istnieć dowody potwierdzające wyniki algorytmów rozpoznawania twarzy, a przed ostatecznym ustaleniem należy rozważyć koncepcję błędu automatyzacji.

Problem ze sprzętem: rozpoznawanie twarzy w telefonach komórkowych i aparatach

Źródło obrazu: TechCrunch

Systemy kamer monitorujących oraz związany z nimi sprzęt i oprogramowanie nie są projektowane przez jedną firmę. To branża warta miliardy dolarów, w której dziesiątki korporacji konkurują o kontrakty od organów ścigania. Wiele z tych systemów pochodzi od chińskich producentów. Wszystko sprowadza się do uzyskania najtańszej technologii o najlepszych właściwościach. Tak to głównie działa. Dlatego zawsze istnieją szanse na różnice w kalibracji różnych systemów, a także na zmienność jakości wyników nadzoru. Wiele algorytmów monitoringu kamer jest nieskutecznych w kalibrowaniu obrazów osób kolorowych tylko z powodu niekompetencji technicznych, gloryfikując w ten sposób dyskryminację rasową.

Problemy techniczne powodujące rasizm poprzez rozpoznawanie twarzy zostały również zauważone w funkcji Apple Face Lock. Sprawa z Chin usunęła, że ​​blokada twarzy iPhone'a X nie była w stanie odróżnić dwóch różnych chińskich współpracowników, co czyni tę funkcję bezużyteczną. Podobne doniesienia zostały odrzucone, powołując się na problemy z oddzieleniem dwóch czarnoskórych osób od siebie. Jak wspomniano powyżej, Apple ma tylko 6% czarnoskórych osób w zespołach technicznych. To wyraźny przykład na to, jak technologia rozpoznawania twarzy może promować rasizm nawet w naszych urządzeniach przenośnych.

Wniosek

Tak, Rozpoznawanie Twarzy jest rasistowskie i to jest teraz powszechna wiedza. Chociaż technologia rozwija się codziennie, aby rozwiązywać takie problemy, wyniki są takie same. Technologia ma zjednoczyć świat we wspólnych celach postępu technicznego i rozwoju, ale niektóre techniki po prostu szkodzą harmonii rasowej i społecznej.

Na razie najlepszą rzeczą, jaką mogą zrobić funkcjonariusze organów ścigania, jest nie popieranie swoich spraw w oparciu o dowody z kalibracji algorytmicznych, które nie są nawet wiarygodne. Co więcej, najwyższy czas, aby różnorodność i włączenie społeczne w miejscu pracy potraktować poważnie, aby ludzie wszystkich grup etnicznych mogli zjednoczyć się i stworzyć produkt wolny od różnic rasowych. Na świecie są tysiące ras, a ludzie dorośli, by odłożyć na bok różnice rasowe, które tak długo prześladowały globalne społeczeństwo. Jeśli to musi być utrzymane, to maszyny, na których tak bardzo się opieramy, muszą być uczone tego samego.