Technologia rozpoznawania twarzy i jej możliwości wyszły daleko poza naszą wyobraźnię, odkąd na znaczeniu zyskały nowe algorytmy wzmacniające tę technologię w organach ścigania. Obecnie technologia rozpoznawania twarzy jest wykorzystywana przez organy ścigania na najniższych poziomach procesów gromadzenia danych do identyfikacji przestępców pośród zatłoczonych zgromadzeń. Technologia wykorzystuje nagrania z kamer CCTV w miejscach publicznych i na ulicach, a następnie wykorzystuje zebrane dane do archiwów agencji, aby wykryć twarz poszukiwaną za przestępstwa kryminalne.
Technologia ta została ponadto zastosowana w najmniejszych gadżetach, w tym w telefonach komórkowych i inteligentnych urządzeniach do noszenia. Dlatego nie tylko chroni Cię na ulicach, ale także ma na celu ochronę Twoich danych osobowych przechowywanych na Twoich inteligentnych urządzeniach. Używanie „odcisku twarzy” do praktyk marketingowych i reklamowych stało się powszechne we współczesnej erze kampanii w mediach społecznościowych. Do tego dochodzi prywatny nadzór w centrach handlowych, sklepach detalicznych itp.
Z tej perspektywy można szybko wskazać niezaprzeczalne zalety technologii rozpoznawania twarzy. Ale został również zbadany pod kątem zagrożenia, jakie stanowi dla prywatności użytkowników, ochrony danych i oczywiście przejrzystości między prawem a opinią publiczną. Dobrze jest mieć świadomość zarówno zalet, jak i wad tak inwazyjnej technologii. Jest jednak jeszcze jedna wada technologii rozpoznawania twarzy, którą ludzie wydają się ignorować, a jest nią profilowanie rasowe i dyskryminacja rasowa .
W tym artykule przyjrzymy się, w jaki sposób ta technologia promuje uprzedzenia rasowe i dyskryminację oraz jak poważne są konsekwencje tak inwazyjnej technologii.
Jak działa rozpoznawanie twarzy?
Źródło obrazu: poczta krajowa
Krok 1: Twoje zdjęcie zostało zrobione z aparatu, Twojego konta, e-maila itp. Jest to albo proste zdjęcie profilowe, albo przypadkowe zdjęcie w tłumie.
Krok 2: Oprogramowanie do rozpoznawania twarzy przeprowadzi Twoją twarz przez bazę danych zapisanych odcisków twarzy. Odcisk twarzy jest zbierany poprzez geometryczne śledzenie Twojej twarzy.
Krok 3: Procent dopasowania twojego zdjęcia do dowolnego znanego odcisku twarzy jest tworzony przy użyciu algorytmu, na podstawie którego dokonuje się oceny.
Błąd automatyzacji: jedna z wielu wad technologii rozpoznawania twarzy
Automatyzacja Bias lub Machine Bias odnosi się do scenariusza, w którym algorytm maszyny wykazuje pewne odchylenia w kalibracji danych wejściowych, dając w ten sposób niekorzystne wyjście. Dzieje się tak, gdy występuje błąd w kodzie algorytmu, brak przechowywanych zestawów danych do kalibracji, nieprawidłowe wartości wejściowe lub nadmiar danych wejściowych, których kalibracja nie jest w stanie wytrzymać maszyny.
Jak się z tym wszystkim wiąże profilowanie rasowe?
Źródło obrazu: The Guardian
Zacznijmy od starożytnego incydentu, który w tamtym czasie był uważany za nieistotny. W 2001 roku Tampa City wykorzystało oprogramowanie do rozpoznawania twarzy do nadzoru nad zatłoczonym miastem, gdy turyści zalewali ulice miasta z powodu Super Bowl w 2001 roku. Jak wynika z raportu New York Times , oprogramowanie zidentyfikowało 19 osób, które rzekomo miały przeciwko nim zaległe nakazy; jednak nie dokonano żadnych aresztowań, ponieważ infrastruktura stadionu uniemożliwiała dotarcie do zidentyfikowanych winowajców wśród przytłaczającego tłumu.
Chociaż w tym konkretnym przypadku nigdzie nie zaobserwowano oznak profilowania rasowego, po raz pierwszy zastosowano techniki nadzoru przeciwko naruszaniu wolności obywatelskich i prywatności osób. W nadchodzących latach policja Tampa zrezygnowała z tych systemów nadzoru, powołując się na niewiarygodne wyniki.
Źródło obrazu: ICO
Przechodząc do nieco nowszego scenariusza, Ali Breland poinformował w „The Guardian” o aresztowaniu Williego Lyncha, czarnoskórego mężczyzny oskarżonego o bycie notorycznym dilerem narkotyków w okolicy Brentwood, zamieszkałej głównie przez ludzi kolorowych. Jedynym dowodem przeciwko Lynchowi były jego zdjęcia na telefonie komórkowym, które były sprawdzane w policyjnej bazie danych, zanim policja uznała go za sprawcę. Lynch był skazany na osiem lat, a teraz odwołał się od wyroku skazującego. Niezależnie od tego, czy był rzekomym dealerem, czy nie, nieuchronnie budzi to obawy, czy tylko wynik oparty na maszynie wystarczy, aby podtrzymać przekonanie kogokolwiek objętego dochodzeniem?
W 2019 r., jak donosi Tom Perkins dla The Guardian , policja z Detroit została znaleziona przy użyciu rozpoznawania twarzy do dokonywania aresztowań rzekomo przez ostatnie dwa lata. Detroit to miejsce, w którym ponad 80% ludności to czarni. Oświadczenie czarnoskórego członka Komisji Policji w Detroit wzbudziło obawy przeciwko tej praktyce. Powiedział, że czarni mają wspólną cechę twarzy, która zagraża algorytmowi systemu, nazywając to „technorasizmem”.
Źródło obrazu: Vox
W badaniu przeprowadzonym w 2019 r. dla Journal of Information Communication and Ethics Society przez Fabio Bacchiniego i Ludovicę Lorusso stwierdzono, że te systemy biometryczne i rozpoznawania twarzy nie są w 100% wiarygodne dla organów ścigania. Co więcej, dyskryminacja rasowa miała negatywny wpływ na wszystkie takie systemy, co ma dalsze odwrotne konsekwencje społeczne. Badanie dotyczyło w szczególności społeczeństw zachodnich, gdzie takie systemy są szeroko wykorzystywane do nadzoru.
To tylko trzy z wielu takich przykładów, w których wyszły na jaw przypadki różnic rasowych spowodowanych przez systemy rozpoznawania twarzy. Ale dlaczego te systemy są tak niekompetentne pomimo tak rosnącej dokładności w ulepszaniu kodowania algorytmicznego w technologii.
Biała supremacja w zachodnich stanach: przemysł technologiczny zdominowany przez białych
W 2014 roku większość firm technologicznych, w tym gigant Apple Inc., zatrudniała głównie białych mężczyzn. W Apple 55% pracowników było białych i podobnie, kierownictwo Apple obejmowało 63% białych pracowników. Firmy, które udostępniły podobne raporty dotyczące różnorodności, to także Facebook , Google i Twitter. Pięć lat później raport w Wired ujawnił, że nastąpiła minimalna poprawa w tych liczbach.
Podczas gdy Facebook wykazał przyzwoitą poprawę liczb, odsetek czarnoskórych pracowników technicznych Apple pozostał na niezmienionym poziomie i wynosił zaledwie 6% całkowitej siły roboczej. Amazon był jedyną organizacją, która zarejestrowała 42% czarnoskórych lub latynoamerykańskich pracowników w swoich biurach w Stanach Zjednoczonych.
Co oznaczają te statystyki? W Stanach Zjednoczonych większość koderów, którzy są przypisani do dużych projektów, takich jak projektowanie algorytmów systemów nadzoru, jest biała. Są to osoby, które podejmują najważniejsze decyzje dotyczące produktu lub usługi, które firma ma wprowadzić na rynek. A zatem to ich perspektywy, podejście i procesy myślowe wchodzą w skład ostatecznej kreacji. Nie oznacza to, że biali są rasistami i celowo zaprojektowali takie systemy nadzoru . NIE!
Źródło obrazu: Forbes
Kiedy biały facet projektuje algorytm rozpoznawania twarzy i ma tylko białych kolegów doradzających/pomagających mu, nie biorą oni pod uwagę osób o innych cechach twarzy przed sfinalizowaniem kodu. Ponieważ biali inżynierowie dominują w branży technologicznej, archiwa danych używane do przygotowania początkowego kodu są również tworzone i kalibrowane przez białych techników. W ten sposób sam kod jest tworzony z odchyleniem w swoim podstawowym algorytmie obliczeniowym, co skutkuje tymi rasowymi różnicami w wynikach nadzoru.
Kod po prostu uczy się, co w nim ucieleśniają biali. Nie ma perspektywy ani wkładu jakiejkolwiek osoby innego koloru.
Problemy z kalibracją
Amerykańskie organy ścigania w dużej mierze opierają się na inwigilacji i śledzeniu danych. Było wiele przypadków, w których sygnaliści wyparli informacje dotyczące nieuprawnionego nadzoru osób cywilnych. Jednym z takich przykładów jest ujawnienie przez Edwarda Snowdena nielegalnej inwigilacji prowadzonej przez NSA.
Źródło obrazu: CBS Local
Te programy nadzoru są wspierane odciskami twarzy i innymi danymi osobowymi milionów obywateli. Jeśli weźmiemy pod uwagę tylko odciski twarzy, miliony Amerykanów otwarcie udostępniają zdjęcia na platformach społecznościowych. Następnie na każdej ulicy w kraju znajdują się kamery CCTV, które oferują na żywo materiał z setek tysięcy przechodniów. Obecnie w policyjnych bazach danych znajduje się około 117 milionów obrazów, podczas gdy FBI ma ponad 400 milionów zestawów danych do kalibracji w algorytmach rozpoznawania twarzy nadzoru.
Teraz wyobraź sobie te zestawy danych w porównaniu z pojedynczym obrazem, który mógł uchwycić wszystkie cechy twarzy danej osoby lub nie. W takim scenariuszu prawdopodobnie pojawią się błędy. Jest po prostu zbyt dużo danych, aby zrozumieć i porównać je z jednym odciskiem twarzy. Żaden algorytm nie może zagwarantować stuprocentowej pewności wyniku, gdy kalibracja jest tak skomplikowana. To ostatecznie składa się na profilowanie rasowe spowodowane technologią rozpoznawania twarzy.
Ogromna niezawodność rozpoznawania twarzy
Źródło obrazu: NY Post
Przypadek Williego Lyncha przypomina, że rozpoznawanie twarzy nie powinno być jedyną wiarygodną techniką przedstawianą jako dowód, jeśli chodzi o egzekwowanie prawa. To jest powód, dla którego policja miasta Tampa zrezygnowała z technologii.
Prawdą jest, że rozpoznawanie twarzy jest doskonałym rozwiązaniem i pomaga policji. Sprawcy zamachów bombowych w Boston Marathon zostali zidentyfikowani na podstawie obszernej i szczegółowej analizy nagrań z monitoringu. Ale to nie może być jedyny dowód, by kogoś skazać. Muszą istnieć dowody potwierdzające wyniki algorytmów rozpoznawania twarzy, a przed ostatecznym ustaleniem należy rozważyć koncepcję błędu automatyzacji.
Problem ze sprzętem: rozpoznawanie twarzy w telefonach komórkowych i aparatach
Źródło obrazu: TechCrunch
Systemy kamer monitorujących oraz związany z nimi sprzęt i oprogramowanie nie są projektowane przez jedną firmę. To branża warta miliardy dolarów, w której dziesiątki korporacji konkurują o kontrakty od organów ścigania. Wiele z tych systemów pochodzi od chińskich producentów. Wszystko sprowadza się do uzyskania najtańszej technologii o najlepszych właściwościach. Tak to głównie działa. Dlatego zawsze istnieją szanse na różnice w kalibracji różnych systemów, a także na zmienność jakości wyników nadzoru. Wiele algorytmów monitoringu kamer jest nieskutecznych w kalibrowaniu obrazów osób kolorowych tylko z powodu niekompetencji technicznych, gloryfikując w ten sposób dyskryminację rasową.
Problemy techniczne powodujące rasizm poprzez rozpoznawanie twarzy zostały również zauważone w funkcji Apple Face Lock. Sprawa z Chin usunęła, że blokada twarzy iPhone'a X nie była w stanie odróżnić dwóch różnych chińskich współpracowników, co czyni tę funkcję bezużyteczną. Podobne doniesienia zostały odrzucone, powołując się na problemy z oddzieleniem dwóch czarnoskórych osób od siebie. Jak wspomniano powyżej, Apple ma tylko 6% czarnoskórych osób w zespołach technicznych. To wyraźny przykład na to, jak technologia rozpoznawania twarzy może promować rasizm nawet w naszych urządzeniach przenośnych.
Wniosek
Tak, Rozpoznawanie Twarzy jest rasistowskie i to jest teraz powszechna wiedza. Chociaż technologia rozwija się codziennie, aby rozwiązywać takie problemy, wyniki są takie same. Technologia ma zjednoczyć świat we wspólnych celach postępu technicznego i rozwoju, ale niektóre techniki po prostu szkodzą harmonii rasowej i społecznej.
Na razie najlepszą rzeczą, jaką mogą zrobić funkcjonariusze organów ścigania, jest nie popieranie swoich spraw w oparciu o dowody z kalibracji algorytmicznych, które nie są nawet wiarygodne. Co więcej, najwyższy czas, aby różnorodność i włączenie społeczne w miejscu pracy potraktować poważnie, aby ludzie wszystkich grup etnicznych mogli zjednoczyć się i stworzyć produkt wolny od różnic rasowych. Na świecie są tysiące ras, a ludzie dorośli, by odłożyć na bok różnice rasowe, które tak długo prześladowały globalne społeczeństwo. Jeśli to musi być utrzymane, to maszyny, na których tak bardzo się opieramy, muszą być uczone tego samego.
Dowiedz się, jak czyścić obudowę uchwytu łagodnym mydłem i letnią wodą, jak ją prawidłowo suszyć, jak unikać szkodliwego działania ciepła i jak rozpoznać, kiedy należy wymienić obudowę.
Dowiedz się, jak przeprowadzać inspekcję i serwisować filtr powietrza silnika, kiedy czyszczenie jest wskazane, kiedy wymiana jest bezpieczniejsza i jak sprawdzić poprawność ponownej instalacji.
Dowiedz się, jak bezpiecznie czyścić kostkarkę do lodu w zamrażarce, w tym pojemnik na lód, dostępne powierzchnie kostkarki, otwór dozownika, suszenie, ponowny montaż i jakich błędów należy unikać.
Dowiedz się, jak bezpiecznie czyścić dyszę bidetową, na czym tak naprawdę polega samoczyszczenie, jak radzić sobie z nagromadzonymi minerałami i które środki czyszczące są najlepsze dla Twojego konkretnego modelu.
Dowiedz się, jak bezpiecznie czyścić filtr piaskowy w basenie, oceń, czy płukanie wsteczne zadziałało, a także dowiedz się, kiedy uzasadnione jest dokładniejsze czyszczenie, naprawa lub wymiana złoża.
Dowiedz się, jak bezpiecznie czyścić młynek do kawy – od suchego szczotkowania żaren po mycie wyjmowanych części, ponowny montaż, testowanie i pielęgnację ostrzy młynka.
Dowiedz się, jak bezpiecznie usuwać klej do paznokci z ubrań – począwszy od zeskrobywania zaschniętego kleju, przez ostrożne stosowanie acetonu, pranie, aż po sprawdzanie materiału przed suszeniem.
Dowiedz się, jak bezpiecznie usuwać pozostałości naklejek z ubrań – poprzez obróbkę na zimno, wstępną obróbkę, ostrożne stosowanie rozpuszczalników, pranie i suszenie na powietrzu.
Dowiedz się, jak bezpiecznie czyścić klawiaturę mechaniczną, m.in. jak czyścić wyjmowane nakładki klawiszy, usuwać kurz, brud, osuszać i ponownie składać klawiaturę, a także kiedy przerwać i sprawdzić instrukcję obsługi.
Dowiedz się, jak delikatnie usunąć klej z ubrań, kiedy użyć kleju na gorąco lub superkleju, a także jak sprawdzić tkaninę przed wyschnięciem.
