Profilarea rasială în tehnologia recunoașterii faciale: poate recunoașterea facială să fie rasistă?

Tehnologia de recunoaștere facială și abilitățile sale au crescut cu mult peste imaginația noastră, de când noi algoritmi pentru a consolida această tehnologie în aplicarea legii au devenit proeminente. În prezent, tehnologia de recunoaștere a feței este utilizată de forțele de aplicare a legii la cele mai scăzute niveluri ale proceselor de colectare a datelor pentru a identifica infractorii criminali în mijlocul adunărilor aglomerate. Tehnologia folosește imagini de la camere CCTV din locuri publice și străzi și apoi rulează datele adunate împotriva arhivelor agenției pentru a detecta o față care este căutată pentru infracțiuni penale.

Această tehnologie a fost în continuare încorporată în cele mai mici gadgeturi, inclusiv telefoane mobile și dispozitive inteligente. Prin urmare, nu vă protejează doar pe străzi, ci și intenționează să vă protejeze informațiile personale stocate pe dispozitivele dvs. inteligente. Utilizarea „faceprint” pentru practicile de marketing și publicitate a devenit obișnuită în epoca modernă a campaniilor în rețelele sociale. Și apoi, există supraveghere privată în mall-uri, magazine cu amănuntul etc.

Din această perspectivă, se pot evidenția rapid avantajele incontestabile ale tehnologiei de recunoaștere facială. Dar a fost, de asemenea, analizat pentru amenințarea pe care o reprezintă pentru confidențialitatea utilizatorilor, protecția datelor și, desigur, transparența dintre lege și public. Este un lucru bun să fii conștient atât de avantajele, cât și de dezavantajele unei astfel de tehnologii invazive. Cu toate acestea, mai există un dezavantaj al tehnologiei de recunoaștere a feței, pe care oamenii par să-l ignore, și anume profilarea rasială și discriminarea rasială .

În această piesă, ne uităm la modul în care această tehnologie promovează părtinirea rasială și discriminarea și cât de grave sunt repercusiunile unei astfel de tehnologii invazive.

Cum funcționează recunoașterea facială?

Sursa imagine: National Post

Pasul 1: O fotografie cu dvs. este făcută de pe o cameră, contul dvs., e-mail etc. Este fie o fotografie directă de profil, fie o fotografie aleatorie într-o mulțime.

Pasul 2: Software-ul de recunoaștere a feței vă va rula chipul printr-o bază de date de amprente stocate. Amprenta facială este adunată prin urmărirea geometrică a feței tale.

Pasul 3: Un procent de potrivire a imaginii dvs. cu orice amprentă facială cunoscută este produs folosind un algoritm asupra căruia se face o determinare.

Disturbirea automatizării: unul dintre multele defecte ale tehnologiei recunoașterii faciale

Automation Bias sau Machine Bias se referă la scenariul în care un algoritm de mașină prezintă o anumită părtinire în calibrarea datelor de intrare, dând astfel rezultate nefavorabile. Acest lucru se întâmplă atunci când există o eroare în codul algoritmului, lipsa seturilor de date stocate pentru calibrare, valori de intrare incorecte sau date de intrare excesive, care depășesc puterea mașinilor de a calibra.

Cum merge profilarea rasială cu toate acestea?

Sursa imagine: The Guardian

Să începem cu un incident străvechi care la acea vreme era considerat nesemnificativ. În 2001, Tampa City a folosit un software de recunoaștere a feței pentru supravegherea orașului aglomerat, în timp ce turiștii inundau străzile orașului din cauza Super Bowl-ului din 2001. Conform unui raport din New York Times , software-ul a identificat 19 persoane care se presupune că aveau mandate restante împotriva lor; cu toate acestea, nu au fost efectuate arestări deoarece infrastructura stadionului a făcut imposibilă ajungerea la vinovații identificați în mijlocul unei mulțimi copleșitoare.

Deși semnele profilării rasiale nu au fost văzute nicăieri în acest caz particular, a fost prima dată când tehnicile de supraveghere au fost aplicate împotriva încălcării libertăților civile și a vieții private a persoanelor. În următorii ani, Poliția din Tampa a renunțat la aceste sisteme de supraveghere, invocând rezultate nesigure.

Sursa imagine: ICO

Trecând rapid la un scenariu ceva mai recent, Ali Breland a raportat pentru The Guardian , cu privire la arestarea lui Willie Lynch, un bărbat de culoare acuzat că este un traficant de droguri notoriu în zona Brentwood, predominant un cartier de oameni de culoare. Singura dovadă împotriva lui Lynch au fost fotografiile sale de pe un mobil, care au fost analizate împotriva unei baze de date a poliției, înainte ca poliția să-l determine vinovat. Lynch a fost condamnat pentru opt ani, care a făcut acum apel împotriva condamnării. Indiferent dacă el a fost presupusul dealer sau nu, inevitabil naște îngrijorarea dacă doar un rezultat bazat pe mașină este suficient pentru a susține condamnarea oricărei persoane investigate?

În 2019, după cum a raportat Tom Perkins pentru The Guardian , poliția din Detroit a fost găsită folosind recunoașterea facială pentru a face arestări presupus în ultimii doi ani. Detroit este un loc în care mai mult de 80% din populație este de culoare. O declarație a unui membru de culoare de la Comisia de poliție din Detroit a ridicat îngrijorări față de această practică. El a spus că oamenii de culoare au o trăsătură facială comună care pune în pericol algoritmul sistemului, numind acest lucru drept „tehno-rasism”.

Sursa imagine: Vox

Într-o cercetare din 2019 pentru Journal of Information Communication and Ethics Society, de către Fabio Bacchini și Ludovica Lorusso, s-a constatat că aceste sisteme biometrice și de recunoaștere a feței nu sunt 100% fiabile pentru forțele de ordine. În plus, discriminarea rasială a avut un impact negativ asupra tuturor acestor sisteme, ceea ce are implicații societale inverse. Studiul a vizat în special societățile occidentale, unde astfel de sisteme sunt utilizate pe scară largă pentru supraveghere.

Acestea sunt doar trei dintre multele astfel de exemple în care au apărut cazuri de disparități rasiale cauzate de sistemele de recunoaștere a feței. Dar de ce sunt aceste sisteme atât de incompetente, în ciuda unei astfel de acuratețe tot mai mari în actualizările de codare algoritmică în tehnologie.

Supremația albă în statele occidentale: o industrie tehnologică dominată de alb

În 2014, s-a descoperit că majoritatea companiilor de tehnologie, inclusiv gigantul Apple Inc., angajează angajați în mare parte albi, bărbați. În Apple, 55% dintre angajați erau albi și, în mod similar, conducerea Apple cuprindea 63% dintre angajații albi. Companiile care au distribuit rapoarte similare privind diversitatea au inclus și Facebook , Google și Twitter. Cinci ani mai târziu, un raport din Wired a dezvăluit că a existat o îmbunătățire minimă a acestor numere.

În timp ce Facebook a arătat o îmbunătățire decentă a cifrelor, procentul lucrătorilor tehnici de culoare de la Apple a rămas neschimbat la doar 6% din forța de muncă totală. Amazon a fost singura organizație care a înregistrat 42% lucrători de culoare sau din America Latină în birourile sale din SUA.

Ce înseamnă aceste statistici? În SUA, majoritatea codificatorilor, care sunt alocați unor proiecte majore, cum ar fi proiectarea de algoritmi pentru sistemele de supraveghere, sunt albi. Acestea sunt persoanele care iau cele mai semnificative decizii cu privire la un produs sau serviciu care urmează să fie lansat/dezvăluit de către o companie. Și, prin urmare, perspectivele, abordarea și procesele lor de gândire sunt cele care merg în creația finală. Acest lucru nu înseamnă că oamenii albi sunt rasiști ​​și au conceput astfel de sisteme de supraveghere . NU!

Sursa imagine: Forbes

Când un tip alb proiectează un algoritm de recunoaștere a feței și are doar colegi albi care îl consultă/asista, aceștia nu iau în considerare trăsăturile faciale de altă culoare înainte de a finaliza codul. Deoarece inginerii albi domină industria tehnologică, arhivele de date folosite pentru a pregăti codul inițial sunt, de asemenea, create și calibrate de tehnicieni albi. Astfel, codul în sine este creat cu o părtinire în algoritmul său de calcul de bază, rezultând aceste disparități rasiale în rezultatele supravegherii.

Codul învață pur și simplu ce întruchipează oamenii albi în el. Nu există nicio perspectivă sau contribuție a vreunei persoane de altă culoare.

Problemele de calibrare

Forțele de ordine americane se bazează în mare măsură pe supraveghere și urmărirea datelor. Au existat multe cazuri în care denunțătorii au eliminat informații privind supravegherea neautorizată a civililor. Dezvăluirea de către Edward Snowden a supravegherii ilegale a NSA este un astfel de exemplu.

Sursa imagine: CBS Local

Aceste programe de supraveghere sunt susținute de amprente faciale și alte informații personale ale milioane de cetățeni. Dacă luăm în considerare doar amprentele faciale, există milioane de americani care împărtășesc în mod deschis imagini pe platformele de socializare. Apoi există camere CCTV pe fiecare stradă a națiunii care oferă filmări în direct cu sute de mii de trecători. În prezent, există aproximativ 117 milioane de imagini în bazele de date ale poliției, în timp ce FBI are peste 400 de milioane de seturi de date de calibrat în algoritmii de recunoaștere a feței de supraveghere.

Acum imaginați-vă aceste seturi de date comparate cu o singură imagine care poate sau nu să fi surprins toate trăsăturile faciale ale unei anumite persoane. Într-un astfel de scenariu, este probabil să apară erori. Există prea multe date pentru a le înțelege și a le rula pe o singură amprentă. Niciun algoritm nu poate garanta o asigurare sută la sută în rezultatul său atunci când calibrarea este atât de complicată. Acest lucru se adaugă în cele din urmă la profilarea rasială cauzată de tehnologia de recunoaștere a feței.

Fiabilitatea imensă a recunoașterii feței

Sursa imagine: NY Post

Cazul lui Willie Lynch este o reamintire a faptului că recunoașterea feței nu ar trebui să fie singura tehnică de încredere prezentată ca probă atunci când vine vorba de aplicarea legii. Acesta este motivul pentru care poliția orașului Tampa a renunțat la tehnologie.

Este adevărat că recunoașterea feței este o stațiune excelentă și este de ajutor poliției. Vinovații de la Boston Marathon Bombings au fost recunoscuți folosind o analiză extinsă și detaliată a înregistrărilor de supraveghere. Dar aceasta nu poate fi dovada singulară pentru a condamna pe cineva. Trebuie să existe dovezi care să dovedească rezultatele algoritmilor de recunoaștere a feței, iar conceptul de părtinire a automatizării trebuie luat în considerare înainte de a ajunge la o determinare finală.

Problema hardware: recunoașterea feței în dispozitive mobile și camere

Sursa imagine: TechCrunch

Sistemele de camere de supraveghere și hardware-ul și software-ul asociat nu sunt proiectate de o singură companie. Este o industrie de miliarde de dolari în care zeci de corporații concurează pentru a obține contracte de la agențiile de aplicare a legii. Multe dintre aceste sisteme sunt de la producători chinezi. Totul este să obțineți cea mai ieftină tehnologie cu cele mai bune calități. Așa funcționează în mare parte. Și, prin urmare, există întotdeauna șanse de diferențe în calibrarea diferitelor sisteme, precum și variații în calitatea rezultatelor supravegherii. Mulți algoritmi de supraveghere a camerelor sunt ineficienți în calibrarea imaginilor persoanelor de culoare doar din cauza incompetenței tehnice, gloriind astfel discriminarea rasială.

Problemele tehnologice care provoacă rasismul prin recunoașterea feței au fost observate și în funcția Apple Face Lock. Un caz din China a eliminat că dispozitivul de blocare a feței iPhone X nu a putut face diferența între doi colegi chinezi diferiți, făcând funcția inutilă. Rapoarte similare au fost respinse, invocând probleme legate de separarea a doi oameni de culoare unul de altul. După cum am menționat mai sus, Apple are doar 6% dintre oameni de culoare în echipele tehnice. Este un exemplu clar al modului în care o tehnologie de recunoaștere a feței poate promova rasismul chiar și în dispozitivele noastre portabile.

Concluzie

Da, recunoașterea facială este rasistă și asta este cunoscut acum. În timp ce tehnologia crește zilnic pentru a remedia astfel de probleme, rezultatele sunt toate aceleași. Tehnologia ar trebui să unească lumea în ceea ce privește obiectivele comune ale progreselor tehnice și dezvoltării, dar unele tehnici doar dăunează armoniei rasiale și comunale.

Deocamdată, cel mai bun lucru pe care îl pot face oficialii de aplicare a legii este să nu-și susțină cazurile pe baza dovezilor din calibrări algoritmice, care nici măcar nu sunt de încredere. Mai mult, este timpul ca diversitatea și incluziunea la locurile de muncă să fie luate în serios, astfel încât oamenii de toate etniile să se poată reuni pentru a crea un produs care să fie lipsit de disparități rasiale. Există mii de rase în lume, iar oamenii au ajuns să lase deoparte diferențele rasiale, care au bântuit societatea globală atât de mult timp. Dacă acest lucru trebuie menținut, atunci mașinile pe care ne bazăm atât de mult trebuie să fie învățate la fel.