Profilazione razziale nella tecnologia di riconoscimento facciale: il riconoscimento facciale può essere razzista?

La tecnologia di riconoscimento facciale e le sue capacità sono cresciute ben oltre la nostra immaginazione da quando sono venuti alla ribalta nuovi algoritmi per rafforzare questa tecnologia nelle forze dell'ordine. Attualmente, la tecnologia di riconoscimento facciale viene utilizzata dalle forze dell'ordine ai livelli più bassi dei processi di raccolta dei dati per identificare i criminali in mezzo a riunioni affollate. La tecnologia utilizza i filmati delle telecamere a circuito chiuso in luoghi pubblici e strade e quindi esegue i dati raccolti negli archivi dell'agenzia per rilevare un volto ricercato per reati.

Questa tecnologia è stata ulteriormente incorporata nel più piccolo dei gadget, inclusi telefoni cellulari e dispositivi indossabili intelligenti. Quindi, non solo ti protegge per le strade, ma intende anche proteggere le tue informazioni personali memorizzate sui tuoi dispositivi intelligenti. L'uso del "faceprint" per le pratiche di marketing e pubblicità è diventato comune nell'era moderna delle campagne sui social media. E poi, c'è la sorveglianza privata nei centri commerciali, nei negozi al dettaglio, ecc.

Da questo punto di vista, si possono rapidamente evidenziare gli innegabili vantaggi della tecnologia di riconoscimento facciale. Ma è stato anche esaminato per la minaccia che rappresenta per la privacy degli utenti, la protezione dei dati e, naturalmente, la trasparenza tra la legge e il pubblico. È una buona cosa essere consapevoli sia dei vantaggi che degli svantaggi di una tecnologia così invasiva. Tuttavia, c'è un altro svantaggio della tecnologia di riconoscimento facciale, che le persone sembrano ignorare, ed è il profiling razziale e la discriminazione razziale .

In questo pezzo, esaminiamo come questa tecnologia promuova pregiudizi e discriminazioni razziali e quanto siano gravi le ripercussioni di tale tecnologia invasiva.

Come funziona il riconoscimento facciale?

Fonte immagine: National Post

Passaggio 1: una tua foto è stata scattata da una fotocamera, dal tuo account, dalla posta elettronica, ecc. Può essere una semplice immagine del profilo o uno scatto casuale in mezzo alla folla.

Passaggio 2: il software di riconoscimento facciale eseguirà il tuo viso attraverso un database di impronte memorizzate. L'impronta del viso viene raccolta tramite il tracciamento geometrico del tuo viso.

Passaggio 3: viene prodotta una percentuale di corrispondenza della tua foto con qualsiasi impronta nota utilizzando un algoritmo su cui viene effettuata una determinazione.

Bias di automazione: uno dei tanti difetti della tecnologia di riconoscimento facciale

Automation Bias o Machine Bias si riferisce allo scenario in cui un algoritmo della macchina mostra un certo bias nella calibrazione dei dati di input, dando così un output sfavorevole. Questo accade quando c'è un errore nel codice dell'algoritmo, mancanza di set di dati memorizzati per la calibrazione, valori di input errati o dati di input eccessivi, che è oltre la forza delle macchine per calibrare.

Come va il profilo razziale con tutto questo?

Fonte immagine: The Guardian

Partiamo da un antico episodio che all'epoca era ritenuto insignificante. Nel 2001, Tampa City ha utilizzato un software di riconoscimento facciale per la sorveglianza della città affollata mentre i turisti inondavano le strade della città a causa del Super Bowl del 2001. Secondo un rapporto del New York Times , il software ha identificato 19 persone che avrebbero avuto mandati in sospeso contro di loro; tuttavia, non sono stati effettuati arresti poiché l'infrastruttura dello stadio ha reso impossibile raggiungere i colpevoli identificati tra una folla schiacciante.

Sebbene i segni del profiling razziale non siano stati visti da nessuna parte in questo caso particolare, è stata la prima volta che sono state utilizzate tecniche di sorveglianza contro la violazione delle libertà civili e della privacy degli individui. Negli anni a venire, la polizia di Tampa ha rinunciato a questi sistemi di sorveglianza citando risultati inaffidabili.

Fonte immagine: ICO

Passando velocemente a uno scenario un po' più recente, Ali Breland ha riferito per The Guardian , in merito all'arresto di Willie Lynch, un uomo di colore accusato di essere un famigerato spacciatore nella zona di Brentwood, prevalentemente un quartiere di persone di colore. L'unica prova contro Lynch erano le sue foto su un cellulare, che sono state confrontate con un database della polizia prima che la polizia lo determinasse come colpevole. Lynch è stato condannato a otto anni, che ora ha presentato ricorso contro la condanna. Che fosse lui il presunto spacciatore o meno, solleva inevitabilmente dubbi sul fatto che solo un risultato basato sulla macchina sia sufficiente per sostenere la condanna di chiunque sia indagato?

Nel 2019, come riportato da Tom Perkins per The Guardian , la polizia di Detroit è stata trovata a utilizzare il riconoscimento facciale per effettuare arresti presumibilmente negli ultimi due anni. Detroit è un luogo dove più dell'80% della popolazione è di colore. Una dichiarazione di un membro nero della Commissione di polizia di Detroit ha sollevato preoccupazioni contro la pratica. Ha detto che i neri hanno un tratto facciale comune che mette a rischio l'algoritmo del sistema, definendolo "tecno-razzismo".

Fonte immagine: Vox

In una ricerca del 2019 per il Journal of Information Communication and Ethics Society, di Fabio Bacchini e Ludovica Lorusso, è emerso che questi sistemi biometrici e di riconoscimento facciale non sono affidabili al 100% per le forze dell'ordine. Inoltre, la discriminazione razziale ha avuto un impatto negativo su tutti questi sistemi, il che ha ulteriori implicazioni sociali inverse. Lo studio si è rivolto in particolare alle società occidentali, dove tali sistemi sono ampiamente utilizzati per la sorveglianza.

Questi sono solo tre dei tanti esempi in cui sono emersi casi di disparità razziali causate dai sistemi di riconoscimento facciale. Ma perché questi sistemi sono così incompetenti nonostante tale crescente precisione negli aggiornamenti di codifica algoritmica nella tecnologia.

La supremazia bianca negli Stati occidentali: un'industria tecnologica dominata dal bianco

Nel 2014, è stato scoperto che la maggior parte delle aziende tecnologiche, tra cui il gigante Apple Inc., assumeva per lo più dipendenti bianchi e di sesso maschile. In Apple, il 55% dei dipendenti era bianco e, allo stesso modo, la leadership di Apple comprendeva il 63% dei dipendenti bianchi. Le aziende che hanno condiviso rapporti sulla diversità simili includevano anche Facebook , Google e Twitter. Cinque anni dopo, un rapporto su Wired ha rivelato che c'era stato un miglioramento minimo in questi numeri.

Mentre Facebook ha mostrato un discreto miglioramento dei numeri, la percentuale di lavoratori tecnici neri di Apple è rimasta invariata a solo il 6% della forza lavoro totale. Amazon è stata l'unica organizzazione che ha registrato il 42% di lavoratori neri o latinoamericani nei suoi uffici negli Stati Uniti.

Cosa significano queste statistiche? Negli Stati Uniti, la maggior parte dei programmatori, assegnati a progetti importanti come la progettazione di algoritmi per i sistemi di sorveglianza, sono bianchi. Sono le persone che prendono le decisioni più significative in merito a un prodotto o servizio da lanciare/svelare da parte di un'azienda. E quindi, sono le loro prospettive, approcci e processi di pensiero che concorrono alla creazione finale. Ciò non significa che i bianchi siano razzisti e che abbiano appositamente progettato tali sistemi di sorveglianza . NO!

Fonte immagine: Forbes

Quando un ragazzo bianco progetta un algoritmo di riconoscimento facciale e ha solo colleghi bianchi che lo consultano o lo assistono, non considerano le persone con tratti del viso di altri colori prima di finalizzare il codice. Poiché gli ingegneri bianchi dominano il settore tecnologico, anche gli archivi di dati utilizzati per preparare il codice iniziale vengono creati e calibrati dai tecnici bianchi. Pertanto, il codice stesso viene creato con un pregiudizio nel suo algoritmo di calcolo principale, con conseguente disparità razziale nei risultati della sorveglianza.

Il codice apprende semplicemente ciò che i bianchi incarnano in esso. Non c'è prospettiva o contributo di alcuna persona di un altro colore.

I problemi di calibrazione

Le forze dell'ordine americane fanno molto affidamento sulla sorveglianza e sul monitoraggio dei dati. Ci sono stati molti casi in cui gli informatori hanno estromesso le informazioni riguardanti la sorveglianza non autorizzata dei civili. La rivelazione di Edward Snowden sulla sorveglianza illegale della NSA ne è un esempio.

Fonte immagine: CBS Local

Questi programmi di sorveglianza sono supportati da impronte e altre informazioni personali di milioni di cittadini. Se consideriamo solo le impronte digitali, ci sono milioni di americani che condividono apertamente le immagini sulle piattaforme dei social media. Poi ci sono telecamere a circuito chiuso in ogni strada della nazione che offrono riprese in diretta di centinaia di migliaia di passanti. Attualmente, ci sono circa 117 milioni di immagini nei database della polizia, mentre l'FBI ha più di 400 milioni di set di dati da calibrare negli algoritmi di riconoscimento facciale di sorveglianza.

Ora immagina questi set di dati confrontati con una singola immagine che potrebbe o meno aver catturato tutti i tratti del viso di una persona in particolare. In uno scenario del genere, è probabile che si verifichino errori. Ci sono troppi dati da comprendere ed eseguire su una sola impronta. Nessun algoritmo può garantire il cento per cento di sicurezza nel suo risultato quando la calibrazione è così complicata. Questo alla fine si aggiunge alla profilazione razziale causata dalla tecnologia di riconoscimento facciale.

L'immensa affidabilità del riconoscimento facciale

Fonte immagine: NY Post

Il caso di Willie Lynch ci ricorda che il riconoscimento facciale non dovrebbe essere l'unica tecnica affidabile presentata come prova quando si tratta di forze dell'ordine. Questo è il motivo per cui la polizia di Tampa ha rinunciato alla tecnologia.

È vero che il riconoscimento facciale è un ottimo resort ed è utile alla polizia. I colpevoli degli attentati alla maratona di Boston sono stati riconosciuti utilizzando un'analisi ampia e dettagliata delle registrazioni di sorveglianza. Ma questa non può essere l'unica prova per condannare qualcuno. Devono esserci prove a sostegno per dimostrare i risultati degli algoritmi di riconoscimento facciale e il concetto di bias di automazione deve essere considerato prima di raggiungere una determinazione finale.

Il problema hardware: riconoscimento facciale in cellulari e fotocamere

Fonte immagine: TechCrunch

I sistemi di telecamere di sorveglianza e l'hardware e il software associati non sono progettati da un'unica azienda. È un settore che vale miliardi di dollari in cui decine di aziende competono per ottenere contratti dalle forze dell'ordine. Molti di questi sistemi provengono da produttori cinesi. Si tratta di ottenere la tecnologia più economica con le migliori qualità. È così che funziona principalmente. E quindi, ci sono sempre possibilità di differenze nella calibrazione di diversi sistemi, nonché variazioni nella qualità dei risultati della sorveglianza. Molti algoritmi di sorveglianza delle telecamere sono inefficaci nel calibrare le immagini di persone di colore solo a causa dell'incompetenza tecnica, esaltando così la discriminazione razziale.

I problemi tecnologici che causano il razzismo tramite il riconoscimento facciale sono stati notati anche nella funzione Apple Face Lock. Un caso dalla Cina ha dichiarato che il blocco facciale dell'iPhone X non era in grado di distinguere tra due diversi colleghi cinesi, rendendo la funzione inutile. Rapporti simili sono stati respinti, citando problemi nella funzione nel separare due persone di colore l'una dall'altra. Come affermato sopra, Apple ha solo il 6% di persone di colore nei team tecnici. È un chiaro esempio di come una tecnologia di riconoscimento facciale possa promuovere il razzismo anche nei nostri dispositivi portatili.

Conclusione

Sì, il riconoscimento facciale è razzista e ora è risaputo. Mentre la tecnologia sta crescendo ogni giorno per correggere tali problemi, i risultati sono tutti gli stessi. La tecnologia dovrebbe unire il mondo su obiettivi comuni di progresso tecnico e sviluppo, ma alcune tecniche stanno solo danneggiando l'armonia razziale e comunitaria.

Per ora, la cosa migliore che le forze dell'ordine possono fare è non supportare i loro casi sulla base di prove derivanti da calibrazioni algoritmiche, che non sono nemmeno affidabili. Inoltre, è giunto il momento che la diversità e l'inclusione nei luoghi di lavoro vengano prese sul serio in modo che persone di tutte le etnie possano unirsi per creare un prodotto privo di disparità razziali. Ci sono migliaia di razze nel mondo e le persone sono cresciute per mettere da parte le differenze razziali, che hanno perseguitato la società globale per così tanto tempo. Se questo deve essere mantenuto, allora le macchine su cui ci affidiamo così tanto devono essere insegnate allo stesso modo.