Racial Profiling in der Gesichtserkennungstechnologie: Kann Gesichtserkennung rassistisch sein?

Die Gesichtserkennungstechnologie und ihre Fähigkeiten haben unsere Vorstellungskraft weit übertroffen, seit neue Algorithmen zur Verstärkung dieser Technologie in der Strafverfolgung an Bedeutung gewonnen haben. Gegenwärtig wird die Gesichtserkennungstechnologie von den Strafverfolgungsbehörden auf den untersten Ebenen der Datenerfassungsprozesse verwendet, um kriminelle Straftäter in überfüllten Versammlungen zu identifizieren. Der Techniker verwendet Filmmaterial von CCTV-Kameras an öffentlichen Plätzen und Straßen und führt dann die gesammelten Daten gegen die Archive der Behörden aus, um ein Gesicht zu erkennen, das wegen Straftaten gesucht wird.

Diese Technologie wurde außerdem in die kleinsten Geräte integriert , darunter Mobiltelefone und intelligente tragbare Geräte. Daher schützt es Sie nicht nur auf der Straße, sondern beabsichtigt auch, Ihre persönlichen Daten zu schützen, die auf Ihren Smart-Geräten gespeichert sind. Die Verwendung von „Faceprint“ für Marketing- und Werbepraktiken ist im modernen Zeitalter der Social-Media-Kampagnen üblich geworden. Und dann gibt es private Überwachung in Einkaufszentren, Einzelhandelsgeschäften usw.

Aus dieser Perspektive kann man schnell auf die unbestreitbaren Vorteile der Gesichtserkennungstechnologie hinweisen. Es wurde jedoch auch auf die Bedrohung der Privatsphäre der Benutzer, des Datenschutzes und natürlich der Transparenz zwischen Gesetz und Öffentlichkeit untersucht. Es ist gut, sich der Vor- und Nachteile einer solchen invasiven Technologie bewusst zu sein. Es gibt jedoch noch einen weiteren Nachteil der Gesichtserkennungstechnologie, den die Leute zu ignorieren scheinen, und das ist die Erstellung von Rassenprofilen und die Rassendiskriminierung .

In diesem Artikel untersuchen wir, wie diese Technologie rassistische Vorurteile und Diskriminierung fördert und wie schwerwiegend die Auswirkungen einer solchen invasiven Technologie sind.

Wie funktioniert die Gesichtserkennung?

Bildquelle: Nationale Post

Schritt 1: Ein Bild von Ihnen wird von einer Kamera, Ihrem Konto, Ihrer E-Mail usw. aufgenommen. Es ist entweder ein reines Profilbild oder ein zufälliger Schnappschuss in einer Menschenmenge.

Schritt 2: Die Gesichtserkennungssoftware führt Ihr Gesicht durch eine Datenbank mit gespeicherten Gesichtsabdrücken. Der Gesichtsabdruck wird durch geometrisches Tracking Ihres Gesichts erfasst.

Schritt 3: Ein Übereinstimmungsprozentsatz Ihres Bildes mit jedem bekannten Gesichtsabdruck wird unter Verwendung eines Algorithmus erstellt, über den eine Entscheidung getroffen wird.

Automation Bias: Einer von vielen Fehlern der Gesichtserkennungstechnologie

Automation Bias oder Machine Bias bezieht sich auf das Szenario, in dem ein Maschinenalgorithmus eine gewisse Verzerrung bei der Kalibrierung der Eingabedaten aufweist und somit eine ungünstige Ausgabe ergibt. Dies geschieht, wenn ein Fehler im Algorithmuscode, fehlende gespeicherte Datensätze für die Kalibrierung, falsche Eingabewerte oder übermäßige Eingabedaten vorliegen, die die Fähigkeit der Maschinen zum Kalibrieren übersteigen.

Wie geht Racial Profiling mit all dem?

Bildquelle: The Guardian

Beginnen wir mit einem alten Vorfall, der damals als unbedeutend galt. Im Jahr 2001 verwendete Tampa City eine Gesichtserkennungssoftware zur Überwachung der überfüllten Stadt, als Touristen aufgrund des Super Bowl 2001 die Straßen der Stadt überfluteten. Laut einem Bericht der New York Times identifizierte die Software 19 Personen, die angeblich ausstehende Haftbefehle gegen sie hatten; es kam jedoch zu keinen Festnahmen, da die Infrastruktur des Stadions es unmöglich machte, bei einer überwältigenden Menschenmenge zu den identifizierten Tätern zu gelangen.

Obwohl in diesem speziellen Fall nirgendwo Anzeichen von Racial Profiling zu sehen waren, wurden zum ersten Mal Überwachungstechniken gegen die Verletzung der bürgerlichen Freiheiten und der Privatsphäre von Einzelpersonen eingesetzt. In den kommenden Jahren gab die Polizei von Tampa diese Überwachungssysteme unter Berufung auf unzuverlässige Ergebnisse auf.

Bildquelle: ICO

Im Schnellvorlauf zu einem etwas neueren Szenario berichtete Ali Breland für The Guardian über die Verhaftung von Willie Lynch, einem Schwarzen, der beschuldigt wird, ein berüchtigter Drogendealer in der Gegend von Brentwood zu sein, hauptsächlich einer Nachbarschaft von Farbigen. Der einzige Beweis gegen Lynch waren seine Bilder auf einem Handy, die mit einer Polizeidatenbank verglichen wurden, bevor die Polizei ihn als Täter ermittelte. Lynch wurde zu acht Jahren verurteilt, die nun Berufung gegen die Verurteilung eingelegt hat. Unabhängig davon, ob er der mutmaßliche Händler war oder nicht, gibt es unweigerlich Bedenken, ob nur ein maschinenbasiertes Ergebnis ausreicht, um die Verurteilung eines Untersuchungsteilnehmers aufrechtzuerhalten?

Im Jahr 2019 wurde, wie Tom Perkins für The Guardian berichtete , festgestellt, dass die Polizei von Detroit die Gesichtserkennung benutzte, um angeblich in den letzten zwei Jahren Verhaftungen vorzunehmen. Detroit ist ein Ort, an dem mehr als 80% der Bevölkerung schwarz sind. Eine Aussage eines schwarzen Mitglieds der Detroit Police Commission gab Anlass zu Bedenken gegen die Praxis. Er sagte, dass schwarze Menschen ein gemeinsames Gesichtsmerkmal haben, das den Algorithmus des Systems gefährdet, und bezeichnet dies als „Techno-Rassismus“.

Bildquelle: Vox

In einer Studie von Fabio Bacchini und Ludovica Lorusso für das Journal of Information Communication and Ethics Society aus dem Jahr 2019 wurde festgestellt, dass diese biometrischen und Gesichtserkennungssysteme für die Strafverfolgung nicht 100% zuverlässig sind. Darüber hinaus wirkte sich die Rassendiskriminierung negativ auf alle diese Systeme aus, was weitere negative Auswirkungen auf die Gesellschaft hat. Die Studie richtete sich insbesondere an westliche Gesellschaften, in denen solche Systeme in großem Umfang zur Überwachung eingesetzt werden.

Dies sind nur drei von vielen Beispielen, in denen Fälle von Rassenunterschieden durch Gesichtserkennungssysteme ans Licht gekommen sind. Aber warum sind diese Systeme trotz der zunehmenden Genauigkeit der algorithmischen Codierung in der Technologie so inkompetent?

Weiße Vorherrschaft in den westlichen Staaten: Eine weiß dominierte Technologiebranche

Im Jahr 2014 stellte sich heraus, dass die Mehrheit der Technologieunternehmen, einschließlich des Giganten Apple Inc., hauptsächlich weiße, männliche Mitarbeiter einstellten. Bei Apple waren 55 % der Mitarbeiter weiß, und die Apple-Führung umfasste 63 % der weißen Mitarbeiter. Zu den Unternehmen, die ähnliche Diversity-Berichte teilten, gehörten auch Facebook , Google und Twitter. Fünf Jahre später enthüllte ein Bericht in Wired, dass sich diese Zahlen nur minimal verbessert hatten.

Während Facebook eine deutliche Verbesserung der Zahlen verzeichnete, blieb der Anteil der schwarzen technischen Mitarbeiter bei Apple unverändert bei nur 6% der Gesamtbelegschaft. Amazon war die einzige Organisation, die 42 % schwarze oder lateinamerikanische Arbeiter in ihren US-Büros registrierte.

Was bedeuten diese Statistiken? In den USA sind die meisten Programmierer, die mit Großprojekten wie der Entwicklung von Algorithmen für Überwachungssysteme beauftragt sind, weiß. Dies sind die Personen, die die wichtigsten Entscheidungen in Bezug auf ein Produkt oder eine Dienstleistung treffen, die von einem Unternehmen eingeführt/vorgestellt werden sollen. Und daher sind es ihre Perspektiven, Herangehensweisen und Denkprozesse, die in die endgültige Schöpfung einfließen. Dies soll nicht heißen, dass weiße Menschen Rassisten sind und solche Überwachungssysteme absichtlich entwickelt haben . NEIN!

Bildquelle: Forbes

Wenn ein Weißer einen Gesichtserkennungsalgorithmus entwirft und nur weiße Kollegen hat, die ihn beraten/unterstützen, berücksichtigen sie die Gesichtsmerkmale anderer Hautfarben nicht, bevor sie den Code finalisieren. Da weiße Ingenieure die Tech-Branche dominieren, werden auch die Datenarchive zur Erstellung des Ausgangscodes von weißen Technikern erstellt und kalibriert. Daher wird der Code selbst mit einer Voreingenommenheit in seinem zentralen Rechenalgorithmus erstellt, was zu diesen Rassenunterschieden in den Überwachungsergebnissen führt.

Der Code lernt einfach, was weiße Menschen darin verkörpern. Es gibt keine Perspektive oder einen Beitrag einer Person anderer Hautfarbe.

Die Kalibrierungsprobleme

Die amerikanischen Strafverfolgungsbehörden verlassen sich stark auf Überwachung und Datenverfolgung. Es gab viele Fälle, in denen Whistleblower Informationen über die unbefugte Überwachung von Zivilisten verdrängten. Edward Snowdens Enthüllung der illegalen Überwachung durch die NSA ist ein solches Beispiel.

Bildquelle: CBS Local

Diese Überwachungsprogramme werden durch Gesichtsabdrücke und andere persönliche Informationen von Millionen von Bürgern unterstützt. Wenn wir nur Gesichtsabdrücke betrachten, gibt es Millionen von Amerikanern, die offen Bilder auf Social-Media-Plattformen teilen. Dann gibt es in jeder Straße des Landes CCTV-Kameras , die Live-Aufnahmen von Hunderttausenden von Passanten bieten. Derzeit befinden sich ungefähr 117 Millionen Bilder in Polizeidatenbanken, während das FBI über mehr als 400 Millionen Datensätze verfügt, um die Gesichtserkennungsalgorithmen der Überwachung zu kalibrieren.

Stellen Sie sich nun vor, diese Datensätze mit einem einzelnen Bild zu vergleichen, das möglicherweise alle Gesichtsmerkmale der bestimmten Person erfasst hat oder nicht. In einem solchen Szenario treten wahrscheinlich Fehler auf. Es gibt einfach zu viele Daten, um sie zu verstehen und mit einem Gesichtsabdruck zu vergleichen. Kein Algorithmus kann eine hundertprozentige Ergebnissicherheit garantieren, wenn die Kalibrierung so kompliziert ist. Dies summiert sich schließlich zu der durch die Gesichtserkennungstechnologie verursachten Rassenprofilierung.

Die enorme Zuverlässigkeit der Gesichtserkennung

Bildquelle: NY Post

Der Fall Willie Lynch erinnert daran, dass die Gesichtserkennung nicht die einzige zuverlässige Methode sein sollte, die bei der Strafverfolgung als Beweis vorgelegt wird. Dies ist der Grund, warum die Polizei der Stadt Tampa die Technologie aufgegeben hat.

Es stimmt, dass die Gesichtserkennung ein ausgezeichnetes Mittel ist und für die Polizei hilfreich ist. Die Schuldigen der Boston Marathon Bombings wurden anhand umfassender und detaillierter Analysen von Überwachungsaufzeichnungen erkannt. Aber das kann nicht der einzige Beweis sein, um jemanden zu verurteilen. Für die Ergebnisse der Gesichtserkennungsalgorithmen müssen stützende Beweise vorliegen, und das Konzept der Automatisierungsverzerrung muss berücksichtigt werden, bevor eine endgültige Entscheidung getroffen wird.

Das Hardwareproblem: Gesichtserkennung in Handys und Kameras

Bildquelle: TechCrunch

Die Überwachungskamerasysteme und die dazugehörige Hard- und Software werden nicht von einem einzigen Unternehmen entwickelt. Es ist eine Branche, die Milliarden von Dollar wert ist, in der Dutzende von Unternehmen um Verträge von Strafverfolgungsbehörden konkurrieren. Viele dieser Systeme stammen von chinesischen Herstellern. Es geht darum, die billigste Technologie mit den besten Eigenschaften zu bekommen. So funktioniert es meistens. Daher besteht immer die Möglichkeit von Unterschieden bei der Kalibrierung verschiedener Systeme sowie von Schwankungen in der Qualität der Überwachungsergebnisse. Viele Kameraüberwachungsalgorithmen sind nur aufgrund technischer Inkompetenz bei der Kalibrierung von Bildern von Farbigen unwirksam und verherrlichen so die Rassendiskriminierung.

Die technischen Probleme, die Rassismus über die Gesichtserkennung verursachen, wurden auch in der Apple Face Lock-Funktion festgestellt. Ein Fall aus China verdrängte, dass die Gesichtssperre des iPhone X nicht zwischen zwei verschiedenen chinesischen Mitarbeitern unterscheiden konnte, was die Funktion unbrauchbar machte. Ähnliche Berichte wurden zurückgewiesen und zitierten Probleme in der Funktion bei der Trennung zweier Schwarzer voneinander. Wie oben erwähnt, hat Apple nur 6% Schwarze in technischen Teams. Es ist ein klares Beispiel dafür, wie eine Gesichtserkennungstechnologie Rassismus sogar in unseren Handheld-Geräten fördern kann.

Abschluss

Ja, Gesichtserkennung ist rassistisch, und das ist mittlerweile allgemein bekannt. Während die Technologie täglich wächst, um solche Probleme zu beheben, sind die Ergebnisse alle gleich. Technologie soll die Welt über gemeinsame Ziele des technischen Fortschritts und der Entwicklung vereinen, aber einige Techniken schaden nur der Rassen- und Gemeinschaftsharmonie.

Im Moment ist das Beste, was Strafverfolgungsbehörden tun können, ihre Fälle nicht auf der Grundlage von Beweisen aus algorithmischen Kalibrierungen zu stützen, die nicht einmal zuverlässig sind. Darüber hinaus ist es höchste Zeit, dass Vielfalt und Inklusion am Arbeitsplatz ernst genommen werden, damit Menschen aller Ethnien zusammenkommen können, um ein Produkt zu schaffen, das frei von Rassenunterschieden ist. Es gibt Tausende von Rassen auf der Welt, und die Menschen sind gewachsen, um die Rassenunterschiede beiseite zu legen, die die globale Gesellschaft so lange heimgesucht haben. Wenn das aufrechterhalten werden muss, dann muss man es auch den Maschinen beibringen, auf die wir uns so sehr verlassen.