Расовое профилирование в технологии распознавания лиц: может ли распознавание лиц быть расистским?

Технология распознавания лиц и ее возможности вышли далеко за пределы нашего воображения с тех пор, как стали популярны новые алгоритмы для усиления этой технологии в правоохранительных органах. В настоящее время технология распознавания лиц используется правоохранительными органами на самых нижних уровнях процессов сбора данных для выявления преступников в условиях многолюдных собраний. Технология использует кадры с камер видеонаблюдения в общественных местах и ​​на улицах, а затем сравнивает собранные данные с архивами агентства, чтобы обнаружить лицо, разыскиваемое за уголовные преступления.

Эта технология была внедрена в самые маленькие гаджеты, включая мобильные телефоны и интеллектуальные носимые устройства. Следовательно, он не только защищает вас на улице, но также предназначен для защиты вашей личной информации, хранящейся на ваших интеллектуальных устройствах. Использование «отпечатка лица» в маркетинге и рекламе стало обычным явлением в современную эпоху проведения кампаний в социальных сетях. Кроме того, есть частное наблюдение в торговых центрах, розничных магазинах и т. Д.

С этой точки зрения можно быстро указать на неоспоримые преимущества технологии распознавания лиц. Но он также был тщательно изучен на предмет угрозы, которую он представляет для конфиденциальности пользователей, защиты данных и, конечно же, прозрачности между законом и общественностью. Хорошо знать как преимущества, так и недостатки такой инвазивной технологии. Тем не менее, есть еще один недостаток технологии распознавания лиц, который люди, похоже, игнорируют, - это расовое профилирование и расовая дискриминация .

В этой статье мы рассмотрим, как эта технология способствует расовому предубеждению и дискриминации и насколько серьезны последствия такой агрессивной технологии.

Как работает распознавание лиц?

Источник изображения: Национальная почта

Шаг 1. Фотография сделана с камеры, из вашей учетной записи, электронной почты и т. Д. Это либо прямая фотография профиля, либо случайный снимок в толпе.

Шаг 2: Программа распознавания лиц запустит ваше лицо в базу данных сохраненных отпечатков. Отпечаток лица собирается путем геометрического отслеживания вашего лица.

Шаг 3: Процент совпадения вашего изображения с любым известным отпечатком лица производится с использованием алгоритма, по которому выполняется определение.

Смещение автоматизации: один из многих недостатков технологии распознавания лиц

Автоматическое смещение или машинное смещение относится к сценарию, в котором машинный алгоритм демонстрирует определенное смещение при калибровке входных данных, что дает неблагоприятный результат. Это происходит, когда есть ошибка в коде алгоритма, отсутствие сохраненных наборов данных для калибровки, неправильные входные значения или избыточные входные данные, которые не поддаются калибровке машины.

Как расовое профилирование сочетается со всем этим?

Источник изображения: The Guardian

Начнем с древнего инцидента, который в то время считался незначительным. В 2001 году Тампа-Сити использовал программное обеспечение для распознавания лиц для наблюдения за многолюдным городом, когда туристы наводняли улицы города из-за Суперкубка 2001 года. Согласно отчету New York Times , программное обеспечение идентифицировало 19 человек, которые предположительно имели невыполненные ордера на них; однако никаких арестов произведено не было, поскольку инфраструктура стадиона не позволяла добраться до установленных виновных среди огромной толпы.

Хотя в данном конкретном случае нигде не было замечено признаков расового профилирования, это был первый случай, когда методы слежки были применены против нарушения гражданских свобод и частной жизни людей. В последующие годы полиция Тампы отказалась от этих систем наблюдения, сославшись на ненадежные результаты.

Источник изображения: ICO

Переходя к более недавнему сценарию, Али Бреланд сообщил для The Guardian об аресте Уилли Линча, чернокожего человека, обвиняемого в том, что он является известным торговцем наркотиками в районе Брентвуд, преимущественно цветном районе. Единственным доказательством против Линча были его фотографии на мобильном телефоне, которые были сопоставлены с полицейской базой данных до того, как полиция определила его как виновника. Линч был осужден на восемь лет, и теперь он обжаловал приговор. Независимо от того, был ли он предполагаемым дилером или нет, это неизбежно вызывает озабоченность по поводу того, достаточно ли только машинного результата, чтобы поддержать обвинительный приговор кому-либо, находящемуся под следствием?

В 2019 году, как сообщил Том Перкинс для The Guardian , полиция Детройта была обнаружена с использованием распознавания лиц для арестов якобы в течение последних двух лет. Детройт - это место, где более 80% населения - черные. В заявлении чернокожего члена полицейской комиссии Детройта высказывались опасения по поводу этой практики. Он сказал, что у чернокожих есть общая черта лица, которая ставит под угрозу алгоритм системы, назвав это «техно-расизмом».

Источник изображения: Vox

В исследовании, проведенном Фабио Бачини и Людовикой Лоруссо для Journal of Information Communication and Ethics Society в 2019 году, было обнаружено, что эти биометрические системы и системы распознавания лиц не на 100% надежны для правоохранительных органов. Более того, расовая дискриминация отрицательно сказалась на всех таких системах, что влечет обратные социальные последствия. Исследование было ориентировано, в частности, на западные общества, где такие системы широко используются для слежки.

Это всего лишь три из многих подобных примеров, когда выявились случаи расового неравенства, вызванного системами распознавания лиц. Но почему эти системы настолько некомпетентны, несмотря на такую ​​растущую точность обновлений алгоритмического кодирования в технологиях?

Белое превосходство в западных штатах: технологическая индустрия с преобладанием белых

В 2014 году было обнаружено, что большинство технологических компаний, включая гигантскую Apple Inc., нанимают в основном белых мужчин. В Apple 55% сотрудников были белыми, и аналогичным образом руководство Apple составляло 63% белых сотрудников. Аналогичные отчеты о разнообразии предоставили компании Facebook , Google и Twitter. Пять лет спустя в отчете Wired было обнаружено, что эти цифры незначительно улучшились.

В то время как Facebook показал приличное улучшение показателей, процент чернокожих технических работников Apple остался неизменным и составил всего 6% от общей численности персонала. Amazon была единственной организацией, которая зарегистрировала 42% чернокожих или латиноамериканских рабочих в своих офисах в США.

Что означает эта статистика? В США большинство кодировщиков, занимающихся крупными проектами, такими как разработка алгоритмов для систем наблюдения, белые. Это люди, которые принимают наиболее важные решения в отношении продукта или услуги, которые компания должна запустить / представить. И, следовательно, их точки зрения, подход и мыслительные процессы входят в окончательное творение. Это не означает, что белые люди являются расистами и специально разработали такие системы наблюдения . НЕТ!

Источник изображения: Forbes

Когда белый парень разрабатывает алгоритм распознавания лиц и только белые коллеги консультируют / помогают ему, они не принимают во внимание людей с чертами лица другого цвета до завершения кода. Поскольку белые инженеры доминируют в технической индустрии, архивы данных, используемые для подготовки исходного кода, также создаются и калибруются белыми техниками. Таким образом, сам код создается с предвзятым отношением к его основному вычислительному алгоритму, что приводит к этим расовым различиям в результатах наблюдения.

Код просто узнает, что в нем воплощают белые люди. Нет никакой точки зрения или вклада какого-либо человека другого цвета кожи.

Проблемы калибровки

Американские правоохранительные органы в значительной степени полагаются на слежку и отслеживание данных. Было много случаев, когда информаторы вытесняли информацию о несанкционированном наблюдении за гражданскими лицами. Раскрытие Эдвардом Сноуденом незаконной слежки АНБ является одним из таких примеров.

Источник изображения: CBS Local

Эти программы наблюдения подтверждаются отпечатками лиц и другой личной информацией миллионов граждан. Если рассматривать только отпечатки лиц, миллионы американцев открыто делятся фотографиями в социальных сетях. Кроме того, на каждой улице страны есть камеры видеонаблюдения, которые позволяют снимать в прямом эфире сотни тысяч прохожих. В настоящее время в полицейских базах данных содержится около 117 миллионов изображений, в то время как у ФБР есть более 400 миллионов наборов данных для калибровки в алгоритмах распознавания лиц наблюдения.

Теперь представьте, что эти наборы данных сравниваются с одним изображением, которое могло или не могло охватывать все черты лица конкретного человека. В таком сценарии могут возникнуть ошибки. Слишком много данных, чтобы их понять и сопоставить с одним отпечатком лица. Ни один алгоритм не может гарантировать стопроцентную уверенность в своем результате при такой сложной калибровке. В конечном итоге это складывается в расовое профилирование, вызванное технологией распознавания лиц.

Безмерная надежность распознавания лиц

Источник изображения: NY Post

Случай с Уилли Линчем является напоминанием о том, что распознавание лиц не должно быть единственным надежным методом, представленным в качестве доказательства, когда речь идет о правоохранительных органах. Это причина того, что полиция города Тампа отказалась от этой технологии.

Это правда, что распознавание лиц - отличный способ помочь полиции. Виновные во взрывах на Бостонском марафоне были выявлены с помощью обширного и подробного анализа записей наблюдения. Но это не может быть единственным доказательством, чтобы кого-либо осудить. Должны быть подтверждающие доказательства, подтверждающие результаты алгоритмов распознавания лиц, и концепция систематической ошибки автоматизации должна быть рассмотрена до принятия окончательного решения.

Аппаратная проблема: распознавание лиц на мобильных устройствах и камерах

Источник изображения: TechCrunch

Системы камер наблюдения и связанное с ними аппаратное и программное обеспечение разрабатываются не одной компанией. Это индустрия стоимостью в миллиарды долларов, в которой десятки корпораций конкурируют за получение контрактов от правоохранительных органов. Многие из этих систем от китайских производителей. Все дело в том, чтобы получить самую дешевую технологию с лучшими качествами. Вот как это обычно работает. И поэтому всегда есть вероятность различий в калибровке разных систем, а также различия в качестве результатов наблюдения. Многие алгоритмы видеонаблюдения неэффективны при калибровке изображений цветных людей только из-за технической некомпетентности, тем самым прославляя расовую дискриминацию.

Технические проблемы, вызывающие расизм через распознавание лиц, также были замечены в функции Apple Face Lock. Случай из Китая вытеснил тот факт, что блокировка лица iPhone X не могла различать двух разных китайских коллег, что сделало эту функцию бесполезной. Подобные сообщения были отклонены, ссылаясь на проблемы, связанные с разделением двух чернокожих людей друг от друга. Как было сказано выше, в технических командах Apple всего 6% чернокожих. Это наглядный пример того, как технология распознавания лиц может способствовать расизму даже в наших портативных устройствах.

Заключение

Да, распознавание лиц расистское, и теперь это общеизвестно. Хотя технологии для решения таких проблем ежедневно развиваются, результаты все те же. Предполагается, что технологии объединяют мир ради общих целей технического прогресса и развития, но некоторые методы просто наносят ущерб расовой и общественной гармонии.

На данный момент лучшее, что могут сделать сотрудники правоохранительных органов, - это не поддерживать свои доводы, основанные на доказательствах алгоритмических калибровок, которые даже не являются надежными. Более того, пора серьезно отнестись к разнообразию и вовлеченности на рабочем месте, чтобы люди всех национальностей могли объединиться для создания продукта, свободного от расовых различий. В мире есть тысячи рас, и люди выросли, чтобы забыть о расовых различиях, которые так долго преследовали мировое общество. Если это необходимо сохранить, то машины, на которые мы так полагаемся, должны быть обучены тому же самому.