얼굴 인식 기술의 인종 프로파일링: 얼굴 인식이 인종 차별적일 수 있습니까?

얼굴 인식 기술과 그 능력은 법 집행에서 이 기술을 강화하기 위한 새로운 알고리즘이 눈에 띄게 된 이후로 우리의 상상을 훨씬 뛰어 넘었습니다. 현재 얼굴 인식 기술은 가장 낮은 수준의 데이터 수집 프로세스에서 경찰이 혼잡한 모임에서 범죄자를 식별하는 데 사용됩니다. 이 기술은 공공 장소와 거리에 있는 CCTV 카메라의 영상을 사용���고 수집된 데이터를 기관 기록 보관소에 대해 실행하여 범죄 혐의로 수배되는 얼굴을 감지합니다.

이 기술은 휴대폰 및 스마트 웨어러블 장치를 포함한 가장 작은 장치에 추가로 포함되었습니다 . 따라서 거리에서 사용자를 보호할 뿐만 아니라 스마트 장치에 저장된 개인 정보를 보호하려는 것입니다. 마케팅 및 광고 관행에 "페이스프린트"를 사용하는 것은 소셜 미디어 캠페인의 현대 시대에 보편화되었습니다. 그리고 쇼핑몰, 소매점 등에서 사설 감시가 이루어집니다.

이러한 관점에서 안면 인식 기술의 부인할 수 없는 장점을 빠르게 지적할 수 있습니다. 그러나 사용자 개인 정보 보호, 데이터 보호, 그리고 물론 법과 대중 간의 투명성에 대한 위협도 조사되었습니다. 이러한 침습적 기술의 장점과 단점을 모두 알고 있는 것은 좋은 일입니다. 그런데 사람들이 간과하는 것처럼 보이는 안면인식 기술의 단점이 하나 더 있는데, 바로 인종 프로파일링과 인종 차별 이다.

이 글에서 우리는 이 기술이 인종 편견과 차별을 조장하는 방법과 그러한 침입 기술의 영향이 얼마나 심각한지 살펴봅니다.

얼굴 인식은 어떻게 작동합니까?

이미지 출처: 내셔널 포스트

1단계: 카메라, 계정, 이메일 등에서 귀하의 사진을 가져옵니다. 프로필 사진이나 군중 속에서 무작위로 찍은 사진입니다.

2단계: 얼굴 인식 소프트웨어는 저장된 얼굴 지문 데이터베이스를 통해 얼굴을 실행합니다. 얼굴 지문은 얼굴의 기하학적 추적을 통해 수집됩니다.

3단계: 알려진 얼굴 지문에 대한 사진의 일치 비율은 결정이 내려지는 알고리즘을 사용하여 생성됩니다.

자동화 편향: 안면 인식 기술의 많은 결함 중 하나

자동화 편향 또는 기계 편향은 기계 알고리즘이 입력 데이터 보정에서 특정 편향을 나타내어 바람직하지 않은 출력을 제공하는 시나리오를 나타냅니다. 이는 알고리즘 코드에 오류가 있거나 보정을 위해 저장된 데이터 세트가 부족하거나 잘못된 입력 값 또는 기계의 보정 능력을 넘어서는 과도한 입력 데이터가 있을 때 발생합니다.

인종 프로파일링이 이 모든 것에 어떻게 적용됩니까?

이미지 출처: 가디언

그 당시에는 중요하지 않은 것으로 간주되었던 고대의 사건부터 시작하겠습니다. 2001년 탬파시는 2001년 슈퍼볼로 인해 관광객들이 도시 거리에 범람하자 붐비는 도시를 감시하기 위해 얼굴 인식 소프트웨어를 사용했습니다. 당으로 뉴욕 타임즈 보고서 , 소프트웨어는 가정으로 그들에 대해 영장을했다 19명을 확인; 그러나 경기장의 기반 시설로 인해 압도적인 군중 속에서 신원이 확인된 범인에게 접근할 수 없었기 때문에 체포되지 않았습니다.

이 특별한 경우 어디에서도 인종 프로파일링의 징후를 볼 수 없었지만, 시민의 자유와 개인의 사생활 침해에 대한 감시 기술이 적용된 것은 처음이었습니다. 앞으로 몇 년 동안 Tampa Police는 신뢰할 수 없는 결과를 이유로 이러한 감시 시스템을 포기했습니다.

이미지 출처: ICO

알리 브릴랜드(Ali Breland) 는 좀 더 최근의 시나리오로 빠르게 전환하여 가디언지 에서 주로 유색인종 지역인 브렌트우드 지역에서 악명 높은 마약 딜러로 기소된 흑인 윌리 린치(Willie Lynch)의 체포에 관해 보도했습니다 . Lynch에 대한 유일한 증거는 경찰이 그를 범인으로 결정하기 전에 경찰 데이터베이스에 대해 실행된 모바일에 있는 그의 사진이었습니다. 린치는 8년 동안 유죄 판결을 받았으며 현재 유죄 판결에 대해 항소했습니다. 그가 딜러로 의심되는 사람이든 아니든, 기계 기반 결과만 조사 대상의 유죄 판결을 유지하기에 충분한지 여부에 대한 우려가 불가피한 것일까요?

2019년 Tom Perkins가 Guardian에 보고한 바와 같이 디트로이트 경찰은 지난 2년 동안 얼굴 인식을 사용하여 체포한 것으로 나타났습니다. 디트로이트는 인구의 80% 이상이 흑인인 곳입니다. 디트로이트 경찰 위원회의 한 흑인 회원의 성명은 이러한 관행에 대해 우려를 표명했습니다. 그는 흑인들은 시스템의 알고리즘을 위태롭게 하는 공통된 얼굴 특성을 가지고 있으며 이를 "테크노 인종차별"이라고 불렀습니다.

이미지 출처: 복스

정보 통신 및 윤리 학회 저널(Journal of Information Communication and Ethics Society)의 2019년 연구에서 Fabio Bacchini와 Ludovica Lorusso가 수행한 이러한 생체 인식 및 얼굴 인식 시스템은 법 집행 기관에서 100% 신뢰할 수 없는 것으로 나타났습니다. 더욱이 인종 차별은 그러한 모든 시스템에 부정적인 영향을 미쳤으며 이는 사회적으로 역효과를 낳습니다. 이 연구는 특히 이러한 시스템이 감시에 광범위하게 사용되는 서구 사회를 대상으로 했습니다.

이들은 얼굴 인식 시스템으로 인한 인종 차별 사례가 밝혀진 많은 사례 중 세 가지에 불과합니다. 그러나 기술의 알고리즘 코딩 업그레이드의 정확도가 증가함에도 불구하고 이러한 시스템이 무능한 이유는 무엇입니까?

서부 주에서 백인 우월주의: 백인이 지배하는 기술 산업

2014년에 거대 Apple Inc.를 포함한 대부분의 기술 회사는 대부분 백인 남성 직원을 고용한 것으로 나타났습니다. Apple에서는 직원의 55%가 백인이었고, 마찬가지로 Apple 리더십은 백인 직원의 63%를 차지했습니다. 유사한 다양성 보고서를 공유한 회사에는 Facebook , Google 및 Twitter도 포함됩니다. 5년 후 Wired의 보고서에 따르면 이러한 수치는 최소한으로 개선되었습니다.

페이스북은 숫자에서 상당한 개선을 보인 반면, 애플의 흑인 기술 노동자 비율은 전체 노동력의 6%에 불과해 변함이 없었다. 아마존은 미국 지사에 42%의 흑인 또는 라틴 아메리카 직원을 등록한 유일한 조직이었습니다.

이 통계는 무엇을 의미합니까? 미국에서는 감시 시스템용 알고리즘 설계와 같은 주요 프로젝트에 배정되는 대부분의 코더가 백인이다. 이들은 회사에서 출시/공개할 제품 또는 서비스와 관련하여 가장 중요한 결정을 내리는 사람들입니다. 따라서 최종 생성에 들어가는 것은 그들의 관점, 접근 방식 및 사고 과정입니다. 이것은 백인들이 인종차별주의자이고 그러한 감시 시스템을 의도적으로 설계했다는 것을 의미하지 않습니다 . 아니요!

이미지 출처: 포브스

백인 남자가 얼굴 인식 알고리즘을 설계하고 그를 컨설팅/지원하는 백인 동료만 있는 경우 코드를 완성하기 전에 다른 피부색의 얼굴 특성을 고려하지 않습니다. 백인 엔지니어가 기술 산업을 지배하기 때문에 초기 코드를 준비하는 데 사용되는 데이터 아카이브도 백인 기술자가 만들고 보정합니다. 따라서 코드 자체는 핵심 계산 알고리즘의 편향으로 생성되어 감시 결과에서 이러한 인종적 격차를 초래합니다.

이 코드는 단순히 백인들이 그 안에 구현하는 것을 배웁니다. 다른 피부색을 가진 사람의 관점이나 기여는 없습니다.

보정 문제

미국 법 집행 기관은 감시 및 데이터 추적에 크게 의존합니다. 내부 고발자가 민간인에 대한 무단 감시에 대한 정보를 축출한 사례가 많이 있습니다. NSA의 불법 감시에 대한 Edward Snowden의 폭로가 그러한 예입니다.

이미지 출처: CBS 로컬

이러한 감시 프로그램은 수백만 명의 시민의 얼굴 지문 및 기타 개인 정보로 지원됩니다. 얼굴 지문만 고려한다면 수백만 명의 미국인이 소셜 미디어 플랫폼에서 공개적으로 사진을 공유하고 있습니다. 그런 다음 수십만 명의 행인들의 라이브 영상을 제공하는 전국의 모든 거리에 CCTV 카메라 가 있습니다. 현재 경찰 데이터베이스에는 약 1억 1700만 개의 이미지가 있는 반면 FBI는 감시 얼굴 인식 알고리즘에서 보정할 4억 개 이상의 데이터 세트를 보유하고 있습니다.

이제 이러한 데이터 세트를 특정 사람의 모든 얼굴 특성을 캡처하거나 캡처하지 않았을 수 있는 단일 이미지와 비교한다고 상상해 보십시오. 이러한 시나리오에서는 오류가 발생할 수 있습니다. 하나의 페이스프린트에 대해 이해하고 실행하기에는 데이터가 너무 많습니다. 교정이 그렇게 복잡한 경우 어떤 알고리즘도 결과에 대해 100% 확신을 줄 수 없습니다. 이것은 결국 얼굴 인식 기술로 인한 인종 프로파일링에 추가됩니다.

얼굴 인식에 대한 엄청난 신뢰성

이미지 출처: NY 포스트

Willie Lynch의 경우는 얼굴 인식이 법 집행과 관련하여 증거로 제시되는 유일한 신뢰할 수 있는 기술이 되어서는 안 된다는 점을 상기시켜 줍니다. 이것이 탬파시 경찰이 기술을 포기한 이유입니다.

안면인식이 훌륭한 휴양지이자 경찰에 도움이 되는 것은 사실이다. Boston Marathon Bombings의 범인은 감시 녹음에 대한 광범위하고 상세한 분석을 통해 밝혀졌습니다. 그러나 이것이 누군가를 유죄 판결하는 유일한 증거가 될 수는 없습니다. 얼굴 인식 알고리즘의 결과를 입증할 수 있는 증거가 있어야 하며 최종 결정에 도달하기 전에 자동화 편향의 개념을 고려해야 합니다.

하드웨어 문제: 모바일 및 카메라의 얼굴 인식

이미지 출처: TechCrunch

감시 카메라 시스템과 관련 하드웨어 및 소프트웨어는 한 회사에서 설계한 것이 아닙니다. 수십억 달러의 가치가 있는 산업으로 수십 개의 기업이 법 집행 기관으로부터 계약을 받기 위해 경쟁합니다. 이러한 시스템의 대부분은 중국 제조업체의 것입니다. 최고의 품질을 갖춘 가장 저렴한 기술을 얻는 것이 중요합니다. 그것이 대부분의 작동 방식입니다. 따라서 서로 다른 시스템의 보정에는 차이가 있을 수 있고 감시 결과의 품질에도 차이가 있을 수 있습니다. 많은 카메라 감시 알고리즘은 기술적인 무능력 때문에 유색인종의 이미지를 보정하는 데 효과적이지 않아 인종 차별을 미화합니다.

얼굴 인식을 통해 인종 차별을 유발하는 기술 문제는 Apple Face Lock 기능에서도 발견되었습니다. 중국에서 온 케이스는 iPhone X 안면 잠금 장치가 두 명의 다른 중국 동료를 구별할 수 없어 기능을 쓸모 없게 만들었습니다. 두 명의 흑인을 서로 분리하는 기능의 문제를 언급하면서 유사한 보고서는 기각되었습니다. 위에서 언급했듯이 Apple의 기술 팀에는 흑인이 6%에 불과합니다. 이것은 얼굴 인식 기술이 우리의 휴대용 장치에서도 인종 차별을 조장할 수 있는 방법을 보여주는 분명한 예입니다.

결론

예, 안면 인식은 인종 차별적이며 이제는 상식입니다. 이러한 문제를 해결하기 위한 기술이 나날이 발전하고 있지만 결과는 모두 같습니다. 기술은 기술 발전과 발전이라는 공통의 목표를 통해 세계를 하나로 묶어야 하지만 일부 기술은 인종과 공동체의 조화에 해를 끼칠 뿐입니다.

현재로서는 법 집행관이 할 수 있는 최선의 방법은 신뢰할 수 없는 알고리즘 보정의 증거를 기반으로 사건을 지원하지 않는 것입니다. 더욱이, 모든 민족의 사람들이 인종 차별이 없는 제품을 만들기 위해 함께 할 수 있도록 직장에서의 다양성과 포용성을 진지하게 받아들여야 할 때입니다. 세계에는 수천 개의 인종이 있으며, 사람들은 인종적 차이를 제쳐두고 성장하여 세계 사회를 오랫동안 괴롭혔습니다. 그것이 유지되어야 한다면 우리가 그토록 의존하고 있는 기계도 똑같이 가르쳐야 합니다.