顔認識技術における人種プロファイリング：顔認識は人種差別的である可能性がありますか？

顔認識技術とその能力は、法執行においてこの技術を強化するための新しいアルゴリズムが目立つようになって以来、私たちの想像をはるかに超えて成長してきました。現在、顔認識技術は、混雑した集会の中で犯罪者を特定するために、データ収集プロセスの最低レベルで法執行部によって使用されています。この技術者は、公共の場所や通りにあるCCTVカメラの映像を使用し、収集したデータを代理店のアーカイブに対して実行して、犯罪に必要な顔を検出します。

このテクノロジーは、携帯電話やスマートウェアラブルデバイスなど、最小のガジェットにさらに組み込まれています。したがって、それは通りであなたを保護するだけでなく、あなたのスマートデバイスに保存されているあなたの個人情報を保護することも意図しています。マーケティングや広告の実践に「フェイスプリント」を使用することは、ソーシャルメディアキャンペーンの現代では一般的になっています。そして、モールや小売店などで私的な監視があります。

この観点から、顔認識技術の否定できない利点をすぐに指摘することができます。しかし、それがユーザーのプライバシー、データ保護、そしてもちろん、法律と一般市民の間の透明性にもたらす脅威についても精査されています。このような侵襲的な技術の長所と短所の両方を認識することは良いことです。それでも、人々が無視しているように見える顔認識技術のもう1つの欠点があります。それは、人種プロファイリングと人種差別です。

この作品では、この技術が人種的偏見と差別をどのように促進するか、そしてそのような侵襲的技術の影響がどれほど深刻であるかを見ていきます。

顔認識はどのように機能しますか？

画像出典：National Post

ステップ1：あなたの写真は、カメラ、アカウント、電子メールなどから撮影されます。これは、まっすぐなプロフィール写真か、群衆の中のランダムなスナップのいずれかです。

ステップ2：顔認識ソフトウェアは、保存されているフェイスプリントのデータベースを介して顔を実行します。フェイスプリントは、顔の幾何学的な追跡によって収集されます。

ステップ3：既知のフェイスプリントに対する写真の一致率は、決定が行われるアルゴリズムを使用して生成されます。

自動化バイアス：顔認識技術の多くの欠陥の1つ

自動化バイアスまたはマシンバイアスとは、マシンアルゴリズムが入力データのキャリブレーションで特定のバイアスを示し、その結果、好ましくない出力が得られるシナリオを指します。これは、アルゴリズムコードにエラーがある場合、キャリブレーション用に保存されているデータセットがない場合、入力値が正しくない場合、または入力データが多すぎる場合に発生します。これは、キャリブレーションするマシンの能力を超えています。

人種プロファイリングはこれらすべてにどのように対応しますか？

画像ソース：ガーディアン

当時は取るに足らないと考えられていた古代の事件から始めましょう。2001年、タンパ市は、2001年のスーパーボウルのために観光客が街の通りに殺到したため、混雑した都市を監視するために顔認識ソフトウェアを使用しました。あたりとしてニューヨーク・タイムズのレポート、ソフトウェアは、おそらく彼らに対して優れた令状を持っていた19人を特定し、しかし、スタジアムのインフラストラクチャーにより、圧倒的な群衆の中から特定された犯人にたどり着くことができなかったため、逮捕は行われませんでした。

この特定のケースでは、人種プロファイリングの兆候はどこにも見られませんでしたが、市民の自由と個人のプライバシーの侵害に対して監視技術が導入されたのはこれが初めてでした。今後数年間で、タンパ警察は信頼できない結果を理由にこれらの監視システムをあきらめました。

画像出典：ICO

やや最近のシナリオに早送りすると、アリ・ブレランドはガーディアン紙に報告しました。ウィリー・リンチは、主に有色人種の近所であるブレントウッド地域で悪名高い麻薬の売人であると非難された黒人男性です。リンチに対する唯一の証拠は、警察が彼を犯人と判断する前に警察のデータベースに対して実行された携帯電話での彼の写真でした。リンチは8年間有罪判決を受け、現在は有罪判決に対して上訴しています。彼がディーラーとされているかどうかにかかわらず、それは必然的に、調査中の誰かの有罪判決を支持するのに機械ベースの結果だけで十分であるかどうかについての懸念を引き起こしますか？

2019年、TheGuardianのTomPerkinsが報告したように、デトロイト警察は過去2年間、顔認識を使用して逮捕したとされています。デトロイトは人口の80％以上が黒人である場所です。デトロイト警察委員会の黒人メンバーからの声明は、この慣行に対する懸念を提起した。彼は、黒人はシステムのアルゴリズムを危険にさらす共通の顔の特徴を持っていると言い、これを「テクノ人種差別」と呼んでいます。

画像ソース：Vox

ファビオ・バッキーニとルドビカ・ロルッソによる、Journal of Information Communication and Ethics Societyの2019年の調査では、これらの生体認証および顔認識システムは、法執行機関にとって100％信頼できるものではないことがわかりました。さらに、人種差別はそのようなすべてのシステムに悪影響を及ぼし、それはさらに逆の社会的影響を及ぼしました。この研究は、特に西側の社会を対象としており、そのようなシステムは監視のために広く使用されています。

これらは、顔認識システムによって引き起こされた人種格差が明らかになった多くの例のうちの3つにすぎません。しかし、テクノロジーのアルゴリズムコーディングのアップグレードの精度が向上しているにもかかわらず、これらのシステムがそれほど機能しないのはなぜですか。

西部諸州における白人至上主義：白人優位の技術産業

2014年には、巨大なApple Inc.を含む大多数のテクノロジー企業が、主に白人の男性従業員を雇用していることが判明しました。アップルでは、​​従業員の55％が白人であり、同様に、アップルのリーダーシップは白人従業員の63％を占めていました。同様の多様性レポートを共有した企業には、Facebook、Google、Twitterも含まれていました。5年後、Wiredのレポートは、これらの数値の改善が最小限であったことを明らかにしました。

Facebookの数はかなり改善されましたが、Appleの黒人技術者の割合は変わらず、総労働力のわずか6％でした。アマゾンは、米国のオフィスに42％の黒人またはラテンアメリカ人の労働者を登録した唯一の組織でした。

これらの統計は何を意味しますか？米国では、監視システムのアルゴリズムの設計などの主要なプロジェクトに割り当てられているコーダーのほとんどが白人です。これらは、企業が立ち上げ/発表する製品またはサービスに関して最も重要な決定を下す人々です。したがって、最終的な作成に使用されるのは、彼らの視点、アプローチ、および思考プロセスです。これは、白人が人種差別主義者であり、そのような監視システムを意図的に設計したことを意味するものではありません。いいえ！

画像ソース：フォーブス

白人の男が顔認識アルゴリズムを設計し、白人の同僚だけが彼に相談/支援している場合、コードを完成させる前に、他の色の顔の特徴を持つ人々を考慮しません。白人のエンジニアがテクノロジー業界を支配しているため、初期コードの準備に使用されるデータアーカイブも、白人の技術者によって作成および調整されます。したがって、コード自体は、そのコア計算アルゴリズムにバイアスをかけて作成され、監視結果にこれらの人種的な格差が生じます。

コードは、白人がその中で具体化するものを単に学習します。他の色の人の視点や貢献はありません。

キャリブレーションの問題

アメリカの法執行機関は、監視とデータ追跡に大きく依存しています。内部告発者が民間人の無許可の監視に関する情報を追放した例はたくさんあります。エドワード・スノーデンがNSAの違法な監視を明らかにしたことは、そのような例の1つです。

画像ソース：CBSローカル

これらの監視プログラムは、何百万人もの市民の顔写真やその他の個人情報によってサポートされています。フェイスプリントだけを考えると、ソーシャルメディアプラットフォームで写真を公然と共有している何百万人ものアメリカ人がいます。それから、数十万人の通行人のライブ映像を提供する全国のあらゆる通りにCCTVカメラがあります。現在、警察のデータベースには約1億1700万の画像がありますが、FBIには監視顔認識アルゴリズムで調整するための4億を超えるデータセットがあります。

ここで、これらのデータセットを、特定の人物のすべての顔の特徴をキャプチャした場合とキャプチャしなかった場合がある単一の画像と比較して想像してみてください。このようなシナリオでは、エラーが発生する可能性があります。データが多すぎて、1つのフェイスプリントに対して理解して実行することはできません。キャリブレーションが非常に複雑な場合、結果の100％保証を保証できるアルゴリズムはありません。これは最終的に、顔認識技術によって引き起こされる人種プロファイリングになります。

顔認識の計り知れない信頼性

画像出典：NY Post

ウィリー・リンチの事件は、法執行に関して証拠として提示された唯一の信頼できる技術は顔認識であってはならないことを思い出させます。これがタンパ市警察が技術をあきらめた理由です。

確かに、顔認識は優れた手段であり、警察に役立ちます。ボストンマラソン爆撃事件の犯人は、監視記録の広範囲で詳細な分析を使用して認識されました。しかし、これは誰かを有罪にする唯一の証拠にはなり得ません。顔認識アルゴリズムの結果を証明する裏付けとなる証拠が必要であり、最終決定に達する前に自動化バイアスの概念を検討する必要があります。

ハードウェアのトラブル：モバイルとカメラでの顔認識

画像出典：TechCrunch

監視カメラシステムおよび関連するハードウェアとソフトウェアは、単一の会社によって設計されたものではありません。これは数十億ドル相当の業界であり、数十の企業が法執行機関からの契約を獲得するために競争しています。これらのシステムの多くは中国のメーカーのものです。それはすべて、最高の品質で最も安価な技術を手に入れることです。それが主に機能する方法です。したがって、さまざまなシステムのキャリブレーションに違いが生じたり、監視結果の品質にばらつきが生じたりする可能性が常にあります。多くのカメラ監視アルゴリズムは、技術的な能力がないという理由だけで有色人種の画像を調整するのに効果がなく、したがって人種差別を美化しています。

顔認識を介して人種差別を引き起こす技術的な問題は、Apple FaceLock機能でも確認されています。中国の事件では、iPhone Xのフェイスロックが2人の異なる中国人の同僚を区別できず、機能が役に立たなくなったことが追放されました。同様の報告は、2人の黒人を互いに分離する機能の問題を理由に却下されました。上で述べたように、Appleは技術チームに黒人のわずか6％しかいません。これは、顔認識技術がハンドヘルドデバイスでも人種差別を促進する方法の明確な例です。

結論

はい、顔認識は人種差別主義者であり、それは現在の常識です。このような問題を解決するためのテクノロジーは日々成長していますが、結果はすべて同じです。技術は、技術の進歩と開発という共通の目標を超えて世界を統一することになっていますが、一部の技術は、人種と共同体の調和に害を及ぼしているだけです。

今のところ、法執行官ができる最善のことは、信頼性すらできないアルゴリズムのキャリブレーションからの証拠に基づいて彼らの事件を支援しないことです。また、多様性と職場への浸透を真摯に受け止め、あらゆる民族の人々が一堂に会し、人種格差のない商品を生み出す時期が来ています。世界には何千もの人種があり、人々は人種の違いを脇に置くように成長しており、それは長い間世界社会を悩ませてきました。それを維持しなければならないのなら、私たちが非常に頼りにしている機械も同じように教えられなければなりません。