การทำโปรไฟล์ทางเชื้อชาติในเทคโนโลยีการจดจำใบหน้า: การจดจำใบหน้าสามารถแบ่งแยกเชื้อชาติได้หรือไม่?

เทคโนโลยีการจดจำใบหน้าและความสามารถของมันได้พัฒนาไปไกลเกินกว่าจินตนาการของเรา นับตั้งแต่อัลกอริธึมใหม่ๆ เพื่อเสริมความแข็งแกร่งให้กับเทคโนโลยีนี้ในการบังคับใช้กฎหมายมีความโดดเด่น ในปัจจุบัน เทคโนโลยีการจดจำใบหน้าถูกใช้โดยหน่วยงานบังคับใช้กฎหมายในระดับต่ำสุดของกระบวนการรวบรวมข้อมูลเพื่อระบุตัวผู้กระทำความผิดทางอาญาท่ามกลางการชุมนุมที่แออัด เทคโนโลยีนี้ใช้ภาพจากกล้องวงจรปิดในที่สาธารณะและตามท้องถนน จากนั้นจึงเรียกใช้ข้อมูลที่รวบรวมกับที่เก็บถาวรของหน่วยงานเพื่อตรวจจับใบหน้าที่ต้องการสำหรับความผิดทางอาญา

เทคโนโลยีนี้ได้ถูกฝังลงในอุปกรณ์ที่เล็กที่สุด ซึ่งรวมถึงโทรศัพท์มือถือและอุปกรณ์สวมใส่อัจฉริยะ ดังนั้นจึงไม่เพียงแต่ปกป้องคุณบนท้องถนนเท่านั้น แต่ยังมุ่งหมายที่จะปกป้องข้อมูลส่วนบุคคลของคุณที่จัดเก็บไว้ในอุปกรณ์อัจฉริยะของคุณด้วย การใช้ "ใบหน้า" เพื่อการตลาดและการโฆษณากลายเป็นเรื่องธรรมดาในยุคสมัยใหม่ของการรณรงค์ทางโซเชียลมีเดีย แล้วมีการเฝ้าระวังส่วนตัวในห้างสรรพสินค้า ร้านค้าปลีก ฯลฯ

จากมุมมองนี้ เราสามารถชี้ให้เห็นถึงข้อดีที่ปฏิเสธไม่ได้ของเทคโนโลยีการจดจำใบหน้าอย่างรวดเร็ว แต่ยังได้รับการตรวจสอบสำหรับภัยคุกคามที่มีต่อความเป็นส่วนตัวของผู้ใช้ การปกป้องข้อมูล และความโปร่งใสระหว่างกฎหมายกับสาธารณะ เป็นเรื่องดีที่จะตระหนักถึงข้อดีและข้อเสียของเทคโนโลยีที่รุกรานดังกล่าว แต่มีข้อเสียอย่างหนึ่งมากขึ้นของเทคโนโลยีการจดจำใบหน้าซึ่งคนที่ดูเหมือนจะไม่สนใจและที่เป็นเชื้อชาติและเหยียดผิว

ในบทความนี้ เราจะพิจารณาว่าเทคโนโลยีนี้ส่งเสริมอคติทางเชื้อชาติและการเลือกปฏิบัติอย่างไร และผลกระทบที่ร้ายแรงจากเทคโนโลยีที่รุกรานนั้นร้ายแรงเพียงใด

การจดจำใบหน้าทำงานอย่างไร

ที่มาของรูปภาพ: National Post

ขั้นตอนที่ 1:รูปภาพของคุณถูกถ่ายจากกล้อง บัญชีของคุณ อีเมล ฯลฯ อาจเป็นรูปโปรไฟล์ตรง ๆ หรือรูปสุ่มในฝูงชน

ขั้นตอนที่ 2:ซอฟต์แวร์จดจำใบหน้าจะเรียกใช้ใบหน้าของคุณผ่านฐานข้อมูลของใบหน้าที่เก็บไว้ ใบหน้าถูกรวบรวมผ่านการติดตามทางเรขาคณิตของใบหน้าของคุณ

ขั้นตอนที่ 3:เปอร์เซ็นต์การจับคู่รูปภาพของคุณกับใบหน้าที่รู้จักนั้นสร้างขึ้นโดยใช้อัลกอริธึมที่ใช้ในการกำหนด

ออโตเมชั่นอคติ: หนึ่งในข้อบกพร่องมากมายของเทคโนโลยีการจดจำใบหน้า

Automation Bias หรือ Machine Bias หมายถึงสถานการณ์ที่อัลกอริธึมของเครื่องจักรแสดงอคติบางอย่างในการปรับเทียบข้อมูลอินพุต ดังนั้นจึงให้เอาต์พุตที่ไม่เอื้ออำนวย สิ่งนี้จะเกิดขึ้นเมื่อมีข้อผิดพลาดในโค้ดอัลกอริธึม ขาดชุดข้อมูลที่เก็บไว้สำหรับการสอบเทียบ ค่าอินพุตที่ไม่ถูกต้อง หรือข้อมูลอินพุตมากเกินไป ซึ่งอยู่เหนือความแข็งแกร่งของเครื่องจักรในการสอบเทียบ

การทำโปรไฟล์ทางเชื้อชาติไปกับเรื่องทั้งหมดนี้ได้อย่างไร?

ที่มาของภาพ: The Guardian

มาเริ่มกันที่เหตุการณ์ในสมัยโบราณซึ่งในขณะนั้นถือว่าไม่มีนัยสำคัญ ในปี 2544 แทมปาซิตีใช้ซอฟต์แวร์จดจำใบหน้าเพื่อเฝ้าระวังเมืองที่มีผู้คนพลุกพล่าน เนื่องจากนักท่องเที่ยวหลั่งไหลเข้ามาเต็มถนนในเมืองเนื่องจากงานซูเปอร์โบวล์ในปี 2544 ตามรายงานของ New York Timesซอฟต์แวร์ระบุ 19 คนที่คาดว่าจะมีหมายจับที่โดดเด่นต่อพวกเขา อย่างไรก็ตาม ไม่มีการจับกุมใด ๆ เนื่องจากโครงสร้างพื้นฐานของสนามกีฬาทำให้ไม่สามารถระบุตัวผู้กระทำผิดท่ามกลางฝูงชนที่ล้นหลามได้

แม้ว่าในกรณีนี้จะไม่พบร่องรอยของการทำโปรไฟล์ทางเชื้อชาติ แต่นี่เป็นครั้งแรกที่มีการใช้เทคนิคการเฝ้าระวังเพื่อต่อต้านการละเมิดเสรีภาพพลเมืองและความเป็นส่วนตัวของบุคคล ในอีกไม่กี่ปีข้างหน้า ตำรวจแทมปาเลิกใช้ระบบเฝ้าระวังเหล่านี้โดยอ้างผลลัพธ์ที่ไม่น่าเชื่อถือ

ที่มาของภาพ: ICO

ส่งต่ออย่างรวดเร็วไปยังสถานการณ์ล่าสุดค่อนข้างมากขึ้นอาลี Breland รายงานเดอะการ์เดียเกี่ยวกับการจับกุมของวิลลี่ลินช์ชายผิวดำคนกล่าวหาว่าเป็นพ่อค้ายาเสพติดในพื้นที่ฉาวโฉ่เบรนท์เด่นย่านของชาวสี หลักฐานเพียงอย่างเดียวของลินช์คือรูปภาพของเขาบนมือถือ ซึ่งถูกนำไปใช้กับฐานข้อมูลของตำรวจ ก่อนที่ตำรวจจะตัดสินว่าเขาเป็นผู้กระทำความผิด ลงประชาทัณฑ์ถูกตัดสินลงโทษเป็นเวลาแปดปี ซึ่งขณะนี้ได้ยื่นอุทธรณ์คำตัดสินดังกล่าว ไม่ว่าเขาจะเป็นตัวแทนจำหน่ายหรือไม่ก็ตาม มันก็ทำให้เกิดความกังวลอย่างหลีกเลี่ยงไม่ได้ว่าผลลัพธ์จากเครื่องจักรเท่านั้นที่เพียงพอที่จะรักษาความเชื่อมั่นของใครก็ตามที่อยู่ภายใต้การสอบสวนหรือไม่?

ในปี 2019 ตามรายงานของTom Perkins สำหรับ The Guardianพบว่าตำรวจดีทรอยต์ใช้การจดจำใบหน้าเพื่อทำการจับกุมในช่วงสองปีที่ผ่านมา ดีทรอยต์เป็นสถานที่ที่ประชากรมากกว่า 80% เป็นคนผิวดำ คำแถลงจากสมาชิกผิวดำคนหนึ่งจากคณะกรรมการตำรวจดีทรอยต์ทำให้เกิดข้อกังวลต่อการปฏิบัติดังกล่าว เขากล่าวว่าคนผิวดำมีลักษณะใบหน้าที่เหมือนกันซึ่งเป็นอันตรายต่ออัลกอริธึมของระบบ เรียกสิ่งนี้ว่า "การเหยียดเชื้อชาติทางเทคโนโลยี"

ที่มาของภาพ: Vox

ในงานวิจัยของ Journal of Information Communication and Ethics Society ปี 2019 โดย Fabio Bacchini และ Ludovica Lorusso พบว่าระบบไบโอเมตริกซ์และการจดจำใบหน้าไม่น่าเชื่อถือ 100% ต่อการบังคับใช้กฎหมาย นอกจากนี้ การเลือกปฏิบัติทางเชื้อชาติยังส่งผลกระทบในทางลบต่อระบบดังกล่าวทั้งหมด ซึ่งส่งผลกระทบทางสังคมที่ตรงกันข้ามเพิ่มเติม การศึกษานี้มุ่งเป้าไปที่สังคมตะวันตกโดยเฉพาะ ซึ่งระบบดังกล่าวถูกใช้อย่างกว้างขวางเพื่อการเฝ้าระวัง

นี่เป็นเพียงสามตัวอย่างจากหลายๆ ตัวอย่างที่มีกรณีความเหลื่อมล้ำทางเชื้อชาติที่เกิดจากระบบจดจำใบหน้าปรากฏให้เห็น แต่ทำไมระบบเหล่านี้จึงไร้ความสามารถทั้งๆ ที่ความแม่นยำที่เพิ่มขึ้นในการอัพเกรดการเข้ารหัสอัลกอริธึมในเทคโนโลยี

White Supremacy ในสหรัฐอเมริกาตะวันตก: อุตสาหกรรมเทคโนโลยีที่มีอำนาจเหนือคนขาว

ในปี 2014 บริษัทเทคโนโลยีส่วนใหญ่ รวมถึงบริษัทยักษ์ใหญ่อย่าง Apple Inc. ถูกพบว่าจ้างพนักงานชายผิวขาวเป็นส่วนใหญ่ ใน Apple พนักงาน 55% เป็นคนผิวขาว และในทำนองเดียวกัน ความเป็นผู้นำของ Apple มีพนักงานผิวขาว 63% บริษัทที่แชร์รายงานความหลากหลายที่คล้ายคลึงกันนั้นรวมถึงFacebook , Google และ Twitter ด้วย ห้าปีต่อมา รายงานใน Wired เปิดเผยว่าตัวเลขเหล่านี้มีการปรับปรุงเพียงเล็กน้อย

แม้ว่า Facebook จะแสดงตัวเลขที่ดีขึ้น แต่เปอร์เซ็นต์ของพนักงานเทคนิคผิวดำของ Apple นั้นไม่เปลี่ยนแปลงที่เพียง 6% ของจำนวนพนักงานทั้งหมด Amazon เป็นองค์กรเดียวที่ลงทะเบียนคนงานผิวดำหรือลาตินอเมริกา 42% ในสำนักงานในสหรัฐอเมริกา

อะไรตายสถิติเหล่านี้มีความหมาย? ในสหรัฐอเมริกา ผู้เขียนโค้ดส่วนใหญ่ที่ได้รับมอบหมายให้ทำงานในโครงการสำคัญๆ เช่น การออกแบบอัลกอริทึมสำหรับระบบการเฝ้าระวัง เป็นสีขาว คนเหล่านี้คือผู้ที่ทำการตัดสินใจที่สำคัญที่สุดเกี่ยวกับผลิตภัณฑ์หรือบริการที่บริษัทจะเปิดตัว/เปิดตัว และด้วยเหตุนี้ มุมมอง วิธีการ และกระบวนการทางความคิดจึงเกิดขึ้นในการสร้างสรรค์ขั้นสุดท้าย นี้ไม่ได้หมายความว่าคนผิวขาวเป็น racists และได้รับการออกแบบจงใจเช่นระบบการเฝ้าระวัง ไม่!

ที่มาของภาพ: Forbes

เมื่อคนผิวขาวออกแบบอัลกอริธึมการจดจำใบหน้าและมีเพียงเพื่อนร่วมงานผิวขาวที่ให้คำปรึกษา/ช่วยเหลือเขา พวกเขาจะไม่พิจารณาคนที่มีลักษณะใบหน้าของสีอื่นก่อนที่จะสรุปรหัส เนื่องจากวิศวกรผิวขาวครองอุตสาหกรรมเทคโนโลยี ที่เก็บข้อมูลที่ใช้ในการเตรียมรหัสเริ่มต้นจึงถูกสร้างขึ้นและปรับเทียบโดยช่างเทคนิคสีขาว ดังนั้น ตัวโค้ดเองจึงถูกสร้างขึ้นด้วยความเอนเอียงในอัลกอริธึมการคำนวณหลัก ส่งผลให้เกิดความไม่เสมอภาคทางเชื้อชาติเหล่านี้ในผลการเฝ้าระวัง

รหัสเพียงแค่เรียนรู้สิ่งที่คนผิวขาวรวบรวมไว้ ไม่มีมุมมองหรือการมีส่วนร่วมของบุคคลที่มีสีอื่น

ปัญหาการสอบเทียบ

การบังคับใช้กฎหมายของอเมริกาอาศัยการเฝ้าระวังและการติดตามข้อมูลเป็นอย่างมาก มีหลายกรณีที่ผู้แจ้งเบาะแสลบข้อมูลเกี่ยวกับการสอดแนมพลเรือนโดยไม่ได้รับอนุญาต การเปิดเผยของเอ็ดเวิร์ด สโนว์เดนเกี่ยวกับการสอดแนมที่ผิดกฎหมายของ NSA เป็นตัวอย่างหนึ่ง

ที่มาของภาพ: CBS Local

โปรแกรมการเฝ้าระวังเหล่านี้ได้รับการสนับสนุนโดยใบหน้าและข้อมูลส่วนบุคคลอื่น ๆ ของพลเมืองนับล้าน หากเราพิจารณาแค่ใบหน้า มีชาวอเมริกันหลายล้านคนที่แชร์รูปภาพอย่างเปิดเผยบนแพลตฟอร์มโซเชียลมีเดีย จากนั้นมีกล้องวงจรปิดในทุกถนนของประเทศที่นำเสนอภาพสดของผู้สัญจรไปมาหลายแสนคน ปัจจุบัน มีฐานข้อมูลตำรวจประมาณ 117 ล้านภาพ ในขณะที่ FBI มีชุดข้อมูลมากกว่า 400 ล้านชุดเพื่อปรับเทียบในอัลกอริธึมการจดจำใบหน้าจากการเฝ้าระวัง

ตอนนี้ลองนึกภาพชุดข้อมูลเหล่านี้เปรียบเทียบกับภาพเดียวที่อาจหรืออาจไม่ได้จับภาพลักษณะใบหน้าทั้งหมดของบุคคลนั้น ๆ ในสถานการณ์เช่นนี้ ข้อผิดพลาดอาจเกิดขึ้นได้ มีข้อมูลมากเกินไปที่จะเข้าใจและเรียกใช้กับใบหน้าเดียว ไม่มีอัลกอริธึมใดรับประกันผลลัพธ์ได้ร้อยเปอร์เซ็นต์เมื่อการสอบเทียบมีความซับซ้อนมาก ในที่สุดสิ่งนี้ก็รวมเข้ากับโปรไฟล์ทางเชื้อชาติที่เกิดจากเทคโนโลยีการจดจำใบหน้า

ความน่าเชื่อถืออย่างมากในการจดจำใบหน้า

ที่มาของรูปภาพ: NY Post

กรณีของ Willie Lynch เป็นการเตือนว่าการจดจำใบหน้าไม่ควรเป็นเทคนิคที่เชื่อถือได้เพียงอย่างเดียวที่นำเสนอเป็นหลักฐานในการบังคับใช้กฎหมาย นี่คือเหตุผลที่ตำรวจเมืองแทมปาเลิกใช้เทคโนโลยี

เป็นความจริงที่การจดจำใบหน้าเป็นรีสอร์ทที่ยอดเยี่ยมและเป็นประโยชน์ต่อตำรวจ ผู้กระทำผิดจากเหตุระเบิดในบอสตันมาราธอนได้รับการยอมรับจากการวิเคราะห์บันทึกการเฝ้าระวังอย่างละเอียดและครอบคลุม แต่นี่ไม่ใช่หลักฐานเดียวที่จะตัดสินใครได้ ต้องมีหลักฐานสนับสนุนเพื่อพิสูจน์ผลลัพธ์ของอัลกอริธึมการจดจำใบหน้า และต้องพิจารณาแนวคิดของอคติของระบบอัตโนมัติก่อนถึงการตัดสินใจขั้นสุดท้าย

ปัญหาฮาร์ดแวร์: การจดจำใบหน้าในมือถือและกล้อง

ที่มาของรูปภาพ: TechCrunch

ระบบกล้องวงจรปิดและฮาร์ดแวร์และซอฟต์แวร์ที่เกี่ยวข้องไม่ได้ออกแบบโดยบริษัทเดียว เป็นอุตสาหกรรมที่มีมูลค่าหลายพันล้านดอลลาร์ โดยมีบริษัทหลายสิบแห่งแข่งขันกันเพื่อขอสัญญาจากหน่วยงานบังคับใช้กฎหมาย หลายระบบเหล่านี้มาจากผู้ผลิตจีน มันคือทั้งหมดที่เกี่ยวกับการได้รับเทคโนโลยีที่ถูกที่สุดด้วยคุณภาพที่ดีที่สุด นั่นเป็นวิธีการทำงานส่วนใหญ่ ดังนั้นจึงมีโอกาสเสมอที่จะมีความแตกต่างในการสอบเทียบระบบต่างๆ ตลอดจนความผันแปรในคุณภาพของผลการเฝ้าระวัง อัลกอริธึมการเฝ้าระวังด้วยกล้องจำนวนมากไม่ได้ผลในการปรับเทียบภาพบุคคลที่มีสีเพียงเพราะขาดความสามารถทางเทคนิค จึงยกย่องการเลือกปฏิบัติทางเชื้อชาติ

ปัญหาด้านเทคโนโลยีที่ก่อให้เกิดการเหยียดเชื้อชาติผ่านการจดจำใบหน้ายังได้รับการสังเกตในคุณสมบัติ Apple Face Lock กรณีจากประเทศจีนขับไล่ว่าการล็อคใบหน้าของ iPhone X ไม่สามารถแยกความแตกต่างระหว่างเพื่อนร่วมงานชาวจีนสองคนที่แตกต่างกันทำให้คุณสมบัตินี้ไร้ประโยชน์ รายงานที่คล้ายกันถูกยกเลิก โดยอ้างถึงปัญหาในฟีเจอร์นี้ในการแยกคนผิวดำสองคนออกจากกัน ตามที่ระบุไว้ข้างต้น Apple มีเพียง 6% ของคนผิวดำในทีมเทคนิค เป็นตัวอย่างที่ชัดเจนว่าเทคโนโลยีจดจำใบหน้าสามารถส่งเสริมการเหยียดเชื้อชาติได้อย่างไรแม้ในอุปกรณ์พกพาของเรา

บทสรุป

ใช่ การจดจำใบหน้าเป็นการเหยียดผิว และนั่นเป็นความรู้ทั่วไปในตอนนี้ แม้ว่าเทคโนโลยีจะเติบโตขึ้นทุกวันเพื่อแก้ไขปัญหาดังกล่าว แต่ผลลัพธ์ก็ยังเหมือนเดิม เทคโนโลยีควรจะรวมโลกเข้าด้วยกันเหนือเป้าหมายร่วมกันของความก้าวหน้าทางเทคนิคและการพัฒนา แต่เทคนิคบางอย่างก็ก่อให้เกิดอันตรายต่อความสามัคคีทางเชื้อชาติและชุมชน

สำหรับตอนนี้ สิ่งที่ดีที่สุดที่เจ้าหน้าที่บังคับใช้กฎหมายสามารถทำได้คือไม่สนับสนุนกรณีของตนตามหลักฐานจากการสอบเทียบอัลกอริทึม ซึ่งไม่น่าเชื่อถือแม้แต่น้อย นอกจากนี้ ถึงเวลาแล้วที่ความหลากหลายและการรวมตัวในสถานที่ทำงานเป็นเรื่องจริงจัง เพื่อให้คนจากทุกเชื้อชาติมารวมตัวกันเพื่อสร้างผลิตภัณฑ์ที่ปราศจากความเหลื่อมล้ำทางเชื้อชาติ มีเผ่าพันธุ์นับพันในโลก และผู้คนได้เติบโตขึ้นเพื่อแยกความแตกต่างทางเชื้อชาติซึ่งหลอกหลอนสังคมโลกมาเป็นเวลานาน หากต้องบำรุงรักษาเครื่องจักรที่เราพึ่งพาตนเองมากก็ต้องได้รับการสอนเช่นเดียวกัน