التنميط العنصري في تقنية التعرف على الوجوه: هل يمكن أن يكون التعرف على الوجه عنصريًا؟

لقد نمت تقنية التعرف على الوجوه وقدراتها إلى ما هو أبعد من خيالنا منذ أن برزت خوارزميات جديدة لتعزيز هذه التقنية في تطبيق القانون. حاليًا ، تستخدم قوات إنفاذ القانون تقنية التعرف على الوجوه في أدنى مستويات عمليات جمع البيانات لتحديد المجرمين وسط التجمعات المزدحمة. تستخدم التقنية لقطات من كاميرات الدوائر التلفزيونية المغلقة في الأماكن العامة والشوارع ، ثم تقوم بتشغيل البيانات المجمعة ضد أرشيفات الوكالة لاكتشاف وجه مطلوب لارتكاب جرائم جنائية.

تم دمج هذه التقنية أيضًا في أصغر الأدوات ، بما في ذلك الهواتف المحمولة والأجهزة الذكية القابلة للارتداء. وبالتالي ، فهي لا تحميك فقط في الشوارع ولكنها تنوي أيضًا حماية معلوماتك الشخصية المخزنة على أجهزتك الذكية. أصبح استخدام "البصمة" في ممارسات التسويق والإعلان أمرًا شائعًا في العصر الحديث لحملات وسائل التواصل الاجتماعي. وبعد ذلك ، هناك مراقبة خاصة في مراكز التسوق ومحلات البيع بالتجزئة وما إلى ذلك.

من هذا المنظور ، يمكن للمرء أن يشير بسرعة إلى المزايا التي لا يمكن إنكارها لتقنية التعرف على الوجه. ولكن تم فحصها أيضًا بحثًا عن التهديد الذي تشكله على خصوصية المستخدم وحماية البيانات وبالطبع الشفافية بين القانون والجمهور. إنه لأمر جيد أن تكون على دراية بكل من مزايا وعيوب مثل هذه التقنية الغازية. ومع ذلك ، هناك عيب آخر لتقنية التعرف على الوجوه ، والذي يبدو أن الناس يتجاهلونه ، وهو التنميط العنصري والتمييز العنصري .

في هذه المقالة ، نلقي نظرة على كيفية تعزيز هذه التقنية للتحيز العنصري والتمييز ومدى خطورة تداعيات هذه التكنولوجيا الغازية.

كيف يعمل التعرف على الوجه؟

مصدر الصورة: ناشيونال بوست

الخطوة 1: يتم التقاط صورة لك من الكاميرا ، ومن حسابك ، والبريد الإلكتروني ، وما إلى ذلك. إما أن تكون صورة ملف تعريف مستقيمة أو لقطة عشوائية في حشد من الناس.

الخطوة 2: سيقوم برنامج التعرف على الوجوه بتشغيل وجهك من خلال قاعدة بيانات لبصمات الوجوه المخزنة. يتم جمع بصمة الوجه من خلال التتبع الهندسي لوجهك.

الخطوة 3: يتم إنتاج نسبة مطابقة من صورتك مع أي بصمة وجه معروفة باستخدام خوارزمية يتم تحديدها.

انحياز الأتمتة: أحد العيوب العديدة في تقنية التعرف على الوجه

يشير انحياز الأتمتة أو انحياز الآلة إلى السيناريو الذي تظهر فيه خوارزمية الآلة تحيزًا معينًا في معايرة بيانات الإدخال ، مما يعطي مخرجات غير مواتية. يحدث هذا عندما يكون هناك خطأ في كود الخوارزمية ، أو نقص في مجموعات البيانات المخزنة للمعايرة ، أو قيم الإدخال غير الصحيحة ، أو بيانات الإدخال المفرطة ، والتي تفوق قدرة الأجهزة على المعايرة.

كيف يتم التنميط العنصري مع كل هذا؟

مصدر الصورة: الجارديان

لنبدأ بحادثة قديمة كانت تعتبر في ذلك الوقت غير ذات أهمية. في عام 2001 ، استخدمت مدينة تامبا برنامج التعرف على الوجوه للمراقبة على المدينة المزدحمة حيث غمر السياح شوارع المدينة بسبب عام 2001 سوبر بول. وفقًا لتقرير نيويورك تايمز ، حدد البرنامج 19 شخصًا يُفترض أن لديهم أوامر توقيف معلقة ضدهم ؛ ومع ذلك ، لم يتم إجراء أي اعتقالات لأن البنية التحتية للملعب جعلت من المستحيل الوصول إلى الجناة الذين تم تحديدهم وسط حشد كبير.

في حين أن علامات التنميط العنصري لم تظهر في أي مكان في هذه الحالة بالذات ، كانت هذه هي المرة الأولى التي يتم فيها وضع تقنيات المراقبة ضد انتهاك الحريات المدنية وخصوصية الأفراد. في السنوات القادمة ، تخلت شرطة تامبا عن أنظمة المراقبة هذه مستشهدة بنتائج غير موثوقة.

مصدر الصورة: ICO

إعادة توجيه سريع لسيناريو أكثر حداثة إلى حد ما ، أفاد علي برلاند لصحيفة الغارديان ، فيما يتعلق باعتقال ويلي لينش ، وهو رجل أسود متهم بأنه تاجر مخدرات سيء السمعة في منطقة برينتوود ، في الغالب حي من الأشخاص الملونين. الدليل الوحيد ضد لينش هو صوره على هاتف محمول ، والتي تم تشغيلها ضد قاعدة بيانات الشرطة قبل أن تقرر الشرطة أنه الجاني. أدين لينش لمدة ثماني سنوات ، والذي استأنف الآن ضد الإدانة. سواء كان التاجر المزعوم أم لا ، فإن ذلك يثير قلقًا حتمًا بشأن ما إذا كانت النتيجة المعتمدة على الآلة فقط كافية لتأييد إدانة أي شخص قيد التحقيق؟

في عام 2019 ، كما أفاد توم بيركنز لصحيفة الغارديان ، تم العثور على شرطة ديترويت تستخدم التعرف على الوجه لإجراء اعتقالات يُزعم أنها على مدار العامين الماضيين. ديترويت هي مكان أكثر من 80 ٪ من السكان من السود. أثار بيان من عضو أسود من لجنة شرطة ديترويت مخاوف بشأن هذه الممارسة. قال إن الأشخاص السود لديهم سمة وجه مشتركة تهدد خوارزمية النظام ، واصفًا ذلك بـ "العنصرية التقنية".

مصدر الصورة: Vox

في بحث أُجري عام 2019 لمجلة Journal of Information Communication and Ethics Society ، بقلم فابيو باشيني ولودوفيكا لوروسو ، وجد أن أنظمة التعرف على الوجه والقياسات الحيوية هذه ليست موثوقة بنسبة 100٪ لإنفاذ القانون. علاوة على ذلك ، كان للتمييز العنصري تأثير سلبي على جميع هذه الأنظمة ، مما أدى إلى مزيد من الآثار المجتمعية العكسية. استهدفت الدراسة المجتمعات الغربية على وجه الخصوص ، حيث يتم استخدام هذه الأنظمة على نطاق واسع للمراقبة.

هذه ليست سوى ثلاثة أمثلة من بين العديد من الأمثلة التي ظهرت فيها حالات التباينات العرقية الناجمة عن أنظمة التعرف على الوجوه. ولكن لماذا هذا النظام غير كفء للغاية على الرغم من هذه الدقة المتزايدة في ترقيات الترميز الخوارزمي في التكنولوجيا.

التفوق الأبيض في الدول الغربية: صناعة تكنولوجيا مهيمنة للبيض

في عام 2014 ، وجد أن غالبية شركات التكنولوجيا ، بما في ذلك شركة أبل العملاقة ، توظف في الغالب موظفين من الذكور البيض. في Apple ، كان 55٪ من الموظفين من البيض ، وبالمثل ، شكلت قيادة Apple 63٪ من الموظفين البيض. وشملت الشركات التي شاركت تقارير تنوع مماثلة Facebook و Google و Twitter أيضًا. بعد خمس سنوات ، كشف تقرير في Wired أنه كان هناك تحسن طفيف في هذه الأرقام.

بينما أظهر Facebook تحسنًا جيدًا في الأرقام ، لم تتغير نسبة العمال الفنيين السود في Apple عند 6 ٪ فقط من إجمالي القوى العاملة. كانت أمازون هي المنظمة الوحيدة التي سجلت 42٪ من السود أو عمال أمريكا اللاتينية في مكاتبها بالولايات المتحدة.

ما يموت تشير هذه الإحصائيات؟ في الولايات المتحدة ، معظم المبرمجين ، الذين تم تكليفهم بمشاريع كبرى مثل تصميم الخوارزميات لأنظمة المراقبة ، هم من البيض. هؤلاء هم الأشخاص الذين يتخذون أهم القرارات المتعلقة بمنتج أو خدمة سيتم إطلاقها / كشف النقاب عنها من قبل الشركة. وبالتالي ، فإن وجهات نظرهم ونهجهم وعمليات تفكيرهم هي التي تدخل في الخلق النهائي. هذا لا يعني أن الأشخاص البيض عنصريون وقد صمموا أنظمة مراقبة كهذه عن قصد . لا!

مصدر الصورة: Forbes

عندما يصمم رجل أبيض خوارزمية للتعرف على الوجوه وليس لديه سوى زملاء من البيض يستشيرونه / يساعدونه ، فإنهم لا يأخذون بعين الاعتبار سمات وجه الأشخاص ذوي الألوان الأخرى قبل إنهاء الكود. نظرًا لأن المهندسين البيض يسيطرون على صناعة التكنولوجيا ، يتم أيضًا إنشاء ومعايرة أرشيفات البيانات المستخدمة لإعداد الكود الأولي بواسطة فنيين بيض. وهكذا ، تم إنشاء الكود نفسه مع وجود تحيز في الخوارزمية الحسابية الأساسية ، مما أدى إلى هذه التباينات العرقية في نتائج المراقبة.

يتعلم الرمز ببساطة ما يجسده البيض. لا يوجد منظور أو مساهمة من أي شخص من لون آخر.

قضايا المعايرة

يعتمد تطبيق القانون الأمريكي بشكل كبير على المراقبة وتتبع البيانات. كانت هناك العديد من الحالات حيث أزال المبلغون عن المخالفات المعلومات المتعلقة بالمراقبة غير المصرح بها للمدنيين. كشف إدوارد سنودن عن المراقبة غير القانونية لوكالة الأمن القومي هو أحد الأمثلة على ذلك.

مصدر الصورة: CBS Local

برامج المراقبة هذه مدعومة ببصمات الوجه وغيرها من المعلومات الشخصية لملايين المواطنين. إذا نظرنا فقط في بصمات الوجوه ، فهناك ملايين الأمريكيين يشاركون الصور علنًا على منصات التواصل الاجتماعي. ثم هناك كاميرات CCTV في كل شارع من شوارع البلاد تقدم لقطات حية لمئات الآلاف من المارة. يوجد حاليًا ما يقرب من 117 مليون صورة في قواعد بيانات الشرطة ، بينما يمتلك مكتب التحقيقات الفيدرالي أكثر من 400 مليون مجموعة بيانات للمعايرة في خوارزميات التعرف على وجه المراقبة.

تخيل الآن مجموعات البيانات هذه مقارنة بصورة واحدة قد تكون أو لا تكون قد التقطت جميع سمات الوجه لشخص معين. في مثل هذا السيناريو ، من المرجح أن تنشأ أخطاء. هناك الكثير من البيانات لفهمها وتشغيلها مقابل بصمة وجه واحدة. لا يمكن لأي خوارزمية أن تضمن ضمانًا بنسبة مائة بالمائة في نتيجتها عندما تكون المعايرة معقدة للغاية. هذا يضيف في النهاية إلى التنميط العرقي الذي تسببه تقنية التعرف على الوجوه.

الموثوقية الهائلة في التعرف على الوجه

مصدر الصورة: NY Post

تعتبر قضية ويلي لينش بمثابة تذكير بأن التعرف على الوجوه لا ينبغي أن يكون الأسلوب الوحيد الموثوق به المقدم كدليل عندما يتعلق الأمر بإنفاذ القانون. هذا هو سبب تخلي شرطة مدينة تامبا عن التكنولوجيا.

صحيح أن التعرف على الوجوه هو منتجع ممتاز ومفيد للشرطة. تم التعرف على الجناة في Boston Marathon Bombings باستخدام تحليل شامل ومفصل لتسجيلات المراقبة. لكن هذا لا يمكن أن يكون الدليل الوحيد لإدانة أي شخص. يجب أن يكون هناك دليل داعم لإثبات نتائج خوارزميات التعرف على الوجوه ، ويجب مراعاة مفهوم تحيز الأتمتة قبل الوصول إلى القرار النهائي.

مشكلة الأجهزة: التعرف على الوجه في الهواتف المحمولة والكاميرات

مصدر الصورة: TechCrunch

لم يتم تصميم أنظمة كاميرات المراقبة والأجهزة والبرامج المرتبطة بها من قبل شركة واحدة. إنها صناعة تبلغ قيمتها مليارات الدولارات حيث تتنافس عشرات الشركات للحصول على عقود من وكالات إنفاذ القانون. العديد من هذه الأنظمة من الشركات المصنعة الصينية. الأمر كله يتعلق بالحصول على أرخص تقنية بأفضل الصفات. هذه هي الطريقة التي تعمل بها في الغالب. وبالتالي ، هناك دائمًا فرص للاختلافات في معايرة الأنظمة المختلفة ، فضلاً عن التباين في جودة نتائج المراقبة. العديد من خوارزميات المراقبة بالكاميرات غير فعالة في معايرة صور الأشخاص الملونين فقط بسبب عدم الكفاءة التقنية ، وبالتالي تمجيد التمييز العنصري.

تمت ملاحظة المشكلات التقنية التي تسبب العنصرية عبر التعرف على الوجوه في ميزة Apple Face Lock. أطاحت قضية من الصين بأن قفل الوجه iPhone X لم يكن قادرًا على التمييز بين اثنين من زملاء العمل الصينيين المختلفين ، مما يجعل الميزة عديمة الفائدة. تم رفض تقارير مماثلة ، مشيرة إلى مشاكل في الميزة في فصل اثنين من السود عن بعضهما البعض. كما هو مذكور أعلاه ، لدى Apple 6٪ فقط من السود في الفرق الفنية. إنه مثال واضح على كيف يمكن لتقنية التعرف على الوجوه أن تعزز العنصرية حتى في أجهزتنا المحمولة.

استنتاج

نعم ، التعرف على الوجه عنصري ، وهذا أمر معروف الآن. بينما تنمو التكنولوجيا يوميًا لتصحيح مثل هذه المشكلات ، فإن النتائج كلها متشابهة. من المفترض أن توحد التكنولوجيا العالم حول أهداف مشتركة للتقدم التقني والتطوير ، لكن بعض التقنيات تسبب فقط ضررًا للتناغم العرقي والمجتمعي.

في الوقت الحالي ، أفضل ما يمكن لمسؤولي إنفاذ القانون فعله هو عدم دعم قضاياهم بناءً على أدلة من المعايرة الخوارزمية ، والتي لا يمكن الاعتماد عليها حتى. علاوة على ذلك ، فقد حان الوقت لأن يتم أخذ التنوع والشمول في أماكن العمل على محمل الجد حتى يتمكن الأشخاص من جميع الأعراق من العمل معًا لإنشاء منتج خالٍ من التباينات العرقية. هناك الآلاف من الأجناس في العالم ، وقد نما الناس لوضع الاختلافات العرقية جانبًا ، والتي طاردت المجتمع العالمي لفترة طويلة. إذا كان لا بد من الحفاظ على ذلك ، فإن الآلات التي نعتمد عليها كثيرًا يجب أن نتعلم نفس الشيء.