La tecnología de reconocimiento facial y sus capacidades han crecido mucho más allá de nuestra imaginación desde que los nuevos algoritmos para reforzar esta tecnología en la aplicación de la ley han cobrado importancia. Actualmente, las fuerzas del orden público utilizan la tecnología de reconocimiento facial en los niveles más bajos de los procesos de recopilación de datos para identificar a los delincuentes en medio de reuniones abarrotadas. La tecnología utiliza imágenes de cámaras de circuito cerrado de televisión en lugares públicos y calles y luego compara los datos recopilados con los archivos de la agencia para detectar un rostro buscado por delitos penales.
Esta tecnología se ha integrado además en los dispositivos más pequeños, incluidos los teléfonos móviles y los dispositivos portátiles inteligentes. Por lo tanto, no solo lo protege en las calles, sino que también tiene la intención de proteger su información personal almacenada en sus dispositivos inteligentes. El uso de "impresión facial" para las prácticas de marketing y publicidad se ha vuelto común en la era moderna de las campañas en las redes sociales. Y luego, hay vigilancia privada en centros comerciales, tiendas minoristas, etc.
Desde esta perspectiva, se pueden señalar rápidamente las innegables ventajas de la tecnología de reconocimiento facial. Pero también ha sido examinado por la amenaza que representa para la privacidad del usuario, la protección de datos y, por supuesto, la transparencia entre la ley y el público. Es bueno conocer las ventajas y los inconvenientes de una tecnología tan invasiva. Sin embargo, hay una desventaja más de la tecnología de reconocimiento facial, que la gente parece ignorar, y es el perfil racial y la discriminación racial .
En este artículo, analizamos cómo esta tecnología promueve el prejuicio racial y la discriminación y cuán graves son las repercusiones de una tecnología tan invasiva.
¿Cómo funciona el reconocimiento facial?
Fuente de la imagen: National Post
Paso 1: Se toma una foto tuya desde una cámara, tu cuenta, correo electrónico, etc. Es una foto de perfil directa o una instantánea aleatoria en una multitud.
Paso 2: El software de reconocimiento facial ejecutará su rostro a través de una base de datos de huellas faciales almacenadas. La huella de la cara se recopila mediante el seguimiento geométrico de su rostro.
Paso 3: Se produce un porcentaje de coincidencia de su imagen con cualquier huella conocida utilizando un algoritmo sobre el cual se toma una determinación.
Sesgo de automatización: uno de los muchos defectos de la tecnología de reconocimiento facial
El sesgo de automatización o sesgo de máquina se refiere al escenario en el que un algoritmo de máquina muestra un cierto sesgo en la calibración de los datos de entrada, lo que genera una salida desfavorable. Esto sucede cuando hay un error en el código del algoritmo, falta de conjuntos de datos almacenados para la calibración, valores de entrada incorrectos o datos de entrada excesivos, que están más allá de la capacidad de calibración de las máquinas.
¿Cómo va la elaboración de perfiles raciales con todo esto?
Fuente de la imagen: The Guardian
Comencemos con un incidente antiguo que en ese momento se consideró insignificante. En 2001, la ciudad de Tampa usó un software de reconocimiento facial para vigilar la concurrida ciudad cuando los turistas inundaron las calles de la ciudad debido al Super Bowl de 2001. Según un informe del New York Times , el software identificó a 19 personas que supuestamente tenían órdenes de arresto pendientes en su contra; sin embargo, no se realizaron arrestos ya que la infraestructura del estadio hizo imposible llegar a los culpables identificados entre una multitud abrumadora.
Si bien no se observaron signos de discriminación racial en ningún lugar de este caso en particular, fue la primera vez que se utilizaron técnicas de vigilancia contra la violación de las libertades civiles y la privacidad de las personas. En los próximos años, la Policía de Tampa abandonó estos sistemas de vigilancia citando resultados poco fiables.
Fuente de la imagen: ICO
Avance rápido a un escenario algo más reciente, Ali Breland informó para The Guardian , con respecto al arresto de Willie Lynch, un hombre negro acusado de ser un notorio traficante de drogas en el área de Brentwood, predominantemente un vecindario de personas de color. La única prueba contra Lynch fueron sus fotos en un teléfono móvil, que se compararon con una base de datos policial antes de que la policía lo determinara como el culpable. Lynch fue condenado por ocho años, quien ahora ha apelado contra la condena. Ya sea que fuera el presunto comerciante o no, inevitablemente surge la preocupación de si solo un resultado basado en una máquina es suficiente para mantener la condena de cualquier persona bajo investigación.
En 2019, según informó Tom Perkins para The Guardian , se descubrió que la policía de Detroit usaba el reconocimiento facial para realizar arrestos supuestamente durante los últimos dos años. Detroit es un lugar donde más del 80% de la población es negra. Una declaración de un miembro negro de la Comisión de Policía de Detroit expresó su preocupación contra la práctica. Dijo que las personas negras tienen un rasgo facial común que pone en peligro el algoritmo del sistema, y lo calificó como "tecno-racismo".
Fuente de la imagen: Vox
En una investigación de 2019 para el Journal of Information Communication and Ethics Society, realizada por Fabio Bacchini y Ludovica Lorusso, se descubrió que estos sistemas biométricos y de reconocimiento facial no son 100% confiables para las fuerzas del orden. Además, la discriminación racial tuvo un impacto negativo en todos esos sistemas, lo que tiene más implicaciones sociales inversas. El estudio se centró en las sociedades occidentales en particular, donde estos sistemas se utilizan ampliamente para la vigilancia.
Estos son solo tres de los muchos ejemplos en los que han salido a la luz casos de disparidades raciales causadas por los sistemas de reconocimiento facial. Pero, ¿por qué estos sistemas son tan incompetentes a pesar de la creciente precisión en las actualizaciones de codificación algorítmica en la tecnología?
Supremacía blanca en los estados occidentales: una industria tecnológica de dominación blanca
En 2014, se descubrió que la mayoría de las empresas de tecnología, incluido el gigante Apple Inc., contrataban principalmente a empleados varones blancos. En Apple, el 55% de los empleados eran blancos y, de manera similar, el liderazgo de Apple comprendía el 63% de los empleados blancos. Las empresas que compartieron informes de diversidad similares también incluyeron Facebook , Google y Twitter. Cinco años después, un informe en Wired reveló que había habido una mejora mínima en estos números.
Si bien Facebook mostró una mejora decente en números, el porcentaje de trabajadores técnicos negros de Apple se mantuvo sin cambios en un mero 6% de la fuerza laboral total. Amazon fue la única organización que registró un 42% de trabajadores negros o latinoamericanos en sus oficinas de Estados Unidos.
¿Qué significan estas estadísticas? En los EE. UU., La mayoría de los codificadores, que están asignados a proyectos importantes, como el diseño de algoritmos para sistemas de vigilancia, son blancos. Son las personas que toman las decisiones más importantes con respecto a un producto o servicio que una empresa lanzará / dará a conocer. Y por lo tanto, son sus perspectivas, enfoque y procesos de pensamiento los que van en la creación final. Esto no implica que los blancos sean racistas y hayan diseñado deliberadamente tales sistemas de vigilancia . ¡NO!
Fuente de la imagen: Forbes
Cuando un hombre blanco diseña un algoritmo de reconocimiento facial y solo tiene colegas blancos que lo consultan / asisten, no consideran los rasgos faciales de las personas de otro color antes de finalizar el código. Dado que los ingenieros blancos dominan la industria tecnológica, los archivos de datos utilizados para preparar el código inicial también son creados y calibrados por técnicos blancos. Por lo tanto, el código en sí se crea con un sesgo en su algoritmo de cálculo central, lo que resulta en estas disparidades raciales en los resultados de la vigilancia.
El código simplemente aprende lo que los blancos incorporan en él. No hay perspectiva ni contribución de ninguna persona de otro color.
Los problemas de calibración
La aplicación de la ley estadounidense depende en gran medida de la vigilancia y el seguimiento de datos. Ha habido muchos casos en los que los denunciantes eliminaron información sobre la vigilancia no autorizada de civiles. La revelación de Edward Snowden sobre la vigilancia ilegal de la NSA es un ejemplo.
Fuente de la imagen: CBS Local
Estos programas de vigilancia están respaldados por huellas faciales y otra información personal de millones de ciudadanos. Si solo consideramos las huellas de la cara, hay millones de estadounidenses que comparten fotos abiertamente en las plataformas de redes sociales. Luego hay cámaras de circuito cerrado de televisión en todas las calles de la nación que ofrecen imágenes en vivo de cientos de miles de transeúntes. Actualmente, hay aproximadamente 117 millones de imágenes en las bases de datos de la policía, mientras que el FBI tiene más de 400 millones de conjuntos de datos para calibrar en los algoritmos de reconocimiento facial de vigilancia.
Ahora imagine estos conjuntos de datos comparados con una sola imagen que puede haber capturado o no todos los rasgos faciales de la persona en particular. En tal escenario, es probable que surjan errores. Hay demasiados datos para comprenderlos y compararlos con una sola huella. Ningún algoritmo puede garantizar un cien por cien de seguridad en su resultado cuando la calibración es tan complicada. Esto eventualmente se suma al perfil racial causado por la tecnología de reconocimiento facial.
La inmensa fiabilidad del reconocimiento facial
Fuente de la imagen: NY Post
El caso de Willie Lynch es un recordatorio de que el reconocimiento facial no debe ser la única técnica confiable presentada como evidencia cuando se trata de hacer cumplir la ley. Esta es la razón por la que la policía de la ciudad de Tampa abandonó la tecnología.
Es cierto que el reconocimiento facial es un recurso excelente y es útil para la policía. Los culpables de los atentados del maratón de Boston fueron reconocidos mediante un análisis extenso y detallado de las grabaciones de vigilancia. Pero esta no puede ser la prueba singular para condenar a nadie. Debe haber evidencia de apoyo para probar los resultados de los algoritmos de reconocimiento facial, y se debe considerar el concepto de sesgo de automatización antes de llegar a una determinación final.
El problema del hardware: reconocimiento facial en dispositivos móviles y cámaras
Fuente de la imagen: TechCrunch
Los sistemas de cámaras de vigilancia y el hardware y software asociados no están diseñados por una sola empresa. Es una industria que vale miles de millones de dólares en la que decenas de corporaciones compiten para obtener contratos de las agencias de aplicación de la ley. Muchos de estos sistemas son de fabricantes chinos. Se trata de conseguir la tecnología más barata con las mejores cualidades. Así es como funciona principalmente. Y, por lo tanto, siempre hay posibilidades de diferencias en la calibración de diferentes sistemas, así como variaciones en la calidad de los resultados de la vigilancia. Muchos algoritmos de vigilancia con cámaras son ineficaces para calibrar imágenes de personas de color simplemente por incompetencia técnica, glorificando así la discriminación racial.
Los problemas tecnológicos que causan el racismo a través del reconocimiento facial también se han notado en la función Apple Face Lock. Un caso de China expulsó que el bloqueo facial del iPhone X no podía diferenciar entre dos compañeros de trabajo chinos diferentes, lo que hacía que la función fuera inútil. Se descartaron informes similares, citando problemas en la función al separar a dos personas negras entre sí. Como se indicó anteriormente, Apple tiene solo el 6% de personas de raza negra en los equipos técnicos. Es un claro ejemplo de cómo una tecnología de reconocimiento facial puede promover el racismo incluso en nuestros dispositivos portátiles.
Conclusión
Sí, el reconocimiento facial es racista, y eso es de conocimiento común ahora. Si bien la tecnología crece a diario para corregir estos problemas, los resultados son todos iguales. Se supone que la tecnología unirá al mundo en torno a objetivos comunes de avance y desarrollo técnicos, pero algunas técnicas solo están causando daño a la armonía racial y comunitaria.
Por ahora, lo mejor que pueden hacer los funcionarios encargados de hacer cumplir la ley es no respaldar sus casos basándose en pruebas de calibraciones algorítmicas, que ni siquiera son fiables. Además, es hora de que la diversidad y la inclusión en los lugares de trabajo se tomen en serio para que las personas de todas las etnias puedan unirse para crear un producto libre de disparidades raciales. Hay miles de razas en el mundo, y la gente ha crecido para dejar de lado las diferencias raciales, que atormentaron a la sociedad global durante tanto tiempo. Si eso debe mantenerse, entonces las máquinas en las que confiamos tanto deben aprender lo mismo.
Si bien no puede deshabilitar permanentemente las publicaciones sugeridas en Facebook, puede gestionar lo que ve como publicaciones sugeridas. Descubre cómo optimizar tu experiencia en la red.
¿No puedes enviar una solicitud de amistad en Facebook? Aquí están las posibles razones y trucos para solucionar el problema.
Aprende a agregar una <strong>publicación anónima</strong> en un grupo de Facebook fácilmente siguiendo estos pasos.
Descubre cómo desenfocar el fondo en Zoom para mantener la privacidad durante tus videollamadas. Aprende paso a paso con esta guía útil.
Zoom se ha convertido en un elemento básico en nuestra vida diaria, que nuestro nombre Zoom es casi el mismo que nuestra identidad. En este artículo, aprenderás cómo solucionar problemas al cambiar tu nombre en Zoom.
¿Se pregunta dónde está la carpeta segura en su teléfono Samsung? Vea diferentes formas de acceder a la Carpeta Segura en teléfonos Samsung Galaxy.
¿Steam tarda demasiado en confirmar tu compra? Aquí se muestran todas las formas de corregir el error de compra (transacción) pendiente en Steam.
Si borraste accidentalmente tus fotos de Google Photos, no te preocupes. Aquí te mostramos cómo recuperarlas de la Papelera y qué hacer si fueron eliminadas permanentemente.
Debido a que Gramblr no está funcionando, le ofrecemos algunas de las mejores alternativas de Gramblr del año para programar su contenido en redes sociales de forma fácil y gratuita.
Si tiene problemas con la Biblioteca familiar de Google Play y no puede compartir, aquí hay algunos consejos que debe verificar para resolver el problema.
