La elección de IBM de poner fin a las ventas comerciales de reconocimiento facial puede aumentar la presión sobre Amazon y Microsoft para detener los contratos con las agencias de aplicación de la ley. La fundadora de la Algorithmic Justice League (AJL), Joy Buolamwini, dijo que ya ve señales que apuntan en esa dirección. El martes, por ejemplo, el mismo día del funeral de George Floyd, más de 250 empleados de Microsoft instaron El CEO Satya Nadella terminará los contratos con la policía.
“Google se ha alejado del reconocimiento facial, al igual que IBM, y ya vemos a los trabajadores de Microsoft movilizándose para exigir un cambio”, dijo Buolamwini a VentureBeat el martes poco después de testificar ante el Ayuntamiento de Boston a favor de una propuesta de prohibición del reconocimiento facial.
Amazon y Microsoft siguen siendo dos de las únicas empresas tecnológicas importantes que intentan activamente vender software de reconocimiento facial a gobiernos y organismos encargados de hacer cumplir la ley.
Al asociarse con el investigador de Google AI Timnit Gebru en 2018 y la investigadora del AI Now Institute Deborah Raji en 2019, Buolamwini publicó el Proyecto Gender Shades, auditorías de reconocimiento facial de empresas como Amazon, IBM, Face++ y Microsoft que encontraron que funcionan mejor para hombres blancos y peor para mujeres con tonos de piel más oscuros. Argumentando que incluso el reconocimiento facial perfecto puede ser mal utilizado, Gebru defendió la prohibición del reconocimiento facial en un entrevista publicada esta mañana por el New York Times.
“Hemos llegado a un momento de ajuste de cuentas en el que más personas están reevaluando la aplicación de la ley y la capacidad de abuso que se puede acelerar con herramientas de alta tecnología”, dijo Buolamwini. “El momento en el que nos encontramos es una llamada de atención para todas las empresas de tecnología que trabajan con la policía. En AJL, apoyamos la suspensión de la vigilancia facial e instamos a Microsoft, Amazon y otros a seguir el ejemplo de IBM de no equipar a la policía con tecnología de reconocimiento facial para la vigilancia, el perfilado racial y otros abusos perjudiciales”.
Gracias al proyecto Gender Shapes del que son coautoras estas tres mujeres negras investigadoras de inteligencia artificial, el conocimiento de los prejuicios raciales y de género es mucho más común hoy en día entre legisladores considerando la regulación en las legislaturas estatales y el Congreso. A principios de este año y en múltiples audiencias en 2019, La regulación del reconocimiento facial recibió el apoyo de un grupo bipartidista de legisladores en el Congreso.
El martes, Buolamwini y la Algorithmic Justice League pidieron a las principales empresas tecnológicas que comprometieran $1 millón para organizaciones tecnológicas de justicia racial como Data for Black Lives y Black in AI. AJL también instó a las empresas de reconocimiento facial a firmar el Compromiso de cara segura no vender el reconocimiento facial a las fuerzas del orden u otros actores con poder que puedan usar fuerza letal.
A principios de esta semana, El CEO de IBM, Arvind Krishna, dijo que su compañía ya no venderá ni investigará el reconocimiento facial. y se unió a los llamados a la regulación que están haciendo otras compañías tecnológicas importantes, incluidas Amazon, Google y Microsoft. Google declaró anteriormente que no tiene planes de vender el reconocimiento facial sin una regulación adicional y, a principios de este año, apoyó los pedidos de moratoria.
IBM detuvo la detección de rostros para una API disponible públicamente el año pasadoy análisis independiente encontró que IBM no tiene contratos de reconocimiento facial conocidos públicamente en los EE. UU. Sin embargo, la decisión de IBM tiene un significado simbólico, dado el investigación de la empresa con la policía de Nueva York e historia de trabajando con la Alemania nazi durante la Segunda Guerra Mundial.
Por el contrario, Microsoft aboga por el reconocimiento facial en las legislaturas de California y Washington, y el director ejecutivo de AWS, Andy Jassy, ha declarado anteriormente que su empresa vender reconocimiento facial a cualquier gobierno siempre que sea legal. En mayo 2019, Los accionistas de Amazon rechazaron formalmente la suspensión de la venta de reconocimiento facial a los gobiernos.
Investigación publicada el año pasado por la Academia Nacional de Ciencias descubrió que la violencia policial es una de las principales causas de muerte entre los hombres negros en los Estados Unidos. George Floyd, cuyo asesinato condujo a algunas de las protestas más grandes y largas en la historia registrada, fue enterrado en su ciudad natal de Houston el martes.
En diciembre de 2019, el Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio llevó a cabo su primera prueba de proveedor de reconocimiento facial basada en la raza. En un análisis de algoritmos de casi 100 empresas, la prueba encontró que los sistemas identificaban erróneamente los rostros de personas de ascendencia asiática o africana de 10 a 100 veces más a menudo que los rostros blancos.
El director del Laboratorio de Tecnología de la Información del NIST, el Dr. Charles Romine, testificó en enero ante el Comité de Supervisión y Reforma de la Cámara de Representantes que Amazon estaba en conversaciones con el NIST para que se evaluara Rekognition, pero que no se había realizado ningún análisis de sesgo del gobierno. VentureBeat se comunicó hoy con un portavoz del NIST para verificar si el NIST evaluó el reconocimiento de Amazon.
Aunque el CEO Jeff Bezos le dijo a un cliente de All Lives Matter que no los querían esta semana, Amazon tiene un pasado defectuoso. Al igual que las críticas hechas a un Trabajador del centro logístico de Amazon que los ejecutivos intentaron describir como "no inteligente ni articulado" en enero de 2019, el vicepresidente de inteligencia artificial de AWS, Matt Wood, tomó la medida inusual de criticar el análisis de Gender Shades en un del blog, un aparente intento de desacreditar la exactitud del trabajo. Sombras de género fue defendido posteriormente por un grupo de casi 80 destacados investigadores de IA, incluido Yoshua Bengio, el pionero del aprendizaje profundo y partidario de la igualdad que se encuentra entre los académicos vivos más citados en la actualidad.
Por su trabajo para revelar las disparidades en el rendimiento del reconocimiento facial basadas en las disparidades de raza y género en los sistemas de reconocimiento facial disponibles comercialmente, en julio de 2019, VentureBeat presentó a Buolamwini, Gebru y Raji su premio inaugural a la innovación en IA en la categoría AI for Good. El trío se encuentra entre una variedad de mujeres negras que se mencionan en las redes sociales esta semana con el hashtag #CiteBlackWomen. Para llamar más la atención sobre la falta de citas y cobertura mediática de las mujeres académicas, así como el sesgo algorítmico, a principios de este año, Algorithmic Justice League, junto con siete mujeres destacadas en tecnología e IA, lanzó el Proyecto de borrado de voz.
Fuente: http://feedproxy.google.com/~r/venturebeat/SZYF/~3/gdJhzfeXRrI/
