Incluso un maquillaje modesto puede dificultar el reconocimiento facial

Como
Gustó

Fecha:

Nodo: 4219740

Los investigadores de la empresa contratista de ciberdefensa PeopleTec han descubierto que el enfoque de los algoritmos de reconocimiento facial en áreas específicas del rostro abre la puerta a estrategias más sutiles de evasión de la vigilancia.

En una preimpresión En un artículo titulado “Novel AI Camera Camouflage: Face Cloaking Without Full Disguise” (“Nuevo camuflaje con cámara de inteligencia artificial: encubrimiento facial sin disfraz completo”), David Noever, científico jefe, y Forrest McKee, científico de datos, describen sus esfuerzos para desconcertar a los sistemas de reconocimiento facial mediante la aplicación mínima de maquillaje y manipulación de archivos de imagen.

Noever y McKee relatan varios defensas que se han propuesto contra sistemas de reconocimiento facial, incluido CV Dazzle, que crea asimetrías utilizando maquillaje de alto contraste, gráficos de ataques adversarios que confunden los algoritmos y Juggalo maquillaje, que puede usarse para ocultar la detección de la mandíbula y las mejillas.

Y por supuesto, existen máscaras, que tienen la ventaja de la simplicidad y tienden a ser razonablemente efectivas independientemente del algoritmo de reconocimiento facial que se utilice.

Pero, como observan los autores, estas técnicas llaman la atención.

“Si bien los esfuerzos anteriores, como CV Dazzle, los parches adversarios y el maquillaje Juggalo, se basaban en modificaciones audaces y de alto contraste para alterar la detección facial, estos enfoques a menudo sufren dos limitaciones críticas: su prominencia teatral los hace fácilmente reconocibles para los observadores humanos y no abordan los detectores faciales modernos entrenados en modelos robustos de puntos clave”, escriben.

“Por el contrario, este estudio demuestra que se puede lograr una interrupción efectiva del reconocimiento facial a través del oscurecimiento sutil de regiones clave de alta densidad (por ejemplo, líneas de las cejas, puente de la nariz y contornos de la mandíbula) sin desencadenar los problemas de visibilidad inherentes a los disfraces evidentes”.

Imagen de arXiv:2412.13507 que muestra el rostro de un hombre con maquillaje estilo Darth Maul

Imagen de arXiv:2412.13507 que muestra el rostro de un hombre con maquillaje al estilo Darth Maul. Haga clic para ampliar.

La investigación se centra en dos áreas: aplicar el mínimo maquillaje para engañar Clasificadores en cascada de Haar – se utiliza para la detección de objetos en el aprendizaje automático y para ocultar rostros en archivos de imágenes mediante la manipulación de la capa de transparencia alfa de forma que los rostros permanezcan visibles para los observadores humanos, pero los oculte de sistemas específicos de búsqueda inversa de imágenes como BetaFaceAPI y Microsoft Bing Visual Search.

Reconocimiento facial, dijo Noever en una entrevista telefónica con El registro, representa un problema de tercer orden que plantea riesgos significativos.

“Reúne las mejores y peores partes de la IA”, dijo, “desde el sesgo hasta el conteo de multitudes, pasando por todas las cosas útiles que se pueden hacer con el movimiento del tráfico”.

“Se puede atacar sistemáticamente el algoritmo de reconocimiento sin necesariamente llamar la atención”, dijo, añadiendo que esto proporciona una forma de evitar el efecto Streisand: “en el momento en que buscas el anonimato, lo atraes”.

Noever no se pronuncia sobre si la IA y el reconocimiento facial son buenos o malos, ya que el artículo reconoce que existen usos beneficiosos y perjudiciales. En lo que respecta a su empresa, "recibimos mucho trabajo de evaluación técnica, por lo que esto es más bien como el sello de aprobación de Good Housekeeping", explicó. "¿Cómo podemos tener la confianza de que este algoritmo hace lo que dice que va a hacer?"

Pero, en general, sostiene, este tipo de tecnología debe verse con cautela. “Lo vimos con el reciente Asesino callejero de Nueva York “Esa persecución dependía básicamente de que todos los implicados estuvieran en una fila policial involuntariamente debido a la forma en que se recopilan esas imágenes de las redes sociales. Es una tecnología increíblemente útil para el bien y también increíblemente peligrosa. La IA y el reconocimiento facial combinados realmente son la caja de Pandora, así que tenemos que tener cuidado con ella”.

A pesar de las numerosas investigaciones, las mascarillas siguen siendo una de las pocas formas seguras de evadir estos sistemas [por ahora]

Emily Wenger, profesora adjunta de ingeniería eléctrica e informática en la Universidad de Duke, que ha trabajado en proyectos de anti-reconocimiento facial como Glaze y Fawkes, Dijo El registro en un correo electrónico que las defensas técnicas contra el reconocimiento facial y la IA enfrentan desafíos.

“Algunos colegas y yo escribimos un “Hace unos años, taxonomizando este espacio”, explicó. “Nuestras principales conclusiones fueron que: (1) los métodos que apuntan a las fases de 'configuración' de los sistemas de reconocimiento facial, como la recopilación de datos y la creación de bases de datos de referencia, están poco explorados; y que (2) existe una asimetría de información fundamental en este problema que pone en desventaja a las personas que intentan evadir estos sistemas.

“Si no sabes dónde está operando el sistema, qué modelo de inteligencia artificial o aprendizaje automático utiliza o si formas parte de la base de datos de referencia, te quedan muy pocas opciones garantizadas de evasión más allá de usar una mascarilla”.

Wenger dijo que las mascarillas actualmente son prácticas porque son fáciles de usar y se han vuelto más aceptables a raíz de la pandemia de COVID-19.

“A pesar de las numerosas investigaciones, las mascarillas siguen siendo una de las pocas formas seguras de evadir estos sistemas [por ahora]”, afirmó. “Sin embargo, reconocimiento de la marcha “La tecnología de reconocimiento facial se está volviendo cada vez más poderosa y no está claro si reemplazará al reconocimiento facial. Es más difícil imaginar estrategias de evasión prácticas y efectivas contra esta tecnología”.

Artículos relacionados

punto_img

Artículos Recientes

punto_img