La comunidad de inteligencia de EE. UU. ha lanzado un programa para desarrollar inteligencia artificial que pueda determinar la autoría de escritos anónimos y al mismo tiempo ocultar la identidad de un autor alterando sutilmente sus palabras.
El programa Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) de la Actividad de Proyectos de Investigación Avanzada de Inteligencia (IARPA) tiene como objetivo crear software que pueda realizar "huellas digitales lingüísticas", la Oficina del Director de Inteligencia Nacional (ODNI) dijo.
“Los humanos y las máquinas producen grandes cantidades de contenido de texto todos los días. El texto contiene características lingüísticas que pueden revelar la identidad del autor”, IARPA dijo [PDF].
Con el modelo correcto, IARPA cree que puede identificar consistencias en el estilo de un escritor a través de diferentes muestras, modificar esos patrones lingüísticos para anonimizar la escritura y hacerlo todo de una manera que sea explicable a los usuarios novatos, dijo ODNI. Las IA HIATUS también tendrían que ser independientes del lenguaje.
“Tenemos una gran posibilidad de alcanzar nuestros objetivos, brindar capacidades muy necesarias a la comunidad de inteligencia y expandir sustancialmente nuestra comprensión de la variación en el lenguaje humano utilizando los últimos avances en lingüística computacional y aprendizaje profundo”, dijo el director del programa HIATUS, el Dr. Timothy McKinnon. .
Para desarrollar modelos sólidos, HIATUS planea abordar sus objetivos como una cuestión de IA contradictoria: la atribución de autoría y el anonimato del texto son dos lados del mismo problema, por lo que los grupos de experimentos de HIATUS se enfrentarán entre sí.
“Los sistemas de atribución se evalúan según la capacidad de hacer coincidir elementos del mismo autor en grandes colecciones, mientras que los sistemas de privacidad se evalúan según la capacidad para frustrar los sistemas de atribución”, dijo IARPA.
La agencia dijo que también planea desarrollar estándares de explicabilidad para las IA HIATUS.
McKinnon dijo que parte de lo que HIATUS está haciendo es tratar de desmitificar algunas de las incógnitas en torno a los modelos de lenguaje neuronal (el enfoque de los esfuerzos de HIATUS), que dijo que funcionan bien pero son esencialmente cajas negras que funcionan sin que sus desarrolladores sepan por qué toman una decisión en particular.
Idealmente, dijo McKinnon, "cuando realizamos la atribución o realizamos la privacidad de la autoría, podemos entender realmente por qué el sistema se está comportando de la manera en que lo hace, y poder verificar que no detecta cosas falsas y que lo está haciendo". Lo correcto."
Si tiene éxito, HIATUS podría tener impactos de gran alcance, desde contrarrestar las actividades de influencia extranjera hasta identificar riesgos de contrainteligencia y proteger a los autores cuyo trabajo pueda ponerlos en peligro, dijo la ODNI. McKinnon agrega que las IA de HIATUS también pueden identificar si el texto es generado por una máquina en lugar de por una persona.
Alrededor del 70 por ciento de la investigación completa de IARPA llega a otros socios gubernamentales para su implementación, en lo que IARPA no participará: todo lo que hace es desarrollar la tecnología, no convertirla en algo utilizable. Dicho esto, las probabilidades están a favor de HIATUS, según la agencia de inteligencia.
Sin embargo, no espere que esta tecnología aparezca en forma completa en el corto plazo: ahora que HIATUS comenzó, pasarán 42 meses (tres años y medio) hasta que finalice el experimento, y es solo entonces es probable que otras agencias gubernamentales prueben HIATUS, si McKinnon y su equipo tienen éxito. ®
