La CCC, el viernes de la semana pasada, respondió a una Solicitud de información para ayudar al NIST a ejecutar las tareas que se les asignaron en la Orden ejecutiva sobre desarrollo y uso seguro y confiable de la inteligencia artificial, emitida el 30 de octubre de 2023.

La respuesta de la CCC planteó puntos críticos sobre los desafíos asociados con la adopción generalizada de la IA generativa. El rápido avance de las herramientas de inteligencia artificial plantea riesgos, particularmente en la autenticación de contenidos, donde aún faltan métodos de detección confiables. La complejidad del problema exige un enfoque matizado, reconociendo las limitaciones de las herramientas de detección actuales y enfatizando la necesidad de soluciones flexibles y adaptables, especialmente ahora que tanto las herramientas de detección como las herramientas de generación de IA mejoran en el futuro.

La CCC abogó por una evaluación cautelosa de las tecnologías de inteligencia artificial que se sugerirán al NIST, como los programas de marcas de agua. A pesar de los avances en curso, los esfuerzos de autenticación de contenido siguen viéndose obstaculizados por la posibilidad de eliminar o falsificar metadatos y marcas de agua.

La CCC también enfatizó la importancia de una terminología precisa al discutir conceptos de IA. Términos como "alucinación" pueden resultar engañosos; Las tecnologías de inteligencia artificial no alucinan como lo hacen los humanos, producen respuestas inexactas y, a veces, inventan información falsa en sus esfuerzos por abordar mejor una indicación. CCC sugirió un esfuerzo de colaboración entre las partes interesadas para establecer una terminología precisa para describir el comportamiento de las aplicaciones de IA.

Para abordar de manera efectiva las asignaciones prescritas al NIST en la Orden Ejecutiva, la CCC también recomendó establecer un mecanismo de retroalimentación estandarizado para informar incidentes de IA y aprovechar recursos como el Consorcio del Instituto de Seguridad de Inteligencia Artificial de EE. UU. para probar y evaluar aplicaciones de IA.

Lea la La respuesta completa a RFI de CCC aquí.