La Ley Europea de Inteligencia Artificial, aunque aún no es ley, está impulsando nuevos niveles de supervisión humana y cumplimiento normativo de la inteligencia artificial (IA) dentro de la Unión Europea. Al igual que el GDPR para la privacidad, la Ley de IA de la UE tiene potencial para marcar la pauta para las próximas regulaciones de IA en todo el mundo.  

El Parlamento Europeo alcanzó un acuerdo provisional sobre la Ley de IA de la UE en diciembre de 2023, ahora está avanzando por las fases finales del proceso legislativo y se espera que se implemente por etapas en la segunda mitad de 2024. Comprender las disposiciones de la UE La Ley de IA y la preparación para el cumplimiento son esenciales para cualquier organización que desarrolle, implemente o utilice IA, o esté planeando hacerlo.

La Ley de IA tiene como objetivo "fortalecer la posición de Europa como centro global de excelencia en IA desde el laboratorio hasta el mercado, garantizar que la IA en Europa respete los valores y reglas establecidos y aproveche el potencial de la IA para uso industrial". Noticias del Parlamento Europeo

La Ley de IA de la UE en resumen

El objetivo principal de la Ley de IA de la UE es fortalecer el cumplimiento normativo en las áreas de gestión de riesgos, protección de datos, sistemas de gestión de calidad, transparencia, supervisión humana, precisión, solidez y ciberseguridad. Su objetivo es impulsar la transparencia y la responsabilidad en la forma en que se desarrollan e implementan los sistemas de IA, ayudando a garantizar que los productos de IA comercializados sean seguros para el uso individual.

La Ley de IA de la UE tiene como objetivo afrontar el desafío de desarrollar e implementar IA de manera responsable en todas las industrias, incluidas aquellas que están altamente reguladas, como la atención médica, las finanzas y la energía. Para las industrias que brindan servicios esenciales a clientes, como seguros, banca y comercio minorista, la ley exige el uso de una evaluación de impacto en los derechos fundamentales que detalla cómo el uso de la IA afectará los derechos de los clientes.

La piedra angular de la Ley de IA de la UE: salvaguardias para prevenir riesgos inaceptables

La Ley de IA de la UE exige que los modelos de IA de propósito general, incluidos los sistemas de IA generativa, como los modelos de lenguaje extenso (LLM) y los modelos básicos, se adhieran a un sistema de clasificación basado en niveles de riesgo sistemáticos. Los niveles de riesgo más altos tienen más requisitos de transparencia, incluida la evaluación, documentación e informes de modelos. También implican la evaluación y mitigación de los riesgos del sistema, la notificación de incidentes graves y la provisión de protecciones contra la ciberseguridad. Además, estos requisitos de transparencia incluyen el mantenimiento de documentación técnica actualizada, proporcionar un resumen del contenido utilizado para la capacitación de modelos y cumplir con las leyes europeas de derechos de autor.

La ley de IA de la UE sigue un enfoque basado en el riesgo, utilizando niveles para clasificar el nivel de riesgo que los sistemas de IA representan para la salud, la seguridad o los derechos fundamentales de un individuo. Los tres niveles son:  

• Sistemas de bajo riesgo como los filtros de spam o los videojuegos, tienen pocos requisitos según la ley, aparte de las obligaciones de transparencia. 

• Sistemas de IA de alto riesgo como vehículos autónomos, dispositivos médicos e infraestructura crítica (agua, gas, electricidad, etc.) requieren que los desarrolladores y usuarios cumplan con requisitos regulatorios adicionales:
  • Implementar la gestión de riesgos, proporcionar precisión, solidez y un marco de rendición de cuentas que incluya supervisión humana.
  • Cumplir con los requisitos de transparencia establecidos para los usuarios, mantenimiento de registros y documentación técnica.

• Sistemas prohibidos con pocas excepciones. Son sistemas que plantean un riesgo inaceptable, como la puntuación social, el reconocimiento facial, el reconocimiento de emociones y los sistemas de identificación biométrica remota en espacios públicos.

La Ley de IA de la UE también impone normas sobre cómo se notifica a los clientes cuando utilizan un chatbot o cuando se utiliza un sistema de reconocimiento de emociones. Existen requisitos adicionales para etiquetar las falsificaciones profundas e identificar cuándo se utiliza contenido de IA generativa en los medios.

No cumplir con la Ley de IA de la UE puede resultar costoso:  

7.5 millones de euros o el 1.5% de la facturación anual total de una empresa en todo el mundo (lo que sea mayor) por el suministro de información incorrecta. 15 millones de euros o el 3% de la facturación anual total de una empresa en todo el mundo (lo que sea mayor) por violaciones de las obligaciones de la Ley de IA de la UE. 19 de diciembre de 2023

La Ley Europea de IA es actualmente el marco legal más completo para las regulaciones de IA. Los gobiernos de todo el mundo están tomando nota y discutiendo activamente cómo regular la tecnología de IA para garantizar que sus ciudadanos, empresas y agencias gubernamentales estén protegidos de riesgos potenciales. Además, las partes interesadas, desde las juntas corporativas hasta los consumidores, están dando prioridad a la confianza, la transparencia, la equidad y la responsabilidad cuando se trata de IA.

Preparándose para las próximas regulaciones con IBM

IBM watsonx.governance acelera flujos de trabajo de IA responsables, transparentes y explicables

IBM® watsonx.governance™ acelera el gobierno de la IA, la dirección, la gestión y el seguimiento de las actividades de IA de su organización. Emplea la automatización de software para fortalecer la capacidad de mitigar riesgos, gestionar los requisitos regulatorios y gobernar el ciclo de vida tanto de la IA generativa como de los modelos predictivos de aprendizaje automático (ML).

 watsonx.governance impulsa la transparencia, la explicabilidad y la documentación del modelo en 3 áreas clave:

• Regulador cumplimiento -Gestione la IA para cumplir con las próximas regulaciones, políticas y estándares de seguridad y transparencia en todo el mundo. Automatice la identificación de cambios regulatorios según los requisitos aplicables, conecte datos regulatorios con políticas y controles de riesgo clave y utilice hojas informativas para automatizar la captura y la presentación de informes de metadatos de modelos en apoyo de consultas y auditorías.

• Gestión de riesgos - umbrales de riesgo preestablecidos y detectar y mitigar proactivamente los riesgos del modelo de IA. Supervise la equidad, la deriva, el sesgo y las nuevas métricas de IA generativa. Obtenga información sobre el estado de riesgo en toda su organización con paneles e informes basados ​​en el uso. Integre todos los datos de riesgo, evaluaciones de riesgo/control, eventos de pérdidas internas y externas, indicadores de riesgo clave y gestión de problemas/plan de acción, dentro de un único entorno.

• Gobernanza del ciclo de vida – Gobernanza del ciclo de vida – gobierna tanto la IA generativa como los modelos predictivos de aprendizaje automático a lo largo del ciclo de vida utilizando flujos de trabajo/aprobaciones integrados, alertas preestablecidas, paneles e informes personalizables. Supervise las métricas y el estado de los casos de uso, solicitudes de cambio en proceso, desafíos, problemas y tareas asignadas.

'Romper la caja negra' con la gobernanza de la IA