La inteligencia artificial (IA) está transformando la sociedad, incluido el carácter mismo de seguridad nacional. Reconociendo esto, el Departamento de Defensa (DoD) lanzó el Centro Conjunto de Inteligencia Artificial (JAIC) en 2019, el predecesor de la Oficina Principal de Inteligencia Digital y Artificial (CDAO), para desarrollar soluciones de inteligencia artificial que generen ventajas militares competitivas y condiciones para la humanidad. adopción centrada de la IA y la agilidad de las operaciones del Departamento de Defensa. Sin embargo, los obstáculos para ampliar, adoptar y aprovechar todo el potencial de la IA en el Departamento de Defensa son similares a los del sector privado.

Un Encuesta de IBM descubrió que las principales barreras que impiden el despliegue exitoso de la IA incluyen habilidades y experiencia limitadas en IA, complejidad de los datos y preocupaciones éticas. Además, según el Instituto IBM de Valor Empresarial, el 79% de los ejecutivos dice que la ética de la IA es importante para su enfoque de IA en toda la empresa, sin embargo, menos del 25% ha puesto en práctica principios comunes de la ética de la IA. Ganarse la confianza en los resultados de los modelos de IA es un desafío sociotécnico que requiere una solución sociotécnica.

Los líderes de defensa centrados en poner en práctica la conservación responsable de la IA deben primero acordar un vocabulario compartido (una cultura común que oriente el uso seguro y responsable de la IA) antes de implementar soluciones tecnológicas y barreras de seguridad que mitiguen el riesgo. El Departamento de Defensa puede sentar una base sólida para lograrlo mejorando la alfabetización en IA y asociándose con organizaciones confiables para desarrollar una gobernanza alineada con sus objetivos y valores estratégicos.

La alfabetización en IA es imprescindible para la seguridad

Es importante que el personal sepa cómo implementar la IA para mejorar la eficiencia organizacional. Pero es igualmente importante que tengan un conocimiento profundo de los riesgos y limitaciones de la IA y de cómo implementar las medidas de seguridad y las barreras éticas adecuadas. Estos son aspectos en juego para el Departamento de Defensa o cualquier agencia gubernamental.

Una ruta de aprendizaje de IA personalizada puede ayudar a identificar brechas y la capacitación necesaria para que el personal obtenga el conocimiento que necesita para sus funciones específicas. La alfabetización en IA en toda la institución es esencial para que todo el personal pueda evaluar, describir y responder rápidamente a amenazas virales, peligrosas y de rápida evolución, como la desinformación y los deepfakes. 

IBM aplica la alfabetización en IA de forma personalizada dentro de nuestra organización, ya que la definición de alfabetización esencial varía según el puesto de una persona.

Apoyar objetivos estratégicos y alinearse con valores.

Como líder en inteligencia artificial confiable, IBM tiene experiencia en el desarrollo de marcos de gobernanza que guían el uso responsable de la IA en consonancia con los valores de las organizaciones clientes. IBM también tiene sus propios marcos para el uso de IA dentro de la propia IBM, informando posiciones políticas como el uso de tecnología de reconocimiento facial.

Las herramientas de IA ahora se utilizan en la seguridad nacional y para ayudar a proteger contra violaciones de datos y Ataques ciberneticos. Pero la IA también respalda otros objetivos estratégicos del Departamento de Defensa. Puede aumentar la fuerza laboral, contribuyendo a hacerlos más eficaces y ayudándolos recapacitar. Puede ayudar a crear resilientes cadenas de suministro para apoyar a soldados, marineros, aviadores e infantes de marina en funciones de guerra, ayuda humanitaria, mantenimiento de la paz y socorro en casos de desastre.

La CDAO incluye cinco principios éticos de responsabilidad, equitatividad, trazabilidad, confiabilidad y gobernabilidad como parte de su kit de herramientas de IA responsable. Estos principios, basados ​​en el marco ético existente del ejército de EE. UU., se basan en los valores del ejército y ayudan a mantener su compromiso con una IA responsable.

Debe haber un esfuerzo concertado para hacer realidad estos principios mediante la consideración de los requisitos funcionales y no funcionales en los modelos y los sistemas de gobernanza en torno a esos modelos. A continuación, proporcionamos recomendaciones amplias para la operacionalización de los principios éticos del CDAO.

1. Responsable

"El personal del Departamento de Defensa ejercerá niveles apropiados de juicio y cuidado, sin dejar de ser responsable del desarrollo, despliegue y uso de las capacidades de IA".

Todo el mundo está de acuerdo en que los modelos de IA deben ser desarrollados por personal cuidadoso y considerado, pero ¿cómo pueden las organizaciones capacitar a las personas para que hagan este trabajo? Nosotros recomendamos:

• Fomentar una cultura organizacional que reconozca la naturaleza sociotécnica de los desafíos de la IA. Esto debe comunicarse desde el principio y debe haber un reconocimiento de las prácticas, las habilidades y la consideración que se deben poner en los modelos y su gestión para monitorear el desempeño.
• Detallar las prácticas éticas a lo largo del ciclo de vida de la IA, correspondientes a los objetivos comerciales (o de misión), preparación y modelado de datos, evaluación e implementación. El CRISP-DM El modelo es útil aquí. IBM Método de ciencia de datos escalados, una extensión de CRISP-DM, ofrece gobernanza a lo largo del ciclo de vida del modelo de IA informado por aportes colaborativos de científicos de datos, psicólogos industriales y organizacionales, diseñadores, especialistas en comunicación y otros. El método combina las mejores prácticas en ciencia de datos, gestión de proyectos, marcos de diseño y gobernanza de la IA. Los equipos pueden ver y comprender fácilmente los requisitos en cada etapa del ciclo de vida, incluida la documentación, con quién deben hablar o colaborar y los próximos pasos.
• Proporcionar metadatos interpretables del modelo de IA (por ejemplo, como fichas) especificar personas responsables, puntos de referencia de desempeño (en comparación con humanos), datos y métodos utilizados, registros de auditoría (fecha y por quién), y propósito y resultados de la auditoría.

Nota: Estas medidas de responsabilidad deben ser interpretadas por personas no expertas en IA (sin “explicaciones matemáticas”).

2. Equitativo

"El Departamento tomará medidas deliberadas para minimizar los sesgos no deseados en las capacidades de la IA".

Todo el mundo está de acuerdo en que el uso de modelos de IA debe ser justo y no discriminatorio, pero ¿cómo ocurre esto en la práctica? Nosotros recomendamos:

• Establecer un Centro de excelencia Brindar a equipos diversos y multidisciplinarios una comunidad de capacitación aplicada para identificar posibles impactos dispares.
• Utilizar herramientas de auditoría para reflejar el sesgo exhibido en los modelos. Si la reflexión se alinea con los valores de la organización, la transparencia en torno a los datos y métodos elegidos es clave. Si la reflexión no se alinea con los valores organizacionales, entonces es una señal de que algo debe cambiar. Descubrir y mitigar el posible impacto dispar causado por el sesgo implica mucho más que examinar los datos con los que se entrenó el modelo. Las organizaciones también deben examinar a las personas y los procesos involucrados. Por ejemplo, ¿se han comunicado claramente los usos apropiados e inapropiados del modelo?
• Medir la justicia y elaborar estándares de equidad procesable proporcionando requisitos funcionales y no funcionales para distintos niveles de servicio.
• Usar pensamiento de diseño marcos para evaluar los efectos no deseados de los modelos de IA, determinar los derechos de los usuarios finales y poner en práctica los principios. Es esencial que los ejercicios de pensamiento de diseño incluyan a personas con experiencias vividas muy variadas.cuanto más diverso mejor.

3. Trazable

"Las capacidades de IA del Departamento se desarrollarán e implementarán de manera que el personal relevante posea una comprensión adecuada de la tecnología, los procesos de desarrollo y los métodos operativos aplicables a las capacidades de IA, incluso con metodologías, fuentes de datos y procedimientos y documentación de diseño transparentes y auditables".

Ponga en práctica la trazabilidad proporcionando directrices claras a todo el personal que utiliza IA:

• Deje siempre claro a los usuarios cuándo interactúan con un sistema de inteligencia artificial.
• Proporcionar una base de contenido para los modelos de IA. Capacite a los expertos en el campo para seleccionar y mantener fuentes confiables de datos utilizados para entrenar modelos. La salida del modelo se basa en los datos con los que se entrenó.

IBM y sus socios pueden proporcionar soluciones de IA con contenido integral y auditable que sea imprescindible para casos de uso de alto riesgo.

• Capturar metadatos clave para hacer que los modelos de IA sean transparentes y realizar un seguimiento del inventario de modelos. Asegúrese de que estos metadatos sean interpretables y de que la información correcta esté expuesta al personal adecuado. La interpretación de datos requiere práctica y es un esfuerzo interdisciplinario. En IBM, nuestro Diseño para IA El grupo tiene como objetivo educar a los empleados sobre el papel fundamental de los datos en la IA (entre otros fundamentos) y dona marcos a la comunidad de código abierto.
• Haga que las personas puedan encontrar fácilmente estos metadatos (en última instancia, en la fuente de salida).
• Incluya a los humanos en el circuito, ya que la IA debería aumentar y ayudar a los humanos. Esto permite a los humanos proporcionar retroalimentación mientras funcionan los sistemas de IA.
• Cree procesos y marcos para evaluar impactos dispares y riesgos de seguridad mucho antes de implementar o adquirir el modelo. Designar personas responsables para mitigar estos riesgos.

4. Fiable

"Las capacidades de IA del Departamento tendrán usos explícitos y bien definidos, y la seguridad y eficacia de dichas capacidades estarán sujetas a pruebas y garantías dentro de esos usos definidos durante todo su ciclo de vida".

Las organizaciones deben documentar casos de uso bien definidos y luego realizar pruebas de cumplimiento. Operar y ampliar este proceso requiere una fuerte alineación cultural para que los profesionales cumplan con los más altos estándares incluso sin una supervisión directa constante. Las mejores prácticas incluyen:

• Establecer comunidades que reafirmen constantemente porque Es esencial obtener resultados justos y fiables. Muchos profesionales creen seriamente que simplemente con tener las mejores intenciones no puede haber impactos dispares. Esto es un error. Es fundamental la capacitación aplicada impartida por líderes comunitarios altamente comprometidos que hagan que las personas se sientan escuchadas e incluidas.
• Desarrollar fundamentos de pruebas de confiabilidad en torno a las pautas y estándares para los datos utilizados en el entrenamiento de modelos. La mejor manera de hacer que esto sea real es ofrecer ejemplos de lo que puede suceder cuando falta este escrutinio.
• Limite el acceso de los usuarios al desarrollo de modelos, pero recopile diversas perspectivas al inicio de un proyecto para mitigar la introducción de sesgos.
• Realice controles de privacidad y seguridad a lo largo de todo el ciclo de vida de la IA.
• Incluir medidas de precisión en las auditorías programadas periódicamente. Sea inequívocamente franco acerca de cómo se compara el desempeño del modelo con el de un ser humano. Si el modelo no proporciona un resultado preciso, detalle quién es responsable de ese modelo y qué recursos tienen los usuarios. (Todo esto debería integrarse en los metadatos interpretables y localizables).

5. Gobernable

"El Departamento diseñará y diseñará capacidades de IA para cumplir las funciones previstas y, al mismo tiempo, poseer la capacidad de detectar y evitar consecuencias no deseadas, y la capacidad de desconectar o desactivar los sistemas implementados que demuestren un comportamiento no deseado".

La puesta en práctica de este principio requiere:

• La inversión en modelos de IA no se limita a la implementación. Dedique recursos para garantizar que los modelos sigan comportándose como se desea y se espera. Evalúe y mitigue el riesgo durante todo el ciclo de vida de la IA, no solo después de la implementación.
• Designar una parte responsable que tenga un mandato financiado para realizar el trabajo de gobernanza. Deben tener poder.
• Invertir en comunicación, construcción de comunidades y educación. Aprovechar herramientas como watsonx.gobernanza a monitorear sistemas de IA.
• Capture y administre el inventario de modelos de IA como se describe anteriormente.
• Implementar medidas de ciberseguridad en todos los modelos.

IBM está a la vanguardia del avance de la IA confiable

IBM ha estado a la vanguardia del avance de principios confiables de IA y ha sido un líder intelectual en la gobernanza de los sistemas de IA desde su nacimiento. Seguimos principios de confianza y transparencia arraigados desde hace mucho tiempo que dejan claro que el papel de la IA es aumentar, no reemplazar, la experiencia y el juicio humanos.

En 2013, IBM se embarcó en el viaje de la explicabilidad y la transparencia en la IA y el aprendizaje automático. IBM es líder en ética de la IA, nombró a un líder global en ética de la IA en 2015 y creó una junta de ética de la IA en 2018. Estos expertos trabajan para ayudar a garantizar que nuestros principios y compromisos se respeten en nuestros compromisos comerciales globales. En 2020, IBM donó sus kits de herramientas de IA responsable a la Fundación Linux para ayudar a construir el futuro de una IA justa, segura y confiable.

IBM lidera los esfuerzos globales para dar forma al futuro de la IA responsable y las métricas, estándares y mejores prácticas de IA ética:

• Comprometido con la administración del presidente Biden en el desarrollo de su Orden Ejecutiva sobre IA
• Más de 70 patentes divulgadas/presentadas para una IA responsable
• El director ejecutivo de IBM, Arvind Krishna, copreside el comité directivo de la Alianza Global de Acción de IA lanzado por el Foro Económico Mundial (FEM).
• La alianza se centra en acelerar la adopción de inteligencia artificial inclusiva, transparente y confiable a nivel mundial.
• Fue coautor de dos artículos publicados por el WEF sobre IA generativa sobre cómo desbloquear valor y desarrollar sistemas y tecnologías seguros.
• Copresidente del Comité de IA de confianza Fundación Linux AI
• Contribuyó al marco de gestión de riesgos de IA del NIST; colaborar con el NIST en el área de métricas, estándares y pruebas de IA

Seleccionar una IA responsable es un desafío multifacético porque exige que los valores humanos se reflejen de manera confiable y consistente en nuestra tecnología. Pero bien vale la pena el esfuerzo. Creemos que las pautas anteriores pueden ayudar al Departamento de Defensa a poner en funcionamiento una IA confiable y ayudarlo a cumplir su misión.

Para obtener más información sobre cómo IBM puede ayudar, visite Consultoría de gobernanza de IA | IBM

Crear un enfoque holístico de gobernanza de la IA

Más recursos: