Inteligencia Artificial La adopción (IA) aún se encuentra en sus primeras etapas. A medida que más empresas utilizan sistemas de IA y la tecnología continúa madurando y cambiando, el uso inadecuado podría exponer a una empresa a importantes riesgos financieros, operativos, regulatorios y de reputación. El uso de IA para determinadas tareas comerciales o sin barreras de seguridad tampoco puede alinearse con los valores fundamentales de una organización.

Aquí es donde entra en juego la gobernanza de la IA: abordar estos problemas potenciales e inevitables de adopción. Gobernanza de la IA se refiere a la práctica de dirigir, gestionar y monitorear las actividades de IA de una organización. Incluye procesos que rastrean y documentan el origen de los datos, modelos y metadatos asociados y canalizaciones para auditorías.

Un marco de gobernanza de la IA garantiza el uso ético, responsable y transparente de la IA y el aprendizaje automático (ML). Abarca la gestión de riesgos y el cumplimiento normativo y orienta cómo se gestiona la IA dentro de una organización.

Modelos básicos: el poder de los conjuntos de datos seleccionados

Modelos de cimentación, también conocidos como “transformadores”, son modelos modernos de inteligencia artificial a gran escala entrenados con grandes cantidades de datos sin procesar y sin etiquetar. El auge del ecosistema modelo básico (que es el resultado de décadas de investigación en aprendizaje automático), procesamiento del lenguaje natural (PNL) y otros campos, ha generado un gran interés en los círculos de la informática y la inteligencia artificial. Los proyectos de código abierto, las instituciones académicas, las nuevas empresas y las empresas de tecnología heredadas contribuyeron al desarrollo de modelos básicos.

Los modelos básicos pueden utilizar el lenguaje, la visión y más para afectar el mundo real. Se utilizan en todo, desde robótica hasta herramientas que razonan e interactúan con los humanos. GPT-3, el modelo de predicción del lenguaje de OpenAI que puede procesar y generar texto similar al humano, es un ejemplo de modelo básico.

Los modelos básicos pueden aplicar lo que aprenden de una situación a otra mediante el aprendizaje autosupervisado y transferido. En otras palabras, en lugar de entrenar numerosos modelos con datos etiquetados y específicos de tareas, ahora es posible entrenar previamente un modelo grande construido en un transformador y luego, con ajustes adicionales, reutilizarlo según sea necesario.

Modelos de base seleccionados, como los creados por IBM o Microsoft, ayudan a las empresas a escalar y acelerar el uso y el impacto de las capacidades de IA más avanzadas utilizando datos confiables. Además del lenguaje natural, los modelos son entrenado en diversas modalidades, como datos de código, series temporales, tabulares, geoespaciales y de eventos de TI. Los modelos básicos de dominios específicos se pueden aplicar a nuevos casos de uso, ya sea que estén relacionados con el cambio climático, la atención médica, los recursos humanos, la atención al cliente, la modernización de aplicaciones de TI u otros temas.

Los modelos de cimentación son ampliamente usado para tareas de ML como clasificación y extracción de entidades, así como tareas de IA generativa como traducción, resumen y creación de contenido realista. El desarrollo y uso de estos modelos explican la enorme cantidad de avances recientes en IA.

"Con el desarrollo de modelos básicos, la IA para las empresas es más poderosa que nunca", afirmó Arvind Krishna, presidente y director ejecutivo de IBM. "Los modelos básicos hacen que la implementación de la IA sea significativamente más escalable, asequible y eficiente".

¿Son confiables los modelos de fundaciones?

Es esencial que una empresa trabaje con una IA responsable, transparente y explicable, algo que puede resultar complicado de conseguir en estos primeros días de la tecnología.

La mayoría de los modelos de cimentaciones más grandes de la actualidad, incluido el modelo de lenguaje grande (LLM) que impulsan ChatGPT, han sido capacitados con información extraída de Internet. Pero, ¿qué tan confiables son esos datos de entrenamiento? IA generativa Se sabe que los chatbots insultan a los clientes e inventan hechos. La confiabilidad es crítica. Las empresas deben tener confianza en las predicciones y el contenido que generan los grandes proveedores de modelos básicos.

El Instituto Stanford para la Inteligencia Artificial Centrada en el Humano Centro de investigación sobre modelos de cimentación (CRFM) describió recientemente los numerosos riesgos de los modelos de fundaciones, así como las oportunidades. Señalaron que a menudo se pasa por alto el tema de los datos de capacitación, incluidas su fuente y composición. Ahí es donde la necesidad de un modelo de fundación curado y una gobernanza confiable se vuelve esencial.

Comenzando con los modelos de cimentación

An Estudio de desarrollo de IA puede entrenar, validar, ajustar e implementar modelos básicos y crear aplicaciones de IA rápidamente, requiriendo solo una fracción de los datos que antes se necesitaban. Estos conjuntos de datos se miden según la cantidad de “tokens” (palabras o partes de palabras) que incluyen. Ofrecen un conjunto de datos listo para la empresa con datos confiables que se han sometido a una curación negativa y positiva.

La curación negativa se produce cuando se eliminan conjuntos de datos problemáticos y odio basado en IA, y se aplican filtros de malas palabras para eliminar contenido objetable. La curación positiva significa agregar elementos de ciertos dominios, como finanzas, legal y regulatorio, ciberseguridad y sostenibilidad, que son importantes para los usuarios empresariales.

Cómo escalar AL y ML con gobernanza integrada

Un ajuste para su propósito Almacén de datos construido sobre una arquitectura de lago abierta le permite escalar la IA y el aprendizaje automático al mismo tiempo que proporciona herramientas de gobernanza integradas. Se puede utilizar tanto en entornos locales como de múltiples nubes. Este tipo de almacén de datos de próxima generación combina la flexibilidad de un lago de datos con el rendimiento de un almacén de datos y le permite escalar las cargas de trabajo de IA sin importar dónde residan.

Permite la automatización y la integración con bases de datos existentes y proporciona herramientas que permiten una configuración y una experiencia de usuario simplificadas. También le permite elegir el motor adecuado para la carga de trabajo adecuada al costo adecuado, lo que puede reducir potencialmente los costos de almacenamiento de datos al optimizar las cargas de trabajo. Un almacén de datos permite a una empresa conectar datos existentes con datos nuevos y descubrir nuevos conocimientos con análisis e inteligencia empresarial en tiempo real. Le ayuda a optimizar la ingeniería de datos con canales de datos reducidos, transformación de datos simplificada y datos enriquecidos.

Otro beneficio es el intercambio responsable de datos porque brinda soporte a más usuarios con acceso de autoservicio a más datos, al tiempo que garantiza la seguridad y el cumplimiento con la gobernanza y los responsables políticos locales.

Qué ofrece un conjunto de herramientas de gobernanza de IA

A medida que la IA se integra cada vez más en los flujos de trabajo diarios de las empresas, es aún más fundamental que incluya una gobernanza proactiva (a lo largo de la creación, implementación y gestión de servicios de IA) que ayude a garantizar decisiones responsables y éticas.

Las organizaciones que incorporan la gobernanza en su programa de IA minimizan el riesgo y fortalecen su capacidad para cumplir con los principios éticos y las regulaciones gubernamentales: 50% de los líderes empresariales encuestados dijo que el aspecto más importante de la IA explicable es cumplir con las obligaciones regulatorias y de cumplimiento externas; sin embargo, la mayoría de los líderes no han dado pasos críticos para establecer un marco de gobernanza de la IA y el 74% no está reduciendo los sesgos no deseados.

An Kit de herramientas de gobernanza de IA le permite dirigir, administrar y monitorear las actividades de IA sin el gasto de cambiar su plataforma de ciencia de datos, incluso para modelos desarrollados con herramientas de terceros. La automatización del software ayuda a mitigar el riesgo, gestionar los requisitos de los marcos regulatorios y abordar las preocupaciones éticas. Incluye la gobernanza del ciclo de vida de la IA, que monitorea, cataloga y gobierna los modelos de IA a escala desde dondequiera que residan. Automatiza la captura de metadatos del modelo y aumenta la precisión predictiva para identificar cómo se utilizan las herramientas de inteligencia artificial y dónde se debe volver a realizar el entrenamiento del modelo.

Un conjunto de herramientas de gobernanza de IA también le permite diseñar sus programas de IA basándose en principios de responsabilidad y transparencia. Ayuda a generar confianza en los árboles y documentar conjuntos de datos, modelos y canalizaciones porque puede comprender y explicar consistentemente las decisiones de su IA. También automatiza los hechos y los flujos de trabajo de un modelo para cumplir con los estándares comerciales; identifica, gestiona, monitorea e informa sobre riesgos y cumplimiento a escala y proporciona paneles dinámicos y resultados personalizables. Un programa de gobernanza de este tipo también puede traducir las regulaciones externas en políticas para el cumplimiento automatizado, el soporte de auditoría y el cumplimiento, y proporcionar paneles e informes personalizables.

Utilizar una gobernanza adecuada de la IA significa que su empresa puede hacer el mejor uso de los modelos básicos y, al mismo tiempo, garantizar que sea responsable y ético a medida que avanza con la tecnología de IA.

Modelos fundamentales, gobernanza e IBM

Una gobernanza adecuada de la IA es clave para aprovechar su poder y al mismo tiempo protegerse contra sus innumerables peligros. La IA implica una gestión responsable y transparente, que abarca la gestión de riesgos y el cumplimiento normativo para guiar su uso dentro de una organización. Los modelos Foundation ofrecen un gran avance en las capacidades de IA para permitir una implementación escalable y eficiente en varios dominios.

watsonx es una plataforma de datos e inteligencia artificial de próxima generación creada para ayudar a las organizaciones a aprovechar plenamente los modelos básicos y al mismo tiempo cumplir con los principios de gobernanza responsable de la inteligencia artificial. El watsonx.gobernanza El kit de herramientas permite a su organización crear flujos de trabajo de IA con responsabilidad, transparencia y explicabilidad.

Con Watsonx las organizaciones pueden:

1. Ponga en funcionamiento los flujos de trabajo de IA para aumentar la eficiencia y la precisión a escala. Su organización puede acceder a herramientas automatizadas y escalables de gobierno, riesgo y cumplimiento, que abarcan riesgo operativo, políticas, cumplimiento, gestión financiera, gobierno de TI y auditorías internas/externas.
2. Realice un seguimiento de los modelos e impulse procesos transparentes. Supervise, catalogue y gobierne modelos desde cualquier lugar del ciclo de vida de su IA.
3. Capture y documente metadatos del modelo para la generación de informes. Los validadores y aprobadores de modelos pueden acceder a hojas informativas generadas automáticamente para obtener una vista siempre actualizada de los detalles del ciclo de vida.
4. Aumentar la confianza en los resultados de la IA. Las herramientas colaborativas y los paneles, gráficos e informes dimensionales dinámicos basados ​​en el usuario aumentan la visibilidad de los procesos de IA.
5. Permitir datos responsables, transparentes y explicables y flujos de trabajo de IA con watsonx.gobernanza.