¡Hola! Soy Mark Horseman y bienvenido a El rincón de los niños geniales. Este es mi registro mensual para compartir con ustedes las personas y las ideas que encuentro como evangelista de datos con DATAVERSITY. (Lea la columna del mes pasado esta página.) Este mes, hablamos de la interacción entre la gobernanza de datos y la inteligencia artificial (IA). ¿A qué debemos estar atentos mientras nuestras organizaciones se apresuran a adoptar soluciones de inteligencia artificial como ChatGPT y muchas otras? ¿Cuales son los beneficios? ¿Cuáles son los riesgos? Y, en última instancia, veremos cuál es el Niños geniales están diciendo. 

La inteligencia artificial (IA) existe desde hace décadas. No surgió simplemente. Lo que sí hizo, sin embargo, fue saltar al espíritu cultural de la época de una manera que rara vez vemos que lo haga la tecnología. ¿Cómo ocurrió este cambio? Muchos de los métodos y teorías que la gente de la IA teorizó en los primeros días de la informática se hicieron realidad cuando la potencia informática estuvo disponible para ejecutar los algoritmos propuestos por aquellos primeros visionarios. 

La potencia informática mencionada anteriormente permitió la creación de herramientas populares de inteligencia artificial como ChatGPT y muchas otras. Estas herramientas ahora plantean preguntas sobre la gobernanza de datos. Su equipo de Gobierno de datos se preocupa por el cumplimiento, el riesgo y, en última instancia, la producción, el uso y la definición de los datos. Cuando se utiliza la IA, especialmente un modelo de lenguaje grande (LLM), para producir o seleccionar contenido, existen varios desafíos importantes en materia de gobernanza de datos. 

• Privacidad: Los datos que ingresa en el modelo a veces pueden usarse para capacitación futura, lo que significa que podrían usarse en los resultados que generan otros usuarios. En el último año hubo una incumplimiento de un LLM de modo que los datos de la conversación estuvieron involucrados en la filtración. Si se utilizan datos confidenciales, esto puede resultar bastante negativo. 
• Precisión: El término para un LLM que inventa resultados no veraces se llama alucinación. Dependiendo del modelo utilizado, las alucinaciones pueden llegar a ser tan comunes como el 40% de los resultados. Esto requiere algunas pautas de uso para que los usuarios eviten problemas de calidad. 
• Compliance: Dependiendo de los tipos de actividad que los usuarios deseen realizar, el uso de ChatGPT podría entrar en conflicto con varios controles legislativos, incluidos los datos GDPR, CCPA, HIPPA y PCI. Por supuesto, esto varía según el caso de uso, pero no está fuera del ámbito de lo posible. Una vez más, los usuarios necesitarían directrices sobre el uso de la inteligencia artificial de su equipo de Gobernanza de Datos para utilizar la herramienta sin miedo.  
• Ética: Últimamente ha habido varias historias en las noticias sobre la IA que tiene un sesgo inherente debido a sus datos de entrenamiento. Ya sea la historia de la IA Blanquear a un estudiante del MIT para hacerla lucir más profesional, o que las herramientas de reconocimiento facial solo funcionan bien con usuarios caucásicos porque los datos de entrenamiento no tenían mucha diversidad. La ética es algo que debemos considerar en cada paso al utilizar cualquier solución de IA. Un algoritmo no tiene la capacidad de ser moral o ético; depende de los humanos intervenir y garantizar la equidad en el funcionamiento de cualquier modelo. 
• A prueba de futuro: Hay muchos cuerpos legislativos que buscan regular específicamente el uso de la inteligencia artificial, ya sea un LLM o un algoritmo de aprendizaje automático que opera un motor de recomendación. Un proyecto de ley que requiere que una organización pueda describir cómo un algoritmo selecciona basándose en datos de aprendizaje podría ser bastante oneroso de mantener para algunas organizaciones. Es posible que esto no haga razonablemente viable el uso de estas herramientas en el futuro si los algoritmos en cuestión son una completa caja negra. Un ejemplo de legislación potencial es La AIDA saliendo de Canadá.. 
• IA de las sombras: Las organizaciones están luchando con empleados que utilizan herramientas de inteligencia artificial fuera de su escritorio sin políticas, procedimientos o directrices que respalden las preocupaciones de privacidad, precisión, cumplimiento y ética mencionadas anteriormente. Abhishek Gupta escribió una pieza esclarecedora llamada “Cuidado con la aparición de la IA en las sombras” que pone de relieve algunas de estas cuestiones. En resumen, implemente algo y socialícelo, porque esto puede suceder en su organización. 

¿Cuáles son las Niños geniales ¿Qué dice sobre la interacción entre la gobernanza de datos y la IA? Este mes, nuestro Chico genial is Sara Rasmussen, socio de compromiso de First San Francisco Partners. Sarah presentará en Enterprise Data World (EDW) dentro de unos días. Su charla, "Cómo la gobernanza de datos y la madurez de la capacidad de gestión de datos deberían influir en su inversión en modelos de IA/ML", cubrirá lo siguiente: 

• Presente un modelo de IA/ML deconstruido, un modelo de área temática que detalla los componentes comerciales, de gobernanza, de tecnología y de datos más críticos y comunes que forman parte de su ciclo de vida o que influyen en él. 
• Demostrar la necesidad de un modelo operativo de gobernanza de datos para garantizar que las entradas y salidas del modelo AI/ML se comprendan y se gestionen de forma proactiva. Esto prepara el escenario para identificar y superar los riesgos regulatorios y de reputación y garantizar que el uso ético de los datos de un individuo esté siempre a la vanguardia. 
• Explore las partes interesadas del ecosistema sorprendentemente grandes, dentro y fuera de la organización, que influyen en el éxito del modelo y con las que los desarrolladores del modelo deben interactuar de forma transparente. 
• Resuma por qué centrarse en madurar sus capacidades de gestión y gobierno de datos para respaldar los modelos de IA/ML beneficia a una serie de otros casos de uso a nivel empresarial. 

Recuerda que puedes conocer Niños geniales como Sarah en los eventos de DATAVERSITY: 

¿Quieres convertirte en uno de los ¿Niños geniales? ¡Todo lo que necesitas hacer es compartir tus ideas con la comunidad! Para estar activo en la comunidad, asista a los seminarios web de DATAVERSITY, participe en eventos y establezca contactos con colegas de ideas afines. 

El mes que viene discutiremos la creciente demanda de gestión de datos maestros: ¿por qué está de moda ahora más que nunca? ¡Manténganse al tanto!

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Automoción / vehículos eléctricos, Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• ChartPrime. Eleve su juego comercial con ChartPrime. Accede Aquí.
• Desplazamientos de bloque. Modernización de la propiedad de compensaciones ambientales. Accede Aquí.
• Fuente: https://www.dataversity.net/the-cool-kids-corner-the-interplay-between-data-governance-and-ai/