Si bien los profesionales de la seguridad generalmente están entusiasmados con el papel potencial de la IA generativa en sus organizaciones, también les preocupa el impacto que estas nuevas herramientas pueden tener en su entorno. La encuesta de Dark Reading sobre el uso de la IA generativa en la empresa revela un alto grado de conciencia y preocupación sobre los posibles peligros de apostar todo por esta tecnología.
Casi tres cuartas partes de los encuestados expresan cierta preocupación por los riesgos de seguridad que plantean ChatGPT y otras tecnologías de IA generativa. Aproximadamente el mismo número también cree que los empleados están utilizando tecnologías públicas de IA generativa con fines laborales, incluso si no están totalmente autorizados para hacerlo.
La mayoría de los encuestados (86%) dice que la organización debe contar con herramientas de gestión de riesgos adecuadas para mantener la confianza en la tecnología. Sin embargo, existen dudas sobre qué estrategias utilizar para mitigar el riesgo, ya sea la gobernanza de la IA (43%), la definición de pautas y políticas de datos (42%), la revisión de las respuestas devueltas por la IA generativa para identificar resultados indeseables (42%) y establecer un programa de seguridad de aplicaciones de IA (40%). Una ligera mayoría (57%) dice que es necesario impartir formación de concienciación centrada en prácticas responsables de IA.
Un encuestado dice: "¡Ojalá esos jóvenes confundidos pudieran entender el riesgo!"
Mientras que el 30% de los encuestados dice que la responsabilidad de implementar y gestionar herramientas de IA generativa recae en TI en su organización, el 17% dice que es parte de la ciberseguridad y el 25% tiene un grupo de IA dedicado. Aun así, la responsabilidad final de la seguridad y la gestión de riesgos de la IA generativa recae en la ciberseguridad para el 27% de los encuestados, y en el grupo de IA dedicada para el 21% de los encuestados.
Si bien no hubo una mayoría clara cuando se les preguntó sobre los mayores desafíos que enfrenta la organización con respecto a la seguridad de la IA generativa y la gestión de riesgos, las cuatro respuestas principales fueron: incertidumbre sobre cómo se aplica el cumplimiento normativo a la IA generativa (47%), falta de transparencia en terceros. herramientas de IA generativa de los partidos (46%), ningún consenso sobre directrices y políticas de IA generativa (43%) y gobernanza de datos (39%).
Obtenga más información sobre lo que piensan los lectores de Dark Reading IA generativa en la empresa.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://www.darkreading.com/cyber-risk/security-pros-grapple-with-ways-to-manage-gen-ai-risk
