Los investigadores han creado un nuevo gusano con IA: morris II, que pueden robar datos confidenciales, enviar correos electrónicos no deseados y propagar malware mediante diversos métodos. El artículo de investigación, que lleva el nombre del primer gusano que sacudió Internet en 1988, sugiere que el gusano de IA generativa puede propagarse entre sistemas de inteligencia artificial.
¿Qué son los gusanos AI?
Los gusanos de IA son una nueva amenaza cibernética que explota los sistemas generativos de IA para propagarse de forma autónoma, similar a los gusanos informáticos tradicionales pero dirigidos a sistemas impulsados por IA.
¿Qué es Morris II?
Morris II, elaborado por Ben Nassi de Cornell Tech, Stav Cohen del Instituto de Tecnología de Israel y Ron Button de Intuit, ha causado conmoción en el mundo de la tecnología. El artículo de investigación que detalla su funcionalidad arroja luz sobre su capacidad para infiltrarse en sistemas generativos de IA, lo que representa una amenaza significativa para la seguridad y privacidad de los datos. Este gusano de IA se dirige a una amplia gama de aplicaciones impulsadas por IA, incluidos asistentes de correo electrónico y chatbots populares como ChatGPT y Gemini.
Lea también La era del LLM de 1 bit: la tecnología innovadora de Microsoft
¿Cómo funciona Morris II?
Aprovechando indicaciones autorreplicantes, Morris II navega a través de sistemas de inteligencia artificial sin ser detectado, extrayendo información confidencial de manera eficiente. Los investigadores demostraron cómo Morris II explota las vulnerabilidades dentro de los sistemas de inteligencia artificial, utilizando indicaciones de texto para manipular modelos de lenguaje grandes como GPT-4 y Gemini Pro. El gusano elude las medidas de seguridad aprovechando datos adicionales, lo que le permite extraer datos confidenciales como números de seguro social e información de tarjetas de crédito.
Sin detenerse ahí, Morris II emplea técnicas de mensajes de imágenes para incrustar mensajes dañinos dentro de las fotos, permitiendo el reenvío automático de mensajes infectados a nuevos clientes de correo electrónico. Esta táctica insidiosa amplifica aún más el alcance del gusano, facilitando la propagación de malware y correos electrónicos no deseados.
El camino a seguir para los sistemas de IA
En respuesta a este alarmante descubrimiento, los investigadores alertaron rápidamente tanto a OpenAI como a Google, instándolos a abordar las vulnerabilidades en sus sistemas. Si bien Google decidió no responder, un portavoz de OpenAI nos aseguró que están mejorando activamente la seguridad de sus sistemas. Aconsejaron a los desarrolladores que implementaran medidas estrictas para mitigar los riesgos de manipular entradas potencialmente dañinas.
Nuestro dicho
El surgimiento de Morris II subraya la necesidad crítica de medidas sólidas de ciberseguridad en un mundo cada vez más impulsado por la IA. A medida que evoluciona el panorama digital, es imperativo que las organizaciones prioricen los protocolos de seguridad para protegerse contra amenazas emergentes y proteger los datos confidenciales de actores maliciosos.
Siganos en noticias de Google para mantenerse actualizado con las últimas innovaciones en el mundo de la inteligencia artificial, la ciencia de datos y GenAI.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://www.analyticsvidhya.com/blog/2024/03/this-ai-worm-can-steal-your-confidential-data/
