tyler cruz
Publicado el: Febrero 15, 2024
Los gigantes tecnológicos Microsoft y OpenAI, la compañía detrás de ChatGPT, revelaron que los piratas informáticos han estado utilizando la tecnología de inteligencia artificial para desarrollar rápidamente nuevas herramientas, mejorar scripts y crear mejores esquemas de ingeniería social.
"Durante el último año, la velocidad, escala y sofisticación de los ataques han aumentado junto con el rápido desarrollo y adopción de la IA", dijo Microsoft. en una publicación de blog publicada el miércoles. "Los defensores apenas están comenzando a reconocer y aplicar el poder de la IA generativa para inclinar el equilibrio de la ciberseguridad a su favor".
Los investigadores encontraron evidencia de que varios grupos patrocinados por estados vinculados a Corea del Norte, Rusia, China e Irán estaban mejorando su software con IA. Los métodos incluyen el uso de software similar a ChatGPT para ayudar con tareas tediosas de secuencias de comandos, lo que les permite sentar las bases para un software más potente. Algunos piratas informáticos incluso utilizaron IA para crear operaciones totalmente automatizadas.
Los actores de amenazas también han lanzado varios modelos de lenguaje de aprendizaje (LLM) propios, como WormGPT y FraudGPT, que ayudan en la creación de software malicioso.
Recientemente, OpenAI se ha enfrentado a una creciente presión contra la empresa por violar las leyes de privacidad de datos, yendo en contra de su promesa de evitar que su software sea utilizado por militares y por una variedad de grupos de hackers.
"El objetivo de la asociación de Microsoft con OpenAI, incluida la publicación de esta investigación, es garantizar el uso seguro y responsable de tecnologías de IA como ChatGPT", escribe Microsoft. "Como parte de este compromiso, hemos tomado medidas para interrumpir los activos y cuentas asociados con actores de amenazas y mejorar la protección de la tecnología OpenAI LLM y de los usuarios contra ataques o abusos".
Hasta el momento, ni Microsoft ni OpenAI han detectado ningún “ataque significativo” utilizando software de IA, pero es probable que eso cambie con el paso del tiempo.
"Creemos que es importante publicar esta investigación para exponer los movimientos incrementales en las etapas iniciales que observamos que intentan realizar actores de amenazas conocidos".
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://www.safetydetectives.com/news/openai-confirms-ai-software-is-being-used-by-hackers/
