Las empresas están adoptando cada vez más la IA generativa para automatizar los procesos de TI, detectar amenazas a la seguridad y asumir funciones de atención al cliente de primera línea. Un Encuesta de IBM en 2023 descubrió que el 42% de las grandes empresas utilizaban activamente la IA y otro 40% estaba explorando o experimentando con la IA.

En la inevitable intersección de la IA y la nube, las empresas deben pensar en cómo proteger las herramientas de IA en la nube. Una persona que ha pensado mucho en esto es Chris Betz, quien se convirtió en CISO de Amazon Web Services en agosto pasado.

Antes de AWS, Betz fue vicepresidente ejecutivo y CISO de Capital One. Betz también trabajó como vicepresidente senior y director de seguridad en Lumen Technologies y en funciones de seguridad en Apple, Microsoft y CBS.

Dark Reading habló recientemente con Betz sobre el seguridad de las cargas de trabajo de IA en la nube. A continuación se muestra una versión editada de esa conversación.

Lectura oscura: ¿Cuáles son algunos de los grandes desafíos a la hora de proteger las cargas de trabajo de IA en la nube?

Chris Betz: Cuando hablo con muchos de nuestros clientes sobre IA generativa, esas conversaciones a menudo comienzan con: “Tengo datos realmente confidenciales y estoy buscando ofrecer una capacidad a mis clientes. ¿Cómo hago eso de forma segura? Realmente aprecio esa conversación porque es muy importante que nuestros clientes se concentren en el resultado que intentan lograr.

Lectura oscura: ¿Qué es lo que más preocupa a los clientes?

Betz: La conversación debe comenzar con el concepto de que "tus datos son tus datos". Tenemos una gran ventaja porque puedo construir sobre una infraestructura de TI que hace un muy buen trabajo al mantener esos datos donde están. Entonces, el primer consejo que doy es: comprenda dónde están sus datos. ¿Cómo se está protegiendo? ¿Cómo se utiliza en el modelo de IA generativa?

Lo segundo de lo que hablamos es que las interacciones con un modelo de IA generativa suelen utilizar algunos de los datos más confidenciales de sus clientes. Cuando le preguntas a un modelo de IA generativa sobre una transacción específica, utilizarás información sobre las personas involucradas en esa transacción.

Lectura oscura: ¿Están preocupadas las empresas tanto por lo que hace la IA con los datos internos de la empresa como con los datos de los clientes?

Betz: La mayoría de los clientes quieren utilizar IA generativa en sus interacciones con sus clientes y en la minería y aprovechar la enorme cantidad de datos que tienen internamente y hacer que funcionen para los empleados internos o para sus clientes. Es muy importante para las empresas que gestionen esos datos increíblemente confidenciales de forma segura porque son el alma de sus negocios.

Las empresas deben pensar dónde están sus datos y cómo están protegidos cuando dan indicaciones a la IA y cuando reciben respuestas.

Lectura Oscura: ¿Están relacionadas la calidad de las respuestas y la seguridad de los datos?

Betz: Los usuarios de IA siempre deben pensar si obtienen respuestas de calidad. La razón de la seguridad es que las personas confíen en sus sistemas informáticos. Si está armando este sistema complejo que utiliza un modelo de IA generativa para entregar algo al cliente, necesita que el cliente confíe en que la IA le brinda la información correcta para actuar y que está protegiendo su información.

Lectura oscura: ¿Existen formas específicas en las que AWS pueda compartir sobre cómo se protege contra ataques a la IA en la nube? Estoy pensando en inyecciones inmediatas, ataques de envenenamiento, ataques adversarios, ese tipo de cosas.

Betz: Con bases sólidas ya establecidas, AWS estaba bien preparado para afrontar el desafío, ya que hemos estado trabajando con IA durante años. Contamos con una gran cantidad de soluciones internas de IA y una serie de servicios que ofrecemos directamente a nuestros clientes, y la seguridad ha sido una consideración importante en la forma en que desarrollamos estas soluciones. Es lo que nuestros clientes preguntan y es lo que esperan.

Como uno de los proveedores de nube de mayor escala, tenemos una amplia visibilidad de las necesidades de seguridad en evolución en todo el mundo. La inteligencia sobre amenazas que capturamos se agrega y se utiliza para desarrollar conocimientos prácticos que se utilizan en las herramientas y servicios del cliente, como Guardia. Además, nuestra inteligencia sobre amenazas se utiliza para generar acciones de seguridad automatizadas en nombre de los clientes para mantener sus datos seguros.

Lectura oscura: hemos escuchado mucho acerca de los proveedores de ciberseguridad que utilizan inteligencia artificial y aprendizaje automático para detectar amenazas buscando comportamientos inusuales en sus sistemas. ¿De qué otras formas las empresas utilizan la IA para ayudarse a protegerse?

Betz: He visto a clientes hacer cosas asombrosas con la IA generativa. Los hemos visto aprovechar CodeWhisperer [generador de código impulsado por IA de AWS] para crear prototipos y desarrollar tecnologías rápidamente. He visto equipos usar CodeWhisperer para ayudarlos. construir código seguro y asegurarnos de que abordamos las lagunas en el código.

También creamos soluciones de IA generativa que están en contacto con algunos de nuestros sistemas de seguridad internos. Como puedes imaginar, muchos equipos de seguridad manejan cantidades masivas de información. La IA generativa permite una síntesis de esos datos para que sean muy útiles tanto para los constructores como para los equipos de seguridad para comprender lo que sucede en los sistemas, hacer mejores preguntas y reunir esos datos.

Cuando comencé a pensar en el escasez de talento en ciberseguridad, la IA generativa no solo ayuda hoy en día a mejorar la velocidad del desarrollo de software y a mejorar la codificación segura, sino que también ayuda a agregar datos. Continuará ayudándonos porque amplifica nuestras capacidades humanas. La IA nos ayuda a reunir información para resolver problemas complejos y ayuda a llevar los datos a los ingenieros y analistas de seguridad para que puedan comenzar a hacer mejores preguntas.

Lectura oscura: ¿Ves alguna amenaza de seguridad específica de la IA y la nube?

Betz: He pasado mucho tiempo con investigadores de seguridad analizando los ataques de IA generativa de vanguardia y cómo los ven los atacantes. Hay dos clases de cosas en las que pienso en este espacio. La primera clase es que vemos actores maliciosos que comienzan a utilizar IA generativa para ser más rápidos y mejores en lo que ya hacen. El contenido de ingeniería social es un ejemplo de esto.

Los atacantes también están utilizando tecnología de inteligencia artificial para ayudar a escribir código más rápido. Eso es muy similar a donde se encuentra la defensa. Parte del poder de esta tecnología es que facilita una clase de actividades, y eso es cierto para los atacantes, pero también lo es para los defensores.

La otra área en la que veo que los investigadores empiezan a prestar más atención es el hecho de que estos modelos generativos de IA son código. Al igual que otros códigos, son susceptibles de tener debilidades. Es importante que comprendamos cómo protegerlos y asegurarnos de que existan en un entorno que tenga defensas.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads