BLACK HAT USA – Las Vegas – Miércoles 7 de agosto – Uso empresarial de Copilot Studio, de Microsoft herramienta de creación automatizada de chatbots, ha crecido considerablemente desde su lanzamiento Hace menos de nueve meses. Pero a pesar de abrir las compuertas para que cualquiera pueda crear los llamados "copilotos", todos los bots creados o modificados con el servicio no son seguros de forma predeterminada.

Eso dice el investigador de seguridad Michael Bargury, ex arquitecto de seguridad senior en la oficina CTO de seguridad Azure de Microsoft, ahora líder de proyecto para Los 10 principales riesgos de seguridad de OWASP con código bajo o sin código proyecto y CTO en Zenity.

El miércoles a las Sombrero negro, estados unidos En Las Vegas, Bargury demostró cómo los desarrolladores pueden, sin saberlo, crear copilotos que exfiltren datos sin darse cuenta o eludan políticas y controles de prevención de pérdida de datos.

"Es muy, muy fácil cometer un error con esta herramienta sin código e introducir una vulnerabilidad de seguridad grave en un copiloto", le dice Bargury a Dark Reading. "En realidad, es muy difícil hacer todo bien porque hay muchas maneras de hacerlo mal".

Adopción rápida de Copilot Studio

La herramienta de creación de copilotos basada en asistente de arrastrar y soltar está disponible para todos los usuarios del paquete de productividad Microsoft 365 y ha introducido rápidamente una manera fácil para que los usuarios avanzados en líneas de negocios creen copilotos o asistentes de IA, que están diseñados para automatizar flujos de trabajo y permitir reuniones más eficientes, entre otras capacidades.

La incorporación de Copilot Studio a la combinación permite aún más a los clientes ampliar la capacidad de estos bots y crear copilotos personalizados.

Durante la de Microsoft convocatoria de resultados del cuarto trimestre del año fiscal 2024 El 30 de julio, el presidente y director ejecutivo Satya Nadella promocionó que el uso de copilotos creció un 60% en el último trimestre. Y el número de organizaciones que han utilizado Copilot Studio creció un 70% el último trimestre, llegando a 50,000 tiendas, incluidas Carnival, Cognizant, Eaton, KPMG, Majesco y McKinsey.

La versión inicial tuvo "demasiado permisos"

Entre algunos de los problemas iniciales que Bargury detectó se encontraban en la configuración predeterminada de los robots copiloto creados por Copilot Creator. Específicamente, muchos de los bots eran accesibles públicamente sin requerir autenticación. Además, podrían hacerse pasar por un usuario con facilidad.

"Podrías crear un copiloto que incorpore tu identidad", explica. “Ahora hablo con ese copiloto a través de Internet sin iniciar sesión y estoy usando tu identidad. Fue un exceso de permisos”.

Bargury dice que descubrió una variedad de otras fallas de seguridad luego del lanzamiento de Copilot Studio. Por ejemplo, alguien que intente crear un copiloto diseñado para llamar a sitios públicos de SharePoint también podría acceder a un sitio privado de SharePoint en la misma red. Debido a que los copilotos podrían ser descubiertos fácilmente fuera de una organización, podrían convertirse en conductos para ataques remotos.

"Pude buscar en la Web bots abiertos de Copilot Studio y encontramos decenas de miles de ellos", dice Bargury. “Y luego podría conectar a esos copilotos con IA y descubrir con qué copilotos podría hablar, y averiguar si están dispuestos a hablar conmigo y qué tipo de información y operaciones podría realizar. Y luego podría obtener información de ellos”.

Dice que Microsoft ha solucionado los problemas y ha introducido nuevos controles administrativos diseñados para eliminar la capacidad de crear inadvertidamente acciones inseguras, como permitir que un administrador impida a los usuarios crear bots que puedan compartirse públicamente. Los administradores deben actualizar sus implementaciones para proteger sus organizaciones.

Low Code y Chatbots: equilibrio entre productividad y seguridad

El atractivo de Microsoft Copilot y bots similares es que permiten a los usuarios ser más productivos y automatizan muchas tareas rutinarias. Pero como muestra esta investigación, también pueden ser un eslabón débil dentro de una organización. Bargury dice que cree que Microsoft está comprometido a garantizar que Copilot Studio tenga una mejor seguridad de ahora en adelante.

"Creo que van a seguir invirtiendo para dar a los administradores más control", afirma. “Pero se encuentran en una situación difícil porque necesitan equilibrar la productividad con la seguridad. Y sabemos dónde termina el equilibrio. Microsoft tiene muchas organizaciones diferentes, pero la organización que impulsa Copilots Studio está impulsada por el crecimiento y la adopción, no por la seguridad”.

En su sesión de Black Hat, Bargury también demostró Cazador de copilotos, un nuevo módulo para el conjunto de herramientas de seguridad Power Pwn para Power Platform de código bajo/sin código de Microsoft que busca bots Copilot Studio abiertos y los difusa para acceder a los datos detrás de ellos. Es disponible en GitHub.

15 formas de romper Copilot Studio

En su conclusión, Bargury desglosó los 15 problemas de seguridad que descubrió con Copilot Security.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://www.darkreading.com/application-security/creating-insecure-ai-assistants-microsoft-copilot-studio