El proveedor de seguridad de correo electrónico en la nube, Ironscales, agregó una nueva flecha a su carcaj: Themis Co-pilot for Microsoft Outlook, un chatbot de autoservicio para informes de amenazas impulsado por PhishLLM, el modelo de lenguaje grande (LLM) propio de la compañía.

El compromiso de correo electrónico comercial (BEC) es un problema grande y creciente en el que los atacantes usan el engaño y la suplantación de identidad para engañar a los usuarios para que proporcionen información de identificación personal (PII), activos corporativos o incluso dinero. Según el FBI, BEC ha costado $ 50 mil millones a nivel mundial en los últimos 10 años, con un crecimiento interanual del 17 % en pérdidas en 2022. Y el Informe de investigaciones de violación de datos (DBIR) de Verizon de 2023 informó que durante el año pasado, El 74% de las infracciones involucraron el juicio humano.

Microsoft Outlook se dirige a BEC con un botón Report Phish, que envía un informe a los administradores del sistema, pero eso depende de que el usuario pueda discernir un correo electrónico de phishing. Para convertir el elemento humano en una ventaja, Ironsides presentó a Themis Co-pilot para marcar correos electrónicos sospechosos y guiar a los destinatarios a través de un diálogo que explica cómo saber si algo es, de hecho, un señuelo de phishing.

Themis Co-pilot aprovecha el conjunto de datos de seguridad de IA de Themis de Ironscales, que se creó a partir de millones de eventos de seguridad y, al igual que ChatGPT y otras herramientas de IA generativa conocidas, emplea aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF) para mantenerse al día. A diferencia de ChatGPT, Themis AI y PhishLLM son propiedad exclusiva de Ironscales, lo que elimina gran parte de la privacidad y preocupaciones de confidencialidad que plantean las herramientas de IA cuando los empleados retroalimentan nuevos datos.

La idea de RLHF es que al introducir nuevos ejemplos de phishing y decisiones humanas en PhishLLM a través de Themis AI, las acciones de Themis Co-pilot serán más precisas. Idealmente, este círculo virtuoso no solo resultará en menos falsos positivos para que los elimine el equipo de seguridad, sino que también puede ayudar a capacitar a los usuarios sobre qué buscar en un intento de phishing.

Copiloto de Themis ya está disponible en versión beta cerrada de Ironscales.