Esta publicación está coescrita con Martin Holste de Trellix.
Los equipos de seguridad se enfrentan a un universo en constante evolución de amenazas de ciberseguridad. Estas amenazas se están expandiendo en cuanto a formato, sofisticación y superficie de ataque a la que se dirigen. Limitados por las limitaciones de talento y presupuesto, los equipos a menudo se ven obligados a priorizar los eventos que se investigan, lo que limita la capacidad de detectar e identificar nuevas amenazas. Trellix Wise es una tecnología impulsada por IA que permite a los equipos de seguridad automatizar la investigación de amenazas y agregar puntajes de riesgo a los eventos. Con Trellix Wise, los equipos de seguridad ahora pueden completar lo que solía llevar horas de trabajo de varios analistas para investigar en segundos, lo que les permite ampliar los eventos de seguridad que pueden cubrir.
enrejado, una empresa líder que ofrece la plataforma de ciberseguridad más amplia basada en IA a más de 53,000 2022 clientes en todo el mundo, surgió en XNUMX de la fusión de McAfee Enterprise y FireEye. La plataforma de seguridad integral, abierta y nativa basada en IA de la empresa ayuda a las organizaciones a desarrollar resiliencia operativa contra amenazas avanzadas. Trellix Wise está disponible para los clientes como parte de la plataforma de seguridad Trellix. Esta publicación analiza la adopción y evaluación de Amazon Nova modelos de cimentación (FM) de Trellix.
Con la creciente adopción y uso, el equipo de Trellix ha estado explorando formas de optimizar la estructura de costos de las investigaciones de Trellix Wise. Los FM más pequeños y rentables parecían prometedores y Amazon Nova Micro se destacó como una opción debido a su calidad y costo. En las primeras evaluaciones, el equipo de Trellix observó que Amazon Nova Micro entregaba inferencias tres veces más rápido y a un costo casi 100 veces menor.
Las siguientes cifras son los resultados de las pruebas realizadas por Trellix que comparan Amazon Nova Micro con otros modelos en lecho rocoso del amazonas.
El equipo de Trellix identificó áreas en las que Amazon Nova Micro puede complementar el uso de Claude Sonnet de Anthropic, lo que ofrece menores costos y velocidades generales más altas. Además, el equipo de servicios profesionales de Trellix descubrió que Amazon Nova Lite es un modelo sólido para la generación y comprensión de códigos y ahora está utilizando Amazon Nova Lite para acelerar sus flujos de trabajo de entrega de soluciones personalizadas.
Trellix Wise, investigación de amenazas impulsada por IA generativa para ayudar a los analistas de seguridad
Trellix Wise está construido sobre Amazon Bedrock y utiliza Claude Sonnet de Anthropic como su modelo principal. La plataforma utiliza el servicio Amazon OpenSearch Service que almacena miles de millones de eventos de seguridad recopilados de los entornos monitoreados. OpenSearch Service viene con una capacidad de base de datos vectorial incorporada, lo que facilita el uso de los datos almacenados en OpenSearch Service como datos de contexto en una arquitectura de recuperación de generación aumentada (RAG) con bases de conocimiento de Amazon Bedrock. Mediante OpenSearch Service y Amazon Bedrock, Trellix Wise lleva a cabo sus pasos de investigación de amenazas patentados y automatizados en cada evento. Esto incluye la recuperación de los datos necesarios para el análisis, el análisis de los datos utilizando información de otros modelos de aprendizaje automático (ML) personalizados y la puntuación de riesgo. Este enfoque sofisticado permite que el servicio interprete patrones complejos de datos de seguridad y tome decisiones inteligentes sobre cada evento. La investigación de Trellix Wise le otorga a cada evento una puntuación de riesgo y permite a los analistas profundizar en los resultados del análisis para determinar si es necesario un seguimiento humano.
La siguiente captura de pantalla muestra un ejemplo de un evento en el panel de Trellix Wise.
Con la creciente escala de adopción, Trellix ha estado evaluando formas de mejorar los costos y la velocidad. El equipo de Trellix ha determinado que no todas las etapas de la investigación necesitan la precisión de Claude Sonnet, y que algunas etapas pueden beneficiarse de modelos más rápidos y de menor costo que, sin embargo, son altamente precisos para la tarea objetivo. Aquí es donde Amazon Nova Micro ha ayudado a mejorar la estructura de costos de las investigaciones.
Mejorar los costos de investigación con Amazon Nova Micro, RAG e inferencias repetidas
El flujo de trabajo de investigación de amenazas consta de varios pasos, desde la recopilación de datos hasta el análisis y la asignación de una puntuación de riesgo para el evento. La etapa de recopilación recupera información relacionada con el evento para su análisis. Esto se implementa a través de una o más llamadas de inferencia a un modelo en Amazon Bedrock. La prioridad en esta etapa es maximizar la integridad de los datos recuperados y minimizar la inexactitud (alucinaciones). El equipo de Trellix identificó esta etapa como la etapa óptima en el flujo de trabajo para optimizar la velocidad y el costo.
El equipo de Trellix concluyó, basándose en sus pruebas, que Amazon Nova Micro ofrecía dos ventajas clave. Su velocidad le permite procesar de 3 a 5 inferencias en el mismo tiempo que una sola inferencia de Claude Sonnet y su costo por inferencia es casi 100 veces menor. El equipo de Trellix determinó que al ejecutar múltiples inferencias, se puede maximizar la cobertura de los datos requeridos y aún así reducir los costos en un factor de 30. Aunque las respuestas del modelo tenían una variabilidad mayor que los modelos más grandes, ejecutar múltiples pasadas permite llegar a un conjunto de respuestas más exhaustivo. Las limitaciones de respuesta impuestas a través de la ingeniería de indicaciones patentada y los datos de referencia restringen el espacio de respuesta, lo que limita las alucinaciones e imprecisiones en la respuesta.
Antes de implementar el enfoque, el equipo de Trellix realizó pruebas detalladas para revisar la integridad, el costo y la velocidad de la respuesta. El equipo se dio cuenta al principio de su recorrido de IA generativa de que los puntos de referencia estandarizados no son suficientes cuando se evalúan modelos para un caso de uso específico. Se creó un conjunto de pruebas que replicaba los flujos de trabajo de recopilación de información y se llevaron a cabo evaluaciones detalladas de múltiples modelos para validar los beneficios de este enfoque antes de seguir adelante. Los beneficios de velocidad y costo observados por Trellix ayudaron a validar los beneficios antes de trasladar el nuevo enfoque a producción. El enfoque ahora se implementa en un entorno piloto limitado. Se están realizando evaluaciones detalladas como parte de una implementación gradual en producción.
Conclusión
En esta publicación, compartimos cómo Trellix adoptó y evaluó los modelos de Amazon Nova, lo que dio como resultado una importante aceleración de la inferencia y menores costos. Al reflexionar sobre el proyecto, el equipo de Trellix reconoce los siguientes factores clave que les permitieron lograr estos resultados:
- El acceso a una amplia gama de modelos, incluidos modelos más pequeños y de gran capacidad como Amazon Nova Micro y Amazon Nova Lite, aceleró la capacidad del equipo para experimentar y adoptar fácilmente nuevos modelos según fuera apropiado.
- La capacidad de restringir las respuestas para evitar alucinaciones, mediante el uso de estructuras predefinidas específicas para cada caso de uso que incorporaban datos, procesos y políticas patentados, redujo el riesgo de alucinaciones e imprecisiones.
- Los servicios de datos que permitieron la integración efectiva de datos junto con modelos fundamentales simplificaron la implementación y redujeron el tiempo de producción de nuevos componentes.
“Amazon Bedrock facilita la evaluación de nuevos modelos y enfoques a medida que están disponibles. El uso de Amazon Nova Micro junto con Claude Sonnet de Anthropic nos permite ofrecer la mejor cobertura a nuestros clientes, de forma rápida y con el mejor costo operativo”, afirma Martin Holste, director sénior de ingeniería de Trellix. “Estamos muy contentos con la flexibilidad que nos permite Amazon Bedrock a medida que continuamos evaluando y mejorando Trellix Wise y la plataforma de seguridad de Trellix”.
Comience a utilizar Amazon Nova en Consola Amazon BedrockObtenga más información en Página de producto de Amazon Nova.
Acerca de los autores
Martín Holste es el CTO de Cloud y GenAI en Trellix.
Firat Elbey es gerente principal de productos en Amazon AGI.
Deepak Mohan es gerente principal de marketing de productos en AWS.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://aws.amazon.com/blogs/machine-learning/trellix-lowers-cost-increases-speed-and-adds-delivery-flexibility-with-cost-effective-and-performant-amazon-nova-micro-and-amazon-nova-lite-models/
