Nuevas empresas emergentes se centran en deepfakes, datos en movimiento y seguridad de modelos

Como
Gustó

Fecha:

Nodo: 4217572

COMENTARIO

En 2024, las empresas emergentes en etapa de crecimiento inicial tuvieron dificultades para conseguir capital, pero los inversores de riesgo no pudieron evitar invertir en seguridad de datos e inteligencia artificial emergentes. Las soluciones que abordan los datos en movimiento y los flujos de datos de aplicaciones fueron una prioridad. Al igual que la loca carrera por Resolver deepfakes y desinformación.

Fue el año de la concienciación sobre las deepfakes. Los gobiernos mundiales estaban en alerta máxima durante el período electoral, e incluso Wiz se vio afectado por una Ataque deepfake fallido. Sin embargo, la noticia más inquietante fue la relacionada con... Una conferencia telefónica de compañeros de trabajo sintéticos, incluido un director financiero (CFO) deepfake que engañó a un analista financiero de Hong Kong para que transfiriera 25 millones de dólares. 

En la actualidad, no es difícil generar ataques de suplantación de identidad imperceptibles. En GitHub han proliferado herramientas de intercambio de rostros en tiempo real, como Deep-Live-Cam y DeepFaceLive. También están disponibles herramientas de voz sintética, como Descript y ElevenLabs.

En años anteriores, el monitoreo de audio y video humano se encontraba dentro del ámbito de las amenazas internas y la seguridad física. Ahora, SecOps implementará tecnología para monitorear las llamadas en conferencia mediante empresas emergentes como Validia y RealityDefender. Estas soluciones de verificación de identidad someten a los participantes a modelos que buscan indicadores de vida y brindan puntajes de confianza.

La inteligencia sobre amenazas gubernamentales abarca la desinformación patrocinada por el Estado y los ataques narrativos como parte de sus operaciones más amplias de guerra de información. En el ámbito corporativo, el seguimiento de la reputación de la marca y la desinformación tradicionalmente ha recaído en los departamentos jurídicos y de relaciones públicas. Sin embargo, en 2024 hubo señales de un cambio.

Los nuevos ataques de desinformación y narrativa no solo destruyen marcas, sino que también han intentado incriminar a los ejecutivos por infracciones a la Comisión de Bolsa y Valores (SEC), así como incitar a la violencia después del reciente asesinato de United Healthcare. Ignorarlos podría significar una pena de cárcel para los ejecutivos o algo peor.

En la comunidad de empresas emergentes existe la creencia de que las juntas directivas querrán tener una visión unificada de estas amenazas. Inteligencia sobre amenazas que abarque la extracción de información de ciberseguridad, las amenazas internas, la suplantación de identidad y la guerra de información en general. En el futuro, los equipos de inteligencia sobre amenazas de los directores de seguridad de la información (CISO) podrían ampliar su alcance con empresas emergentes como Blackbird.AI, Alethea o Logically.

La seguridad de los datos fue otro foco de atención notable dentro del mundo de las empresas emergentes en crecimiento inicial en 2024.

La fuga de datos de los modelos es el problema de la década

Los modelos pueden considerarse como bases de datos que se consultan mediante conversaciones en inglés y que almacenan lo aprendido a partir de fragmentos de texto, audio y vídeo no estructurados del tamaño de Internet. Su formato de red neuronal no recibe el crédito suficiente por la densidad, el almacenamiento de una gran cantidad de datos y la inteligencia de los modelos que incluso pueden caber en dispositivos. 

La inminente implementación de la IA con agentes, que produce agentes que hacen clic en las interfaces de usuario y operan herramientas, solo ampliará la implementación de modelos en el dispositivo. La IA con agentes puede incluso implementar modelos adaptativos que aprendan datos del dispositivo. 

Parece demasiado inseguro para adoptarlo, pero ¿cuántas organizaciones dejarán pasar las mejoras de productividad que ofrece la IA?

Para aumentar la complejidad, la carrera armamentista de la IA produce modelos fundamentales innovadores todas las semanas. Esto fomenta el diseño de aplicaciones nativas de IA que se inclinan hacia arquitecturas de código flexibles, arquitecturas que permiten a los proveedores de aplicaciones cambiar los modelos ante las narices de una organización.

¿Cómo protegerán las empresas los datos cuando se filtren en estas redes neuronales densas en conocimiento? Es una pesadilla de fuga de datos.

Es hora de abordar los datos en movimiento

Una tendencia de 2024 fue la creencia del mundo de las startups de que es hora de reconstruir la ciberseguridad para los datos en movimiento. Los flujos de datos se abordan desde dos frentes. En primer lugar, reinventando los controles tradicionales de usuarios y dispositivos, y en segundo lugar, brindando seguridad a las aplicaciones bajo la supervisión del director de tecnología (CTO). 

La prevención de pérdida de datos (DLP) ha sido una categoría imprescindible para cumplir con los requisitos de cumplimiento normativo. Establece controles en los canales de salida de los usuarios y los dispositivos, así como entre los datos y las aplicaciones instaladas, incluidas las aplicaciones de inteligencia artificial. En 2024, los inversores ven la DLP como una gran oportunidad para reinventarse. 

En las competiciones de startups de 2024 de RSA y BlackHat, las startups DLP Harmonic y LeakSignal fueron nombrados finalistasMIND también recibió una inversión inicial de 11 millones de dólares el año pasado.

Tradicionalmente, la prevención de pérdida de datos se ha centrado en los usuarios, los dispositivos y el tráfico de red que los rodea, aunque una startup está poniendo el ojo en las identidades no humanas que hoy en día superan en número a las humanas y que suelen ser microservicios o aplicaciones implementadas dentro de Kubernetes. La filtración de secretos por parte de estas entidades en archivos de registro se ha convertido en una preocupación creciente y LeakSignal está empleando conceptos de malla cibernética para controlar este canal de pérdida de datos.

Esto nos lleva al segundo campo de batalla de datos de los CISO: la seguridad de los datos que podría regir el desarrollo de código e inteligencia artificial bajo la dirección de los CTO. 

La seguridad de los datos se cruza con la seguridad de las aplicaciones

Todas las empresas desarrollan software y muchas de ellas aprovechan datos privados para entrenar modelos propietarios. En este mundo de aplicaciones, los CISO necesitan un plano de control.

Antimatter y Knostic aparecieron como finalistas en las competencias de startups RSA y BlackHat de 2024. Ofrecen API de bóveda de privacidad que, cuando son adoptadas por completo por una organización, permiten a los equipos de ciberseguridad administrar los datos que los ingenieros exponen a los modelos. 

Las empresas emergentes que trabajan en el cifrado totalmente homomórfico (FHE) participan en concursos todos los años, promocionando este Santo Grial de la privacidad de la IA. Es una tecnología que produce un estado de cifrado intermedio, pero aún utilizable por la IA. El texto cifrado de FHE sigue siendo utilizable porque mantiene las relaciones entre entidades y los modelos pueden usarlo tanto durante el tiempo de entrenamiento como de inferencia para ofrecer información sin ver secretos.

Lamentablemente, FHE es demasiado costoso en términos computacionales y está demasiado inflado para un uso generalizado. La falta de búsqueda de palabras parciales es otra limitación notable. Es por eso que estamos viendo una tendencia en materia de privacidad que ofrece FHE como solo un enfoque dentro de una combinación más amplia de cifrado y reemplazo de tokens. 

La startup Skyflow implementa tecnología polimórfica utilizando FHE cuando tiene sentido, junto con formas más livianas de cifrado y tokenización. Esto permite gestionar búsquedas parciales, examinar los últimos cuatro dígitos de los identificadores y ser eficaz en los dispositivos. Es un enfoque combinado similar al cifrado de extremo a extremo de Apple en los dispositivos y en la nube.

No es exagerado decir que vivimos en tiempos de cambios sin precedentes. En este sentido, cabe destacar la mentalidad innovadora y la atención que caracterizan a la cultura de las empresas emergentes, que crean una comunidad a la que todos pueden recurrir para comprender el mundo y protegerse de sus peligros.

Artículos relacionados

punto_img

Artículos Recientes

punto_img