La inteligencia artificial no es solo para los que cumplen la ley. Los algoritmos de aprendizaje automático están disponibles de forma gratuita para ...
ciberdelincuentes y actores patrocinados por el estado, ya que son para instituciones financieras, minoristas y compañías de seguros.
“Cuando miramos especialmente a los grupos terroristas que están explotando las redes sociales, [y] cuando miramos los esfuerzos patrocinados por el estado para influir y manipular, están usando algoritmos realmente poderosos que están a disposición de todos”, dijo Yasmin Green, directora de investigación y desarrollo en Jigsaw, una incubadora de tecnología lanzada por Google para tratar de resolver problemas geopolíticos.
Los delincuentes no necesitan desarrollar nuevos algoritmos o nueva IA, dijo Green en el reciente Conferencia EmTech en Cambridge, Mass. Pueden y están explotando lo que ya existe para cometer fraude y manipular la opinión pública.
¿Las buenas noticias sobre la IA armada? Las herramientas para combatir estos nefastos esfuerzos también están avanzando. Una pista prometedora, según Green, es que los malos actores no exhiben el mismo tipo de comportamiento en línea que los usuarios típicos. Y los expertos en seguridad esperan explotar los "indicios" de comportamiento que están viendo, con la ayuda de las máquinas, por supuesto.
Variaciones de la IA armada
Ciberdelincuentes y Trolls de internet son expertos en el uso de IA para simular el comportamiento humano y engañar a los sistemas o vender propaganda. La prueba en línea utilizada para distinguir a los humanos de las máquinas, CAPTCHA, es bombardeado continuamente por malos que intentan engañarlo.
En un esfuerzo por adelantarse a los ciberdelincuentes, CAPTCHA, que significa Público Completamente Automatizado Prueba de Turing to Tell Computers and Humans Aparte, ha tenido que evolucionar, creando algunas consecuencias imprevistas, según Shuman Ghosemajumder, CTO de Shape Security en Mountain View, California. Datos recientes de Google muestran que los humanos resuelven CAPTCHA solo el 33% de las veces. Eso se compara con el aprendizaje automático de última generación reconocimiento óptico de caracteres tecnología que tiene una tasa de resolución del 99.8%.
“Esto está haciendo exactamente lo contrario de lo que se pretendía hacer originalmente con CAPTCHA”, dijo Ghosemajumder. "Y eso ahora se ha convertido en un arma".
Dijo que los avances en la tecnología de visión por computadora han llevado a servicios de inteligencia artificial armados como Death By CAPTCHA, un complemento de API que promete resolver 1,000 CAPTCHA por $ 1.39. "Y, por supuesto, hay descuentos para los miembros Gold del servicio".
Un ataque más agresivo es el relleno de credenciales, donde los ciberdelincuentes utilizan nombres de usuario y contraseñas robados de fuentes de terceros para obtener acceso a las cuentas.
Sony fue víctima de un ataque de relleno de credenciales en 2011. Los ciberdelincuentes seleccionaron una lista de 15 millones de credenciales robadas de otros sitios y luego probaron si funcionaban en la página de inicio de sesión de Sony usando un botnet. Hoy en día, un equipo con el nombre que suena bien de Sentry MBA (el MBA significa Modded By Artists) brinda a los ciberdelincuentes una interfaz de usuario y tecnología de automatización, lo que facilita la prueba de la veracidad de los nombres de usuario y las contraseñas robados e incluso omitir características de seguridad como CAPTCHA.
“Vemos este tipo de ataques responsables de enormes cantidades de tráfico en algunos de los sitios web más grandes del mundo”, dijo Ghosemajumder. En el caso de una empresa de Fortune 100, los ataques de relleno de credenciales representaron más del 90% de su actividad de inicio de sesión.
Shuman Ghosemajumder comparte un fragmento de tráfico de un minorista Fortune 100. "Vemos que las 24 horas del día, los 7 días de la semana, más del 90% de la actividad de inicio de sesión proviene de ataques de relleno de credenciales", dijo.
Indicadores de comportamiento en IA armada
Shape Security firme de Ghosemajumder ahora usa IA para detectar relleno de credenciales esfuerzos. Un método consiste en utilizar el aprendizaje automático para identificar características de comportamiento típicas de las vulnerabilidades de los ciberdelincuentes.
Cuando los ciberdelincuentes simulan interacciones humanas, por ejemplo, moverán el mouse del campo de nombre de usuario al campo de contraseña de manera rápida y eficiente, de una manera inhumana. “Los seres humanos no son capaces de hacer cosas como mover un ratón en línea recta, no importa cuánto lo intenten”, dijo Ghosemajumder.
Green de Jigsaw dijo que su equipo también está buscando "marcadores técnicos" que puedan distinguir las campañas verdaderamente orgánicas de las coordinadas. Ella describió patrocinado por el estado actores que venden propaganda e intentan difundir información errónea a través de lo que ella llamó "campañas de semillas y fertilizantes".
El objetivo de estas campañas patrocinadas por el estado es plantar una semilla en las conversaciones sociales y hacer que las masas involuntarias fertilicen esa semilla para que se convierta en una conversación orgánica. yasmin verdedirector de investigación y desarrollo, Jigsaw
“El objetivo de estas campañas patrocinadas por el estado es plantar una semilla en las conversaciones sociales y hacer que las masas involuntarias fertilicen esa semilla para que se convierta en una conversación orgánica”, dijo.
“Hay algunas dimensiones que creemos que son prometedoras. Una es la dimensión temporal ”, dijo.
Al mirar a través de Internet, Jigsaw comenzó a comprender que los ataques coordinados tienden a moverse juntos, duran más que las campañas orgánicas y se detienen mientras los actores patrocinados por el estado esperaban instrucciones sobre qué hacer. "Verá un pequeño retraso antes de que actúen", dijo.
Otras dimensiones incluyen la forma y la semántica de la red. Los actores patrocinados por el estado tienden a estar más estrechamente vinculados que las comunidades dentro de las campañas orgánicas, y tienden a usar un lenguaje “irregularmente similar” en sus mensajes.
La gran pregunta es ¿pueden los indicadores de comportamiento, identificados por máquinas y combinados con detección automatizada - ¿se utilizará para identificar de forma eficaz las campañas patrocinadas por el estado? Sin duda, el tiempo lo dirá.
PlatoAi. Web3 reinventado. Inteligencia de datos ampliada.
