Seguridad digital
La clonación de voz impulsada por IA puede facilitar demasiado las cosas a los estafadores; lo sé porque la he probado para que no tengas que aprender sobre los riesgos de la manera más difícil.
Noviembre 22 2023
•
,
6 minuto. leer
La reciente robo de mi voz Me llevó a una nueva bifurcación en el camino en términos de cómo la IA ya tiene el potencial de causar perturbaciones sociales. Me sorprendió tanto la calidad de la voz clonada (y en ese estilo extremadamente inteligente, pero cómico, de uno de mis colegas) que decidí usar el mismo software para propósitos “nefastos” y ver hasta dónde podía llegar. para robar en un pequeño negocio – ¡con permiso, por supuesto! Alerta de spoiler: fue sorprendentemente fácil de realizar y apenas tomó tiempo.
"Es probable que la IA sea lo mejor o lo peor que le pueda pasar a la humanidad". - Stephen Hawking
De hecho, desde que el concepto de IA se volvió más común en películas de ficción como Blade Runner y Terminator, la gente ha cuestionado las implacables posibilidades de lo que la tecnología podría llegar a producir. Sin embargo, sólo ahora, con bases de datos poderosas, una potencia informática cada vez mayor y la atención de los medios, hemos visto a la IA llegar a una audiencia global de maneras que son a la vez aterradoras y emocionantes. Con tecnologías como la IA merodeando entre nosotros, es muy probable que veamos ataques creativos y bastante sofisticados con resultados dañinos.
Escapada de clonación de voz
Mi anterior roles en la fuerza policial Me inculcó la mentalidad de intentar pensar como un criminal. Este enfoque tiene algunos beneficios muy tangibles y, sin embargo, subestimados: cuanto más se piensa e incluso hechos Como un criminal (sin llegar a serlo), mejor protegido podrá estar. Esto es absolutamente vital para mantenerse actualizado sobre las últimas amenazas y para prever las tendencias futuras.
Entonces, para probar algunas de las capacidades actuales de la IA, una vez más tuve que adoptar la mentalidad de un criminal digital y atacar éticamente una empresa.
Recientemente le pregunté a un contacto mío (llamémoslo Harry) si podía clonar su voz y usarla para atacar a su empresa. Harry estuvo de acuerdo y me permitió comenzar el experimento creando un clon de su voz usando un software disponible. Por suerte para mí, conseguir la voz de Harry fue relativamente sencillo: a menudo graba vídeos cortos promocionando su negocio en su canal de YouTube, así que pude unir algunos de estos vídeos para hacer un buen banco de pruebas de audio. En unos pocos minutos, había generado un clon de la voz de Harry, que sonaba igual que él para mí, y luego podía escribir cualquier cosa y reproducirla en su voz.
Para subir la apuesta, también decidí agregar autenticidad al ataque al robando la cuenta de WhatsApp de Harry con la ayuda de un Ataque de intercambio de SIM – nuevamente, con permiso. Luego envié un mensaje de voz desde su cuenta de WhatsApp a la directora financiera de su empresa (llamémosla Sally) solicitando un pago de £250 a un "nuevo contratista". En el momento del ataque, sabía que él estaba en una isla cercana teniendo un almuerzo de negocios, lo que me dio la historia perfecta y la oportunidad de atacar.
El mensaje de voz incluía dónde estaba y que necesitaba que le pagaran al "chico del plano", y decía que enviaría los datos bancarios por separado inmediatamente después. Esto agregó la verificación del sonido de su voz además del mensaje de voz agregado al hilo de WhatsApp de Sally, lo cual fue suficiente para convencerla de que la solicitud era genuina. A los 16 minutos del mensaje inicial, me enviaron £250 a mi cuenta personal.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://www.welivesecurity.com/en/cybersecurity/your-voice-is-my-password/