En una era cada vez más dominada por la tecnología avanzada, la amenaza de falsificaciones profundas y la desinformación generada por la IA ocupa un lugar preponderante. En respuesta, Google está intensificando sus esfuerzos para combatir esta creciente amenaza.
Sin una solución única a la vista, la empresa de tecnología está implementando una combinación de aprendizaje automático y experiencia humana para identificar y mitigar estos riesgos. Esta iniciativa, parte de una colaboración más amplia con el gobierno indio, se destacó en el período previo a la Cumbre de la Asociación Global sobre Inteligencia Artificial (GPAI).
Lea también: India inicia regulaciones para combatir la amenaza de los deepfake
El enfoque multicapa de Google para la desinformación de la IA
La estrategia de Google abarca una combinación de tecnología avanzada y experiencia humana para identificar y mitigar los riesgos que plantean los medios sintéticos. Google reconoce que no existe una solución milagrosa para erradicar las falsificaciones profundas y la información errónea generada por la IA. En cambio, la empresa está adoptando una estrategia integral que aprovecha algoritmos de aprendizaje automático y revisores humanos. Este doble enfoque tiene como objetivo marcar y eliminar de manera eficiente el contenido manipulado digitalmente en Internet, protegiendo a los usuarios contra información engañosa.
"No existe una solución milagrosa para combatir las falsificaciones profundas y la desinformación generada por IA... Utilizamos una combinación de personas y tecnologías de aprendizaje automático para hacer cumplir nuestras Normas comunitarias".
En la próxima Cumbre de la Asociación Global sobre Inteligencia Artificial (GPAI), Google planea promover su unión con el gobierno indio. Este esfuerzo conjunto abordará los riesgos multifacéticos de seguridad asociados con los "medios sintéticos", incluidos los deepfakes y las campañas de desinformación. La cumbre también sirve como plataforma para que ambas entidades intercambien ideas y desarrollen estrategias sólidas para combatir los desafíos que plantean estas manipulaciones tecnológicas avanzadas.
Mejorar la confianza y la transparencia digitales
En su búsqueda por fomentar la confianza digital, Google ha introducido varias herramientas y políticas innovadoras. La integración de su asistente basado en inteligencia artificial, Bard, en la Búsqueda de Google va acompañada de la función "Acerca de este resultado", que proporciona a los usuarios contexto y obtención de información para los resultados de búsqueda. Esta mejora es fundamental para permitir a los usuarios verificar la autenticidad de la información que encuentran.
"Es por eso que agregamos "Acerca de este resultado" a la IA generativa en la Búsqueda de Google para ayudar a las personas a evaluar la información que encuentran en la experiencia".
Además, Google está abordando el desafío que plantean las imágenes generadas por IA. La empresa está lanzando SynthID, una herramienta que etiqueta dichas imágenes con metadatos y marcas de agua integradas. Esta iniciativa, actualmente disponible para un número limitado de clientes de Vertex AI que utilizan Imagen, el modelo de conversión de texto a imagen de Google, marca un paso importante para garantizar la integridad de los medios digitales.
Políticas revisadas de YouTube
YouTube, una filial de Google, también reforzando su postura contra los medios manipulados. Una nueva política obliga a los creadores de contenido a revelar si su contenido ha sido alterado o incluye contenido sintético creado con herramientas de inteligencia artificial. Esta transparencia es crucial para garantizar que los espectadores estén plenamente informados sobre la naturaleza del contenido que consumen. Además, YouTube está revisando su política de tergiversación para Google Ads, prohibiendo el uso de medios manipulados destinados a engañar o desorientar a los usuarios.
"Como parte de nuestra política de tergiversación para Google Ads, prohibimos el uso de medios manipulados, falsificaciones profundas y otras formas de contenido manipulado destinado a engañar, defraudar o desorientar a los usuarios".
Sin embargo, a medida que evoluciona el panorama digital, la pregunta persiste: ¿es esta combinación de tecnología y políticas suficiente para detener la marea de desinformación y falsificaciones profundas generadas por la IA? La respuesta no está sólo en la eficacia de estas medidas sino también en la vigilancia colectiva de los usuarios y creadores dentro del ámbito digital.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://metanews.com/google-mandates-ai-deep-fake-disclosures-in-india/
