YouTube pronto requerirá que los creadores de contenido etiqueten los videos creados con inteligencia artificial u otras herramientas digitales como parte de los esfuerzos para combatir los deepfakes que podrían engañar a los espectadores, dijo la compañía en una nueva actualización de política publicada el 14 de noviembre.
El sitio de alojamiento de videos advirtió que los creadores que no lo hagan corren el riesgo de que sus cuentas sean eliminadas o suspendidas para no obtener ingresos publicitarios en YouTube.
También permitirá a los usuarios solicitar vídeos creados por IA que simulen la eliminación de una persona identificable. La nueva política entrará en vigor en los próximos meses.
Lea también: La próxima herramienta de inteligencia artificial de YouTube permitirá a los fans sonar como artistas
Identificación de contenido de IA "realista"
En un entrada en el blog, Las vicepresidentas de gestión de productos de YouTube, Jennifer Flannery O'Connor y Emily Moxley, dijeron que la plataforma ahora requiere que los creadores revelen y etiqueten videos que incluyan "contenido manipulado o sintético que sea realista, incluido el uso de herramientas de inteligencia artificial".
Por ejemplo, los ejecutivos dijeron que los videos que "representan de manera realista un evento que nunca sucedió" o los deepfakes "que muestran a alguien diciendo o haciendo algo que en realidad no hizo" necesitarán etiquetas claras en su descripción que demuestren que fueron creados con IA.
"Esto es especialmente importante en los casos en que el contenido trata temas delicados, como elecciones, conflictos en curso, crisis de salud pública o funcionarios públicos", dijeron Flannery O'Connor y Moxley.
YouTube ya prohíbe “contenido técnicamente manipulado que engañe a los espectadores y pueda representar un riesgo grave de daño atroz”, escribió la compañía en su blog.
"Sin embargo, las nuevas y poderosas formas de narración de la IA también pueden usarse para generar contenido que tiene el potencial de engañar a los espectadores, particularmente si no saben que el video ha sido alterado o creado sintéticamente", dijo.
La nueva política está diseñada para facilitar a los espectadores la separación de videos sintéticos de los reales y amplía las medidas que YouTube anunció en septiembre que exigen la divulgación de anuncios políticos generados por IA en el sitio.
Se produce en medio de un debate sobre los posibles obstáculos que surgen a medida que la IA se vuelve más avanzada, lo que dificulta distinguir entre contenido real y falso, también conocido como “deepfakes”, en las redes sociales y en otros lugares de Internet.
YouTube prioriza 'temas sensibles' como las elecciones
Deepfakes Son imágenes o vídeos realistas pero falsos creados con inteligencia artificial que se utilizan para hacerse pasar por otra persona, incluida su voz, a menudo con motivos maliciosos. Esa preocupación ha llevado a varias plataformas en línea a cambiar sus reglas para abordar el problema.
Como MetaNews recientemente reportaron, Meta Platforms, propietario de Facebook e Instagram, exigirá a los anunciantes que revelen el uso de IA en anuncios sobre elecciones, política y temas sociales a partir del próximo año. También impidió que los anunciantes políticos utilizaran sus propias herramientas de inteligencia artificial para crear anuncios.
La plataforma para compartir vídeos cortos TikTok introdujo una nueva etiqueta para el contenido generado por IA a principios de este año y exige que los usuarios revelen cuándo se crea con IA contenido que representa “escenas realistas”. También prohíbe los deepfakes de jóvenes y figuras privadas generados por IA.
Las etiquetas de YouTube aparecerán en los paneles de descripción de los videos. Sin embargo, para los videos que tratan temas delicados como elecciones y conflictos, las etiquetas se colocarán de manera más destacada dentro del reproductor de video para garantizar que los espectadores conozcan el origen del contenido.
Además, el contenido creado con las herramientas de inteligencia artificial generativa propias de YouTube, como las herramientas de conversión de texto a voz y de música a imagen, también estará claramente etiquetado. El material generado por IA que viole las pautas de la comunidad de YouTube se eliminará por completo del sitio.
"Por ejemplo, un vídeo creado sintéticamente que muestra violencia realista aún puede eliminarse si su objetivo es sorprender o disgustar a los espectadores", explicó YouTube.
YouTube responsabiliza a los creadores de cumplir con los nuevos requisitos de etiquetado de contenido de IA. Los creadores que no etiqueten el contenido sintético que debería divulgarse según la nueva política pueden enfrentar sanciones como la eliminación del contenido o la desmonetización de sus videos.
Los usuarios pueden solicitar que se elimine el contenido de IA
Además de las etiquetas de contenido, YouTube también está desarrollando una nueva función que permite a los usuarios solicitar la eliminación de representaciones sintéticas o creadas por IA de personas reales. El cambio se produce tras un aumento de los deepfakes que presentan a mujeres famosas en contenido pornográfico no consensuado.
La compañía dijo que, según sus reglas de privacidad, los usuarios podrán marcar videos "que simulen a un individuo identificable, incluido su rostro o su voz". YouTube evaluará cada solicitud de eliminación, considerando factores como si el video pretende ser una parodia o una sátira.
También se considerará si se pueden identificar las personas retratadas en el vídeo, así como la prominencia de las personas involucradas. Para figuras conocidas o funcionarios públicos, puede aplicarse un umbral más alto de destitución.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://metanews.com/youtube-now-requires-creators-to-label-ai-content-to-combat-deepfakes/
