Las imágenes emitidas por los modelos generativos de OpenAI incluirán metadatos que revelen su origen, que a su vez pueden ser utilizados por aplicaciones para alertar a las personas sobre la naturaleza de ese contenido creado por máquinas.
Específicamente, el súper laboratorio defendido por Microsoft está, como se esperaba, adoptando la especificación de Credenciales de Contenido, que fue ideada por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), un organismo industrial respaldado por Adobe, Arm, Microsoft, Intel y más.
Las credenciales de contenido son bastante simple y especificado en su totalidad aquí: usa formatos de datos estándar para almacenar en archivos multimedia detalles sobre quién hizo el material y cómo. Estos metadatos no son directamente visibles para el usuario y están protegidos criptográficamente para que cualquier cambio no autorizado sea obvio.
Se espera que las aplicaciones que admiten estos metadatos, cuando los detectan en el contenido de un archivo, muestren un pequeño logotipo "cr" sobre el contenido para indicar que hay información de Credenciales de contenido presente en ese archivo. Al hacer clic en ese logotipo, se debería abrir una ventana emergente que contiene esa información, incluida cualquier divulgación de que el material fue creado por AI.
Cómo podría aparecer el logotipo 'cr' de C2PA en una imagen generada por OpenAI en una aplicación compatible. Fuente: OpenAI
La idea aquí es que debería ser inmediatamente obvio para las personas que ven o editan cosas en aplicaciones de soporte (desde editores de imágenes hasta navegadores web, idealmente) si el contenido en pantalla está creado o no por IA.
Sin duda, ayudar a las personas a distinguir entre imágenes reales y falsas será cada vez más importante a medida que el contenido generado por IA mejore hasta el punto en que ya no sea obviamente el resultado de una máquina. Los expertos temen que estos medios sintéticos engañen a los internautas y sean utilizados para sembrar información errónea o apoyar campañas de desinformación. Las empresas tecnológicas están intensificando sus esfuerzos para minimizar los riesgos a medida que, por un lado, se acercan las elecciones presidenciales estadounidenses de 2024.
Sin embargo, la estrategia de Credenciales de Contenido no es infalible como hemos se informó anteriormente. Los metadatos se pueden eliminar o exportar fácilmente sin ellos, o el "cr" se puede recortar de las capturas de pantalla, por lo que no aparecerá ningún logotipo "cr" en el material en el futuro en ninguna aplicación. También depende de aplicaciones y servicios para respaldar la especificación, ya sea que estén creando o mostrando medios.
Para trabajar a escala y lograr adopción, también necesita algún tipo de sistema en la nube que pueda usarse para restaurar metadatos eliminados, algo que Adobe está impulsando, así como una campaña de marketing para difundir el conocimiento de la marca. Aumente su ancho de marca, por así decirlo.
OpenAI lo reconoció esta semana cuando anunció que ChatGPT y DALL-E 3 API incluirán las credenciales de contenido de C2PA en su producción.
"Los metadatos como C2PA no son una solución milagrosa para abordar cuestiones de procedencia", OpenAI aceptado. “Se puede eliminar fácilmente, ya sea de forma accidental o intencionada. Por ejemplo, la mayoría de las plataformas de redes sociales actuales eliminan los metadatos de las imágenes cargadas, y acciones como tomar una captura de pantalla también pueden eliminarlos. Por lo tanto, una imagen que carece de estos metadatos puede haber sido generada o no con ChatGPT o nuestra API”.
En términos de impacto en el tamaño del archivo, OpenAI insistió en que un archivo PNG de 3.1 MB generado por su API DALL-E crece aproximadamente un tres por ciento (o alrededor de 90 KB) al incluir los metadatos. Mientras tanto, un archivo WebP de 287 KB aumentará aproximadamente un 32 por ciento con esa carga útil de 90 KB.
C2PA está ganando terreno: a medida que más aplicaciones y servicios se comprometen a respaldarlo, más software puede usarlo, más personas deberían verlo y, por lo tanto, crece. Meta anunció Esta semana estaba creando herramientas para respaldar las especificaciones del grupo industrial.
"Creemos que adoptar estos métodos para establecer la procedencia y alentar a los usuarios a reconocer estas señales es clave para aumentar la confiabilidad de la información digital", declaró OpenAI.
Nos dijeron que ChatGPT a través de la web y el modelo DALL-E 3 a través de su API ahora incluirán los metadatos C2PA, y los usuarios móviles los obtendrán antes del 12 de febrero.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/
