Adobe hizo creer a los usuarios que utilizó completamente su propio stock de imágenes para entrenar su modelo Firefly, generador de imágenes de IA, pero los informes muestran que también incluyó imágenes de IA de rivales como Midjourney.
Firefly se promociona como el generador de imágenes más ético y comercialmente seguro que utiliza su propio archivo de imágenes. Pero se ha descubierto que también utilizan imágenes generadas por IA mediante herramientas como Midjourney, en contra de las afirmaciones de que utilizan Adobe Stock.
IA no tan ética
La empresa ha vendido su Luciérnaga como una especie de “IA ética” que se entrena con la propia biblioteca de imágenes de archivo con licencia de Adobe. Son millones de diseños, imágenes e ilustraciones de la biblioteca de Adobe Stock.
Por el contrario, ha surgido un nuevo informe que muestra que, después de todo, el generador de imágenes no es tan limpio como la imagen que proyecta en el mercado. A informe de Bloomberg Un informe ha revelado que el creador de Photoshop tiene "algunos esqueletos en el armario".
Algunas de las imágenes utilizadas durante el entrenamiento de Firefly procedieron del competidor. a mitad de camino, que no ha revelado la fuente de sus datos de entrenamiento, aunque muchos sospechan que las imágenes se obtuvieron mediante desguace de Internet sin ninguna licencia. Esto a pesar de que Firefly se considera "comercialmente seguro".
Para Rachel Metz, no se trata del “incesto de IA” como se lo conoce ahora, sino de una contradicción de lo que Adobe proyecta que es su generador de imágenes de IA a los ojos del público.
"Se trata de tomar una decisión deliberada de incluir imágenes generadas por IA de Adobe Stock en su conjunto de datos y al mismo tiempo posicionarse públicamente como muy diferente de las empresas cuyas herramientas se utilizaron para crear esas imágenes generadas por IA", respondió Metz en X.
Sin embargo, algunos usuarios sienten que evitar la contaminación de los datos es casi imposible.
"Literalmente imposible no tener ninguna contaminación en los datos de entrenamiento a menos que atribuyas y verifiques manualmente cada imagen, lo cual es demasiado engorroso". respondió Raj Singh.
Lea también: Gen AI Music alcanza una tasa de éxito del 20% en resúmenes comerciales
Las imágenes etiquetadas con IA
El informe de Bloomberg revela además que Adobe Stock, que se utilizó para entrenar a Firefly, tiene 57 millones de imágenes etiquetadas como generadas por IA, lo que representa aproximadamente el 14% del total de imágenes en esa base de datos.
El fabricante de Photoshop ha revelado que sólo el 5% de las imágenes que se utilizaron en el entrenamiento de Firefly entran en esta categoría, mientras que el resto "formaban parte de la biblioteca de Adobe Stock, lo que significaba que habían pasado por un 'riguroso proceso de moderación'".
"Cada imagen enviada a Adobe Stock, incluido un subconjunto muy pequeño de imágenes generadas con IA, pasa por un riguroso proceso de moderación para garantizar que no incluya propiedad intelectual, marcas comerciales, personajes reconocibles o nombres de artistas de referencia", dijo un portavoz a Bloomberg.
En su lanzamiento, adobe dijo que Firefly estaba en contra del robo de derechos de autor y ofreció una indemnización a sus clientes comerciales, ya que la compañía los convenció de que su modelo de IA es seguro.
🚨Saca de mí y @BrodyFord_: Adobe ha promocionado a Firefly como una alternativa segura y ética a competidores como Midjourney... pero también entrenó silenciosamente a Firefly en imágenes de Midjourney.
La IA 'ética' Firefly de Adobe fue entrenada en imágenes a mitad de viaje https://t.co/LIYD9RuExS
—Raquel Metz (@rachelmetz) Abril 12, 2024
Mejor que sus competidores
Adobe también proyectó su herramienta de creación de imágenes de IA como una "alternativa segura" a los competidores Midjourney y Dall-E porque afirmó que los datos tenían licencia y estaban "autorizados para su uso en el entrenamiento del modelo".
Según la La guía de Tom, no todos los artistas estaban tan interesados en ese momento y "se sintieron obligados a aceptar que su trabajo fuera utilizado por el gigante tecnológico creativo". Sin embargo, la idea vendida fue que las imágenes creadas con Firefly eran seguras de usar “sin riesgo de ser demandadas por robo de derechos de autor”.
Sin embargo, el informe de Bloomberg ha planteado otra dimensión de la "ética" de Adobe Firefly.
Adobe ha diferenciado su generador de imágenes de IA de pares como Dall-E 3, Stable Diffusion y Midjourney declarando "comercialmente seguro".
"Adobe ha establecido los principios éticos de responsabilidad, responsabilidad y transparencia de la IA". escribió la empresa en una publicación
La compañía creó un plan de compensación para todos los artistas cuyo trabajo pasó hasta la primera formación de Firefly. Algunos de los artistas, según Según diario emprendedor, envió imágenes que fueron creadas por Midjourney pero que fueron compensadas por Adobe por su aporte.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://metanews.com/firefly-training-included-rivals-ai-images/
