Tras las protestas de los jugadores, Epic Games está eliminando las imágenes racistas generadas por IA subidas por los usuarios al popular juego Battle Royale Fortnite, según un reporte by Kotaku.
Una de las características que hizo de Fortnite el exitoso juego en línea que es hoy es la capacidad de los usuarios de crear sus propios mapas y compartir experiencias jugables con el mundo. Sin embargo, esta salida para la creatividad significa que los usuarios pueden potencialmente subir contenido problemático, que es lo que sucedió aquí.
Recientemente, los usuarios comenzaron a notar mapas de islas que presentaban toscas imágenes generadas por IA que perpetraban estereotipos racistas. Como Kotaku Como se informó, los ejemplos de mapas incluyen aquellos con nombres como “Arab Zonewars”, “Nigerian Zonewars” y “China Zonewars”.
Los mapas presentaban imágenes racistas y aparentemente generadas por IA que perpetúan los estereotipos, incluidos hombres de Medio Oriente sosteniendo bombas y hombres negros comiendo pollo frito. Si bien la mayoría de estos mapas tenían poblaciones de servidores pequeñas, un mapa, “Jamaica Zonewars”, tenía más de 35,000 jugadores activos a principios de este mes.
Imagen: Obra de arte de una isla prohibida del usuario “flaming” en Fortnite Creative.
"Muchas de las islas a las que se hace referencia ya han sido eliminadas y los creadores tomaron medidas", dijo Epic Games. Kotaku en una oracion. "Ya hemos abordado más de 100 islas con violaciones de contenido que utilizan este formato de miniatura similar y continuaremos haciéndolo".
Epic Games agregó que el contenido discriminatorio no tiene cabida en Fortnite y viola las reglas de creadores de islas de la compañía, y agregó que los usuarios que violen estas pautas podrían ver sus cuentas prohibidas permanentemente.
“Nuestro equipo de moderación humana revisa todo el contenido antes de su publicación y estamos actualizando activamente las reglas de nuestros creadores de islas y los programas de capacitación de moderación para minimizar la cantidad de mapas infractores que llegan a los jugadores”, dijo Epic Games. "Alentamos a los jugadores a informar sobre cualquier isla que vean que pueda violar nuestras reglas".
En una declaración proporcionada a DescifrarEn GG, Epic Games dijo que todas las islas creadas por los usuarios son revisadas por moderadores antes de su publicación, pero dijo que el equipo toma un toque ligero.
Imagen: Obra de arte de una isla prohibida del usuario "drzen" en Fortnite Creative.
"Pedimos a nuestro equipo de moderación que asuma buenas intenciones en nombre del creador si no está seguro de una infracción de contenido para no censurar demasiado", dijo Epic Games. “A veces esto significa que se publican cosas que no deberían, y trabajamos rápidamente para eliminar cualquier contenido ofensivo y escribir nuevos materiales de capacitación para nuestros moderadores. Los creadores que infrinjan nuestras reglas para creadores enfrentan una variedad de acciones coercitivas, incluidas prohibiciones permanentes de publicación y monetización”.
El editor agregó que está trabajando para actualizar sus “reglas para creadores de islas y programas de capacitación en moderación”.
"No prohibimos los juegos por utilizar nuevas tecnologías", dijo el fundador y director ejecutivo de Epic Games, Tim Sweeney. escribí en Twitter en ese momento, señalando que Epic Games había abierto la autoedición completa a principios de ese año.
Si bien los desarrolladores de IA han invertido mucho en eliminar imágenes ofensivas de sus modelos, los usuarios han encontrado formas de "hacer jailbreak" a los modelos mediante indicaciones especializadas. En octubre, imágenes generadas por IA de Bob Esponja SquarePants o Kirby de Nintendo lanzando aviones de pasajeros hacia el World Trade Center se volvieron virales.
