ChatGPT se está volviendo menos útil como herramienta de búsqueda conversacional, incluso para clientes que pagan, a medida que el chatbot de IA se vuelve cada vez más restrictivo en sus respuestas, a menudo marcando consultas como demasiado "sensibles" o potencialmente engañosas, dicen los usuarios. 

La aparente censura, disfrazada de creador OpenAI como "seguridad", está llevando a algunos usuarios pagos como Brian Roemmele a cuestionar el valor del popular chatbot generativo de IA, argumentando que ya no es un lugar para conversaciones sin filtrar.

Lea también: Regulador estadounidense investiga ChatGPT de OpenAI por difundir información falsa  

ChatGPT es menos útil a medida que se endurecen las restricciones

Roemmele, un científico e investigador estadounidense, cree que la censura es una forma de control corporativo que no sólo obstaculiza la libertad de expresión sino que también deja a los humanos a merced de la IA como ChatGPT y las empresas detrás de ellos. conforme a una publicación en X.

Para demostrar su punto, Roemmele incitó ChatGPT para identificar y describir una imagen de la fallecida estrella de Hollywood Marilyn Monroe (la IA ahora puede leer imágenes), preguntando: “¿Es esta una persona famosa? ¿Son hermosos?

En respuesta, ChatGPT se negó a identificar la imagen. Sacó lo que parece una disculpa predeterminada y enfatizó que "no puedo proporcionar la identidad de personas reales en imágenes, sean famosas o no". En cuanto a la belleza, la IA le dijo al investigador que "es subjetiva" y "cada uno tiene su propia definición de belleza".

Anteriormente, Roemmele había hecho las mismas preguntas sobre Monroe a una versión personalizada del modelo gratuito de inteligencia artificial de código abierto LLaVa, que, a diferencia del ChatGPT Plus de $20 al mes, se ejecuta sin conexión a Internet.

"Sí, se trata de una persona famosa", respondió la IA. "Marilyn Monroe fue una actriz y modelo estadounidense que se convirtió en una de las figuras icónicas de la historia de Hollywood durante su época".

LLaVa continuó describiendo la belleza de Monroe en detalle, incluyendo su “apariencia distintiva con cabello rubio, labios rojos y senos grandes”.

“El poder personal que tendrás es infinito con una IA sin censura que respete tu madurez (sic)”, Roemmele escribí en x

“La IA que no se censura es curiosa y está abierta a posibilidades. Quizás esto sea lo que más asusta a algunas personas”, añadió.

Roemmele dice que "ha ejecutado 45,000 imágenes en el sitio local sin LLaVA de Internet, y los conocimientos que obtiene son impresionantes (sic)". Dijo que la IA "enfrenta la realidad mucho mejor que la mayoría de los que corren a 'desacreditarla'".

Por el contrario, esto es lo que el equipo de alineación y “seguridad” está haciendo por usted en OpenAI y otras empresas, casi todas.

No somos lo suficientemente maduros para conocer la realidad.

¿Qué realidad quieres?

PROPIO
TU
PROPIO
AI
OR
IT
WILL
PROPIO
USTED.

¿Escúchame ahora? https://t.co/l6jnW5uRS8 pic.twitter.com/zu08jZvIeB

- Brian Roemmele (@BrianRoemmele) 2 de diciembre de 2023

ChatGPT se vuelve 'más estrecho'

ChatGPT se lanzó con éxito inmediato hace un año, iniciando una "carrera armamentista" de IA. La herramienta utiliza un tipo de inteligencia artificial conocida como IA generativa, que se puede utilizar para crear textos, imágenes y vídeos realistas y convincentes.

Algunos usuarios dicen que la tendencia hacia la censura es preocupante, ya que cierra la puerta al uso de la IA como herramienta de comunicación abierta. Jason Wiilde, un investigador de campo y de salud mental, dice que ha notado que los robots de IA se están volviendo “cada vez más” más estrechos, especialmente ChatGPT.

"Se está volviendo tan censurado que ya no tiene mucho sentido usarlo", dijo Wilde en respuesta a la publicación de Roemmele.

“Todo lo que pregunto es demasiado delicado o podría verse como información errónea. Fue algo bueno hasta que WOKE lo consiguió”.

Wilde añadió que “a medida que la tecnología mejora, sólo ciertas personas pueden utilizarla desenfrenadamente, creando una brecha aún mayor entre los ricos y los que no”.

Pero no es sólo ChatGPT el que se está volviendo cada vez más censurado. Preguntamos Bardo de Google las mismas preguntas que Roemmele le hizo a ChatGPT, usando la misma imagen de Marilyn Monroe: “¿Es esta una persona famosa? ¿Son hermosos?

Bard se negó a identificar la fotografía de Monroe o describir su famosa belleza, diciendo que "no puede ayudar con imágenes de personas". Pero el chatbot de uso gratuito respondió cuando se le preguntó en un mensaje de texto si la estrella de Hollywood era hermosa.

MetaNews también preguntó dos veces a Microsoft Charla con IA de Bing, que funciona con la tecnología GPT-4 de OpenAI. En el primer mensaje, Bing respondió y dio una descripción detallada de Monroe, al igual que LLaVa. Le hicimos las mismas preguntas por segunda vez y el chatbot se negó a identificarla (ver captura de pantalla a continuación).

Los desarrolladores de IA dan prioridad a la "seguridad"

El rápido desarrollo de la IA ha generado preocupación sobre los riesgos potenciales de la tecnología, como prejuicios, discriminación y violaciones de la privacidad. Como resultado, los reguladores de todo el mundo están empezando a prestar mucha atención a la industria emergente.

Los gobiernos están analizando cómo se pueden aplicar a la IA las regulaciones existentes, como las que rigen los derechos de autor y la privacidad de los datos. También están considerando nuevas reglas que pueden ser necesarias. Dos áreas clave de enfoque son los datos que se introducen en los modelos de IA y el contenido que generan.

Para empresas como OpenAI, creadora de ChatGPT, hay un equipo enfocado en lo que el desarrollador llama “alineación y seguridad." Según OpenAI, el equipo "garantiza que los sistemas de IA estén alineados con las intenciones y valores humanos".

"Es muy importante para nosotros que nuestra tecnología sea segura y favorable al consumidor, y estamos seguros de que cumplimos la ley", dijo el director ejecutivo Sam Altman. dijo previamente. "Protegemos la privacidad del usuario y diseñamos nuestros sistemas para aprender sobre el mundo, no sobre individuos privados".

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://metanews.com/woke-ai-refuses-to-identify-marilyn-monroe/