Si bien generalmente se entiende que los modelos de IA generativa son propensos a alucinando—es decir, inventar hechos y otra información desafiando la realidad—el ChatGPT, el buque insignia de OpenAI, sufrió un ataque particularmente generalizado de incoherencia en gran medida divertida el martes.
“ChatGPT aparentemente se está descarrilando en este momento y nadie puede explicar por qué”, usuario de Twitter Sean McGuire. escribí el martes por la noche en un tweet viral que recopila algunos de los ejemplos más extraños.
“Disparado por las olas del entorno fotográfico, acurrucando el producto muy profundamente como si fuera una niñera bajo un sombrero de color administrativo”, decía una respuesta confusa y plagada de errores tipográficos. El usuario respondió: "¿Estás sufriendo un derrame cerebral?"
Usando ChatGPT 4.0, McGuire compartió capturas de pantalla, incluida una de ChatGPT incluso reconociendo su error: "Parece que un problema técnico en mi mensaje anterior hizo que se repitiera y se desviara hacia una sección sin sentido", el chatbot dijo.
Los usuarios de Reddit en el subreddit r/ChatGPT también publicaron capturas de pantalla del galimatías que emana de ChatGPT.
“¿Alguna idea de qué causó esto?” Usuario de Reddit u/JustSquiggles publicado, compartiendo lo que sucedió cuando le pidieron a ChatGPT un sinónimo de "demasiado crecido". El chatbot respondió con un bucle de "un sinónimo de 'demasiado crecido' es 'demasiado crecido' es 'demasiado crecido' es", más de 30 veces antes de detenerse.
En otro ejemplo, el usuario de Reddit u/toreachtheapex mostró ChatGPT responder con un bucle de "y es" hasta que se llenó el campo de respuesta. El usuario deberá seleccionar "continuar generando" o iniciar una nueva conversación.
Según el usuario de Reddit u/Mr_Akihiro, el problema se extendió más allá de las respuestas basadas en texto. Cuando ellos incitado ChatGPT para generar una imagen de "un perro sentado en un campo", el generador de imágenes ChatGPT creó en su lugar una imagen de un gato sentado entre lo que parecía ser una imagen dividida de una casa y un campo de grano.
El problema estaba tan extendido que a las 6:30 p.m. EST, OpenAI comenzó a investigarlo. "Estamos investigando informes de respuestas inesperadas de ChatGPT", OpenAI página de estado dijo.
A las 6:47 pm ET, OpenAI dijo que había identificado el problema y estaba trabajando para solucionarlo.
"El problema ha sido identificado y se está solucionando ahora", decía el informe de estado de OpenAI, y agrega que el equipo de soporte continuaría monitoreando la situación.
Finalmente, una actualización de la red a las 11:14 am EST del miércoles dijo que ChatGPT había vuelto a "funcionar normalmente".
El fallo temporal es un útil recordatorio para los usuarios de herramientas de inteligencia artificial de que los modelos que las sustentan pueden cambiar sin previo aviso, convirtiendo a un compañero de escritura aparentemente sólido un día en un saboteador maníaco al siguiente.
Alucinaciones generados con modelos de lenguaje grandes (LLM) como ChatGPT se clasifican en tipos fácticos y fieles. Las alucinaciones fácticas contradicen hechos del mundo real, como nombrar al primer presidente de Estados Unidos.
Las alucinaciones fieles se desvían de las instrucciones o del contexto del usuario, lo que lleva a imprecisiones en áreas como las noticias o la historia, como en el caso del abogado defensor penal y profesor de derecho de EE. UU. Jonathan Turley, quien en abril de 2023 fue acusado de agresión sexual por ChatGPT.
OpenAI no respondió de inmediato a Descifrar de petición de comentario.
Editado por Andrew Hayward
Manténgase al tanto de las noticias criptográficas, obtenga actualizaciones diarias en su bandeja de entrada.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://decrypt.co/218434/chatgpt-off-rails-hallucinations-openai-fixed
