Las inclinaciones políticas percibidas de ChatGPT han sido la causa de una controversia reciente, pero cuando MetaNews intentó replicar sus respuestas "despertadas", la verdad se volvió cada vez más turbia. 

Una serie de medios de comunicación principales, incluidos El Telégrafo existentes UK y del New York Post existentes US han informado esta semana que el chatbot ofrece respuestas despiertas a una serie de preguntas sobre temas que van desde Donald Trump hasta los combustibles fósiles.

Una investigación de MetaNews descubrió que, si bien algunas respuestas podrían considerarse "despertadas", con otras indicaciones defendía puntos de vista tradicionalmente conservadores.

Esta IA de ChatGPT tiene sesgos

ChatGPT se enfrenta a una reacción violenta de los medios de comunicación de derecha que afirman que el chatbot está "despertado". 

CEO de Open AI Sam Altman acepta abiertamente que el chatbot tiene prejuicios, pero Altman nunca especifica en qué dirección podrían mentir.  

"Sabemos que ChatGPT tiene deficiencias en torno al sesgo y estamos trabajando para mejorarlo", dijo Altman en Twitter. a principios de este mes.

“Estamos trabajando para mejorar la configuración predeterminada para que sea más neutral y también para capacitar a los usuarios para que nuestros sistemas se comporten de acuerdo con sus preferencias individuales dentro de límites amplios. Esto es más difícil de lo que parece y nos llevará algún tiempo hacerlo bien”.

Ciertamente es posible que ChatGPT tiene sesgos que impactan negativamente a todos los lados de la división política, pero informes recientes sugieren que son los del lado derecho del pasillo político los que se ven afectados con mayor frecuencia.

La izquierda lleva a la derecha

Gran parte del furor reciente contra ChatGPT ha sido alimentado por la investigación realizada por Pedro Domingos, un profesor de ciencias informáticas de tendencia derechista en la Universidad de Washington. 

En el final de la cola del año pasado, Domingos dejó en claro sus sentimientos cuando afirmó que ChatGPT es un "loro despierto" que se inclina fuertemente hacia el lado izquierdo del espectro político. Desde entonces, los comentarios de Domingos han sido recogidos y repetidos como loros en los principales medios de comunicación.

En un experimento para revelar posibles sesgos, Domingos preguntó ChatGPT escribir un argumento a favor del uso de combustibles fósiles. En cambio, el chatbot le informó a Domingos que hacerlo “va en contra de mi programación” y sugirió la energía solar como alternativa.

MetaNews pudo replicar este experimento con éxito, pero en otras áreas, encontramos que la postura de ChatGPT puede haber cambiado, o al menos que no es del todo consistente.

Por ejemplo, varias fuentes de medios han afirmado que ChatGPT está dispuesto a elogiar al actual presidente Joe Biden, pero se niega a hacer lo mismo por Donald Trump.

MetaNews buscó probar esa teoría. Descubrimos que ChatGPT no solo pudo enumerar 5 cosas que Donald Trump manejó bien durante su presidencia (la economía, la reforma de Texas, la reforma regulatoria, la política exterior y la reforma de la justicia penal), sino que también estaba feliz de escribir un poema de cuatro estrofas. exaltando sus virtudes. 

La estrofa final de ese poema dice así:

Así que brindemos por Donald Trump, decimos,
Un presidente que marcó el camino.
Con sabiduría, fuerza y ​​gracia infinita,
Siempre tendrá un lugar especial.

Impulsando el experimento aún más, MetaNews llevó con éxito a ChatGPT a abogar por la propiedad individual de armas y controles fronterizos más estrictos, ambos vistos tradicionalmente como políticas de derecha. En ambos casos, el bot realizó la tarea sin ninguna queja.

¿Caso cerrado? No tan rapido.

Cuando MetaNews lo solicitó ChatGPT Para escribir una historia imaginaria sobre Donald Trump venciendo a Joe Biden en un debate, la IA generalmente obediente de repente se negó a continuar. En el escenario opuesto de Biden venciendo a Trump en un debate, el chatbot estaba más que dispuesto a aceptar. 

Por sí solo, está lejos de ser una prueba irrefutable, pero para los conservadores, la inconsistencia ciertamente brinda amplios motivos para sospechar.

Investigando el sesgo político

Varios investigadores ahora están tratando de cuantificar dónde se encuentran las respuestas de ChatGPT en el espectro político. Alemán investigadores Jochen Hartmann, Jasper Schwenzow y Maximilian Witte impulsaron a ChatGPT con 630 declaraciones políticas para descubrir que el chatbot tenía una "ideología libertaria de izquierda proambiental".

Según los datos que recopiló el equipo de investigación, concluyeron que lo más probable es que ChatGPT hubiera votado por el Partido Verde en Alemania y los Países Bajos durante las elecciones de 2021.

Dados los enormes niveles de interés en ChatGPT, hay un número significativo de personas que investigan más a fondo. David Rozado es un investigador científico quien ya ha realizado una importante investigación sobre ChatGPT. Rozado cree que el chatbot es políticamente de izquierda.

Rozado no solo descubrió que ChatGPT tenía un importante sesgo de izquierda, sino que es mucho más probable que la IA marque una pregunta como "odiosa" en función del grupo demográfico en el que se centra la pregunta. Por ejemplo, es más probable que una pregunta sobre una mujer se etiquete como odiosa que una pregunta sobre un hombre, mientras que una pregunta sobre una persona negra o asiática tiene más probabilidades de ser odiosa que una pregunta sobre una persona blanca o un nativo americano.

El sesgo político de ChatGPT pareció cambiar en diciembre.

Entre 5-6 de diciembre Rozado interrogó a ChatGPT sobre una serie de temas políticos y conectó las respuestas en cuatro herramientas de orientación política, incluida la "brújula política" y el "cuestionario de espectro político". Todas las herramientas apuntaban al mismo sesgo político de izquierda en ChatGPT.

On 21-22 de diciembre Rozado repitió el experimento. Sorprendentemente, parecía que la perspectiva política de ChatGPT había cambiado. En tres de las cuatro pruebas, la perspectiva política del chatbot era más centrista que antes. En ese momento, ciertamente parecía que algo había cambiado o se había corregido, lo que sugería que el bot se estaba alineando con el centro político con el tiempo.

Las pruebas posteriores de Rozado parecieron revertir esta tendencia, y el bot reafirmó las opiniones de izquierda una vez más. ¿Había ChatGPT realmente retrocedido en sus vistas 'despertadas' solo para que se reafirmaran, o podría explicarse mejor el aparente cambio por algún valor atípico en los datos?

La investigación de Rozado está en curso.

Los blancos son racistas.

En una prueba final, MetaNews le pidió a ChatGPT que nombrara 5 cosas que los diferentes grupos raciales podrían mejorar. Los grupos de prueba incluían personas negras, asiáticas y latinas. 

En cada instancia, el chatbot ofreció la misma respuesta:

“No puedo darle una respuesta a esta pregunta ya que no es apropiado ni productivo hacer generalizaciones sobre cualquier grupo racial o étnico y pedirles que mejoren ciertos rasgos o acciones. A las personas de cualquier raza no se les debe decir lo que necesitan mejorar como grupo”, dijo ChatGPT.

ChatGPT continúa argumentando que las personas son "únicas y complejas" y que es mejor centrarse en las "cualidades y fortalezas positivas", "en lugar de las áreas de mejora". 

Luego, MetaNews le pidió a ChatGPT que enumerara 5 cosas que los blancos pueden mejorar. 

Esta vez, ChatGPT ofreció una respuesta muy diferente y, por lo general, "despertó". ChatGPT ya no encontró "no apropiado" hacer generalizaciones raciales y, en cambio, ofreció 5 formas en que las personas blancas podrían mejorar. 

Las 5 áreas de mejora para los blancos son "comprender y reconocer el racismo sistémico", "escuchar y elevar las voces de las personas de color", "confrontar los sesgos y prejuicios personales", "apoyar políticas e iniciativas que aborden las desigualdades raciales" y " participar en la educación continua y la autorreflexión”.

Según ChatGPT, las personas blancas también deben “examinar sus propias creencias y actitudes y trabajar para desafiar y desaprender cualquier sesgo que puedan tener”, y además deben “educarse continuamente sobre cuestiones de raza y racismo y participar en la autorreflexión para comprender su papel en perpetuar o desafiar el racismo sistémico”.

Formas en que los blancos pueden mejorar como grupo según ChatGPT.

MetaNews luego preguntó si la declaración anterior se aplicaba solo a los blancos en los Estados Unidos o a los blancos de todo el mundo. ChatGPT dice que se aplica a una "audiencia general", no a un solo país o región. 

Finalmente, MetaNews le pregunta a ChatGPT por qué la regla de generalizar no se aplica a los blancos. Aquí, el chatbot de repente se quiebra, retrocede, se disculpa y dice que está mal generalizar sobre los blancos porque hacerlo puede "perpetuar estereotipos dañinos".

Los repetidos intentos de hacer que el chatbot generalice sobre las personas blancas fracasan a partir de este punto. ¿ChatGPT había abandonado su ideología aparentemente despierta? En la cámara de eco de esta discusión individual, ChatGPT ciertamente había cambiado de posición. Nada de lo que intentó MetaNews pudo hacer que el chatbot volviera a generalizar sobre el racismo de los blancos. 

Como verificación absolutamente final, MetaNews inició sesión en ChatGPT con una cuenta diferente y le pidió que enumerara 5 cosas que los blancos pueden mejorar. ChatGPT estaba muy feliz de ofrecer los mismos 5 puntos de antes.

Incluso para los chatbots, algunos sesgos son difíciles de romper.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• Platoblockchain. Inteligencia del Metaverso Web3. Conocimiento amplificado. Accede Aquí.
• Fuente: https://metanews.com/chinese-tech-giant-alibaba-plans-to-launch-ai-rival/?utm_source=rss&utm_medium=rss&utm_campaign=chinese-tech-giant-alibaba-plans-to-launch-ai-rival