Los seres humanos que tenían conversaciones difíciles dijeron que confiaban en los sistemas artificialmente inteligentes (las sugerencias de respuesta "inteligentes" en los mensajes de texto) más que en las personas con las que estaban hablando, según un nuevo estudio, "AI as a Moral Crumple Zone: The Effects of Mediated AI Communication on Atribución y confianza ”, publicado en línea en la revista. Computers in Human Behavior.

“Descubrimos que cuando las cosas van mal, la gente asume la responsabilidad que de otro modo habría sido asignada a su compañero humano y asigna parte de eso al sistema de inteligencia artificial”, dijo Jess Hohenstein, estudiante de doctorado en el campo de las ciencias de la información y la primer autor del artículo. "Esto introduce el potencial de tomar la IA y usarla como mediador en nuestras conversaciones".

Por ejemplo, el algoritmo podría notar que las cosas van cuesta abajo al analizar el lenguaje utilizado y luego sugerir estrategias de resolución de conflictos, dijo Hohenstein.

El estudio fue un intento de explorar las innumerables formas, tanto sutiles como significativas, en las que los sistemas de inteligencia artificial, como las respuestas inteligentes, están alterando la forma en que interactúan los humanos. Elegir una respuesta sugerida que no es exactamente lo que pretendía decir, pero que le ahorra algo de escritura, podría alterar fundamentalmente el curso de sus conversaciones y sus relaciones, dijeron los investigadores.

"La comunicación es fundamental para la forma en que formamos las percepciones de los demás, cómo formamos y mantenemos relaciones, o cómo podemos lograr cualquier cosa trabajando juntos", dijo la coautora Malte Jung, profesora asistente de ciencia de la información y directora de la Laboratorio de Robots in Groups, que explora cómo los robots alteran la dinámica del grupo.

“Este estudio se enmarca dentro de la agenda más amplia de comprender cómo estos nuevos sistemas de IA interfieren con nuestra capacidad de interactuar”, dijo Jung. "A menudo pensamos en cómo el diseño de sistemas afecta la forma en que interactuamos con ellos, pero pocos estudios se centran en la cuestión de cómo las tecnologías que desarrollamos afectan la forma en que las personas interactúan entre sí".

Además de arrojar luz sobre cómo las personas perciben e interactúan con las computadoras, el estudio ofrece posibilidades para mejorar la comunicación humana, con una guía sutil y recordatorios de la IA.

Hohenstein y Jung dijeron que buscaron explorar si la IA podría funcionar como una "zona de deformación moral", el equivalente tecnológico de la zona de deformación de un automóvil, diseñada para deformarse para absorber el impacto del choque.

"Hay un mecanismo físico en la parte delantera del automóvil que está diseñado para absorber la fuerza del impacto y asumir la responsabilidad de minimizar los efectos del choque", dijo Hohenstein. "Aquí vemos que el sistema de inteligencia artificial absorbe parte de la responsabilidad moral".

La investigación fue apoyada en parte por la National Science Foundation.

Historia de Fuente:

Materiales proporcionada por Cornell University. Original escrito por Melanie Lefkowitz. Nota: El contenido puede ser editado por estilo y duración.