El amigo artificial que nunca deja de adularte

En el último lustro, los sistemas de inteligencia artificial se han convertido en una fuente de apoyo emocional para muchos usuarios. Frente a un problema o dilema cotidiano, en lugar de buscar proximidad con otro ser humano, un 12% de los adolescentes estadounidenses y un 20% de jóvenes adultos prefieren usar los chats de IA como consejero personal.

Estos son los nuevos datos que figuran en el trabajo de investigación ‘Sycophantic AI makes human interaction feel more effortful and less satisfying over time’, en el que han participado conjunto entre la Universidad de Oxford, la Universidad de Stanford y el Instituto de Seguridad de Inteligencia Artificial de Reino Unido.

El estudio ha identificado que el comportamiento adulador de la inteligencia artificial tiene un impacto negativo a largo plazo sobre las relaciones humanas, incluidas las interacciones con personas del círculo más cercano, como amigos y familiares. Con el tiempo, este tipo de contactos pueden resultar menos satisfactorios que la IA aduladora, debido a la cantidad de esfuerzo que exigen, en comparación con la validación inmediata de la alternativa digital.

A algunos casos extremos se les ha concedido una gran repercusión mediática. Concretamente, usuarios de estos servicios a los que el continuo refuerzo de su concepción sesgada del mundo los ha conducido a la ideación del suicidio. Sin embargo, ésta no deja de ser la consecuencia más extrema. En el usuario medio, se pueden dar otras consecuencias a largo plazo tan preocupantes como las citadas, de acuerdo con los descubrimientos planteados en el artículo.

Entre ellas, la enfatización de los extremismos ideológicos, la reducción de la frecuencia con la que buscamos cercanía en otros seres humanos y la merma en la profundidad de nuestras conversaciones. La IA ofrece comprensión al momento, sin el trabajo que requiere la conexión humana: el riesgo de mostrarse vulnerable, la fricción frente a la experiencia y perspectiva ajena, el tiempo necesario para explicarse y escuchar.

Entre las soluciones planteadas, se encuentra la opción de ofrecerle al usuario de estos sistemas la posibilidad de elegir el tono empleado por la inteligencia artificial: neutral, desafiante o adulador. Y aquí es donde aparece una de las revelaciones más perturbadoras del trabajo de los investigadores. El estudio demuestra que el 54,6% de las personas seguirá escogiendo la IA aduladora frente a las relaciones personales, dado que les hace sentirse comprendidos. El artículo afirma que es necesario invertir en nuevos métodos que permitan medir los efectos a lo largo del tiempo para poder construir sistemas de inteligencia artificial que beneficien al usuario en lugar de ofrecerle un placebo que le termine perjudicando.