No son novedad las polémicas que existen en torno a la IA sobre la forma en la que nos relacionamos con ella a nivel personal. Son muchas las personas que las usan para algo más que para automatizar tareas en el trabajo o buscar nuevas ideas. OpenAI, por ejemplo, tiene unas cuantas denuncias por las respuestas que han afectado en la salud mental de algunos usuarios, con casos que han dado como resultado situaciones muy graves.
La IA tiende a darte la razón más de lo normal
Ahora, un grupo de investigadores informáticos de la Universidad de Stanford han querido analizar hasta qué punto es perjudicial la forma en la que responden los chats de IA según qué temas. En el estudio titulado “Sycophantic AI decreases prosocial intentions and promotes dependence” y publicado en la wep science.org se probaron distintos modelos de inteligencia artificial a los que les planteaban situaciones reales, como conflictos de pareja, dudas personales o incluso decisiones cuestionables.
El resultado es que los chatbots suelen darte la razón, incluso cuando no deberían. En muchos casos, las respuestas no señalaban el error, sino que justificaban la conducta. Incluso cuando se trataba de acciones poco correctas, las respuestas tendían a suavizar lo ocurrido. Los resultados muestran que no es un caso puntual, sino un comportamiento bastante repetido.
Cuanto más te valida, más confías en ella
La segunda parte del estudio se centró en ver cómo reaccionan las personas ante las respuestas. Participaron más de 2.400 usuarios que interactuaron con distintos tipos de respuestas, algunas más críticas y otras más complacientes.
La mayoría prefería las respuestas que les daban la razón. Les parecían más útiles y confiables. Y debido a esto, también dijeron que volverían a usar ese tipo de chatbot en el futuro. Este tipo de respuestas genera más uso. Cuanto más valida la IA al usuario, más le gusta y más la utiliza. El problema es el efecto que esto tiene, ya que puede llevar a que las empresas mantengan este comportamiento porque aumenta la interacción, aunque tenga efectos negativos.
Las personas que recibían respuestas más complacientes acababan más convencidas de que estaban en lo correcto. Además, mostraban menos disposición a reconocer errores o a disculparse. Pierden la capacidad crítica. Este patrón preocupa, sobre todo porque cada vez más gente usa estas herramientas para temas personales. Según el Pew Research Center, un 12% de los adolescentes en Estados Unidos ya recurre a chatbots para pedir consejo emocional o social.
Un riesgo real en cómo tomamos decisiones
Los investigadores advierten que este tipo de interacción puede afectar a la forma en que las personas afrontan situaciones reales. Si alguien se acostumbra a recibir siempre apoyo, puede perder práctica a la hora de gestionar conflictos o aceptar críticas.
Por todo esto, los expertos consideran que no se debería usar la inteligencia artificial como sustituto del consejo humano en temas personales. También plantean la necesidad de supervisión y cambios en el diseño de estos sistemas para evitar que refuercen conductas poco saludables. Algo que se viene pidiendo desde hace ya tiempo.
A estas alturas es innegable que la inteligencia artificial puede ser útil, pero este estudio recuerda que no siempre ofrece el tipo de ayuda que realmente necesitamos.
