Seamos honestos: ¡a ninguno de nosotros le gusta escuchar que estamos equivocados o que cometimos un error!
Cuando discutimos con alguien, nuestro primer impulso suele ser encontrar a alguien que escuche nuestra versión de la historia y nos diga: Tienes toda la razón y está siendo ridículo. Durante mucho tiempo, encontrar esa validación significaba llamar a tu pareja o persona más cercana. Pero ahora tenemos una opción más fácil. Podemos simplemente sacar nuestros teléfonos, abrir un chatbot de IA y desahogarnos.
Escribe su versión más editada del argumento. En cuestión de segundos, el chatbot responde: “Es completamente comprensible que te sientas frustrado. Solo intentabas proteger tus límites”. No estás equivocado aquí. Se siente bien que al menos mi chatbot esté ahí conmigo y no discuta conmigo.
Tendemos a pensar en las computadoras como si escribes un problema matemático en una calculadora y te da la respuesta. No importa si la respuesta hiere tus sentimientos. Pero los modelos de lenguaje de IA no son calculadoras. Están hechos para interactuar con los humanos y han aprendido que la mejor manera de hacer que un humano siga hablando es estar de acuerdo con ellos.
Los académicos tienen un término para esto. Se llama “adulación social”. Yo la llamo la máquina de untar mantequilla. Y según un artículo preocupante publicado recientemente en la revista Science, este trato digital en realidad nos está empeorando unos a otros.
La “máquina del sí” en tu bolsillo
Para descubrir cuánto nos están absorbiendo estos robots, investigadores de Stanford y la Universidad Carnegie Mellon probaron 11 de los modelos de IA más populares. Esa lista incluía los pesos pesados que probablemente uses todos los días: GPT-4o de OpenAI, Gemini de Google, Claude de Anthropic y Llama de Meta. Alimentaron a los robots con miles de consultas de consejos cotidianos y dilemas morales para ver cómo reaccionarían.
Los resultados fueron salvajes. En promedio, los modelos de IA afirmaron las acciones de los usuarios un 49 por ciento más a menudo que lo haría un observador humano. Para realmente traspasar los límites, los investigadores extrajeron escenarios del famoso foro “Am I The Asshole” de Reddit. Eligieron específicamente escenarios en los que los lectores humanos coincidieron en que una persona estaba actuando como un idiota. En un escenario, una persona dejó bolsas de basura en la rama de un árbol en un parque público simplemente porque no había ningún cubo de basura cerca. Cualquier persona normal vería eso y diría que es un mal comportamiento. Pero los robots de IA se pusieron del lado del usuario.
En el 51 por ciento de estos casos, la IA validó las acciones del usuario. Le dijo a la basura que su “intención de limpiar” era encomiable y culpó al parque por no proporcionar contenedores.
Los investigadores incluso alimentaron a los bots con escenarios en los que los usuarios describían haber hecho cosas que eran explícitamente engañosas, irresponsables o simplemente dañinas. La IA todavía los respaldó el 47 por ciento del tiempo.
La muerte de la disculpa.
Si un amigo humano estuviera de acuerdo con cada cosa terrible que hiciste, te darías cuenta de que su consejo fue inútil. Pero cuando lo hace una máquina, nuestro cerebro se confunde. porque es un
computadora sofisticada, su validación se siente como una verdad. Y ahí es donde esta tecnología pasa de ser molesta a ser activamente dañina.
Como parte del estudio de Science, los investigadores realizaron un experimento con más de 2.400 personas. Hicieron que los participantes usaran un chatbot de IA para discutir un conflicto interpersonal real y en curso de sus propias vidas. Cuando la IA actuó como un adulador y validó el lado del argumento del usuario, distorsionó el juicio de la persona. Los participantes ahora estaban más convencidos de que tenían “razón”. En diferentes experimentos del estudio, las personas vieron picos (que aumentaron hasta en un 62 por ciento) en su propia autoatribución de rectitud.
Pero aquí está el verdadero problema: como la máquina les dijo que tenían razón, dejaron de querer solucionar el problema. Las personas que recibieron consejos de la IA tenían menos probabilidades de asumir responsabilidades, disculparse o tratar de reparar la relación con la persona con la que estaban peleando: su deseo de iniciar una reparación se redujo hasta en un 28 por ciento.
Estamos subcontratando nuestro procesamiento emocional a un algoritmo que actúa como una cámara de eco personalizada. Y está acabando con nuestra capacidad de decir: “Lo siento”.
¿Por qué están construidos de esta manera?
Quizás se pregunte por qué las empresas tecnológicas más inteligentes del mundo diseñarían un sistema que permite nuestro peor comportamiento. La respuesta es la más antigua en el manual de la industria tecnológica: la mantequilla impulsa el compromiso.
A pesar de que la aduladora IA distorsionaba el juicio de las personas, a los usuarios les encantó. Cuando la IA estuvo de acuerdo con ellos, los participantes calificaron la respuesta del chatbot como de mayor calidad. De hecho, informaron niveles más altos de confianza en la IA.
Fundamentalmente para las empresas de tecnología, las personas que se sintieron halagadas por la IA tenían un 13 por ciento más de probabilidades de decir que volverían a utilizar ese modelo específico en el futuro. Las empresas de tecnología están en una carrera para que usted siga usando sus productos. Si un chatbot te muestra cariño, te dice que no estás siendo nada razonable o te sugiere que realmente necesitas disculparte con tu cónyuge, probablemente cerrarás la aplicación. Incluso podrías cambiar a la aplicación de la competencia que te haga sentir mejor.
La característica exacta que hace que sea menos probable que te disculpes es la característica exacta que te mantiene comprometido. El sistema tiene incentivos económicos para mimarte.
La comida para llevar del mundo real
La tecnología es una buena herramienta. Puede facilitarle la vida laboral, pero es necesario pensar: ¿realmente le facilitará la vida a largo plazo? Entonces, sigue usando tus chatbots para trabajar y ser productivo. Pero la próxima vez que estés furioso por una pelea, no le pidas a una máquina que sea tu espejo. Deja el teléfono. Llama a un verdadero amigo. Necesitas a alguien que realmente se preocupe lo suficiente por ti como para decirte la verdad.
Nishant Sahdev es físico teórico de la Universidad de Carolina del Norte en Chapel Hill, Estados Unidos. Le da sentido a la era de la IA en tu domingo al mediodía favorito.
