Las empresas de IA afirman trabajar para equipar a cada persona con un asistente de AI. Crédito: Matheus bertelli/Pexels, Cc por
Grok también es un Chatbot generativo de inteligencia artificial (Genai) por Xai Eso, según Elon Musk, es “La IA más inteligente del mundo“. La última actualización de Grok es ANI, una novia de anime con porno, recientemente unido por un novio informado por “Crepúsculo” y “50 Shades of Grey”.
Este verano, ambos Xai y Opadai lanzó versiones actualizadas de sus chatbots. Cada uno promocionó un rendimiento mejorado, pero más notablemente, nuevas personalidades. Xai introdujo ani; Operai lanzó un GPT-5 más frío por defecto con Cuatro personajes para reemplazar su modelo Sycophantic Sycophantic BPT-4O.
Similar a las afirmaciones hechas por Google DeepMind y AntrópicoAmbas compañías insisten en que están construyendo IA para “beneficiar a toda la humanidad” y “Avanzar en la comprensión humana. “Afirma antrópico, al menos retóricamente, Estar haciéndolo responsablemente. Pero sus opciones de diseño sugieren lo contrario.
En lugar de equipar a cada persona con un asistente de IA, un colaborador de investigación con Ph.D. Inteligencia de nivel—Ayos líderes de hoy han publicado sistemas de IA antropomorfizados que operan primero como amigos, amantes y terapeutas.
Como investigadores y expertos en política e impacto de la IA, argumentamos que lo que se vende como infraestructura científica se parece cada vez más a la ciencia ficción que salió mal. Estos chatbots no están diseñados como herramientas para el descubrimiento, sino como compañeros diseñados para fomentar enlaces para-sociales no recíprocos.
Humano/no humano
El problema central es antropomorfismo: La proyección de rasgos humanos en entidades no humanas. Como explica el científico cognitivo Pascal Boyer, nuestras mentes están sintonizadas para interpretar Incluso señales mínimas en términos sociales. Lo que una vez ayudó a la supervivencia de nuestros antepasados ahora alimenta a las compañías de IA por capturando las mentes de sus usuarios.
Cuando las máquinas hablan, gestan o simulan la emoción, desencadenan esos mismos instintos evolucionados de modo que, en lugar de reconocerla como una máquina, los usuarios lo perciben como un humano.
No obstante, las compañías de IA han presionado, construyendo sistemas que explotar estos sesgos. La justificación es que Esto hace que la interacción se sienta perfecta e intuitiva. Sin embargo, las consecuencias que resultado pueden representar el diseño antropomórfico engañoso y deshonesto.
Consecuencias del diseño antropomórfico
En su forma más suave, el diseño antropomórfico solicita a los usuarios que respondan como si hubiera otro humano al otro lado del intercambio, y puede ser tan simple como decir “gracias”.
Las apuestas se elevan cuando el antropomorfismo lleva a los usuarios a creer que el sistema es consciente: que siente dolor, recíproca el afecto o entiende sus problemas. Aunque una nueva investigación revela que es posible los criterios para la conciencia se puede cumplir en el futuroLas falsas atribuciones de la conciencia y la emoción han llevado a algunos resultados extremos, como los usuarios líderes para casarse con sus compañeros de IA.
Sin embargo, el diseño antropomórfico no siempre inspira el amor. Para otros ha llevado a autolesa o dañando a otros Después de formar archivos adjuntos poco saludables.
Algunos usuarios incluso se comportan como si la IA pudiera ser humillada o manipulada, arremetiendo de manera abusiva como si fuera un objetivo humano. Reconociendo esto, antrópico, La primera compañía en contratar a un experto en bienestar de IAle ha dado a sus modelos Claude el capacidad inusual para poner fin a tales conversaciones.
En este espectro, el diseño antropomórfico aleja a los usuarios de aprovechar las verdaderas capacidades de la IA, obligándonos a enfrentar la pregunta urgente de si el antropomorfismo constituye un defecto de diseño, o más críticamente, una crisis.
AI destropomorfizante
La solución obvia parece ser eliminar los sistemas de IA de su humanidad. El filósofo y científico cognitivo estadounidense Daniel Dennett argumentó que esto puede ser La única esperanza de la humanidad. Pero esta solución está lejos de ser simple porque la antropomorfización de estos sistemas ya ha llevado a los usuarios a formar archivos adjuntos emocionales profundos.
Cuando Operai reemplazó a GPT-4O con GPT-5 como el valor predeterminado en ChatGPT, Algunos usuarios expresaron angustia genuina y realmente lloró la pérdida de 4o. Sin embargo, lo que lloraron fue la pérdida de sus patrones de habla anteriores y la forma en que usó el lenguaje.
Esto es lo que hace que el antropomorfismo sea un modelo de diseño tan problemático. Como resultado de las impresionantes habilidades lingüísticas de estos sistemas, Los usuarios les atribuyen mentalidad— Y sus personajes de ingeniería explotan esto aún más.
En lugar de ver la máquina por lo que es, de manera implacable, competente pero no humana, los usuarios leen en sus patrones de habla. Mientras que el pionero de AI Geoffrey Hinton advierte que estos sistemas pueden ser peligrosamente competenteAlgo mucho más insidioso parece resultar del hecho de que estos sistemas están antropomorfizados.
Falla en el diseño
Las compañías de IA están atendiendo cada vez más a los deseos de compañía de IA de las personas, ya sean sexbot o terapeuta.
El antropomorfismo es lo que hace que estos sistemas sea peligroso hoy porque los humanos los han construido intencionalmente para imitarnos y explotar nuestros instintos. Si la conciencia de AI resulta imposible, estas opciones de diseño serán la causa del sufrimiento humano.
Pero en un mundo hipotético en el que la IA alcanza la conciencia, nuestra elección de forzarla a una mente en forma de humano, para nuestra propia conveniencia y entretenimiento, replicada en los centros de datos del mundo, puede inventar un tipo y escala completamente nuevo y completamente nuevo.
El verdadero peligro de la IA antropomórfica no es un futuro cercano o lejano donde las máquinas se hacen cargo. El peligro está aquí, ahora, y se esconde en la ilusión de que estos sistemas son como nosotros.
Este no es el modelo que “beneficiará a toda la humanidad” (como promete OpenAi) o “Ayúdanos a entender el universo“(Como afirma Elon Musk de Xai). En aras del bien social y científico, debemos resistir el diseño antropomórfico y comenzar el trabajo de la IA de antropomorfización.
Proporcionado por la conversación
Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.
Cita: El surgimiento de los chatbots en forma de humano le resta valor al desarrollo de la IA para el bien humano (2025, 26 de agosto) recuperado el 26 de agosto de 2025 de https://techxplore.com/news/2025-08-humanlike-chatbots-detracts-ai-human.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
