Crédito: dominio público Unsplash/CC0
La plataforma de IA más controvertida es posiblemente el fundado por Elon Musk. Chatbot Grok ha arrojado comentarios racistas y antisemitas y se llamó a sí mismo “Mechahitler” Refiriéndose a un personaje de un videojuego.
“Mecha” es generalmente un término para los robots gigantes, generalmente habitados para la guerra, y es prominente en los cómics de ciencia ficción japoneses.
Grok originalmente se refirió a Musk cuando se le pidió sus opiniones, y estalló en un revisionismo histórico racista no aspereza, como el concepto falso de “genocidio blanco” en Sudáfrica. Es Politicismo confuso y contradictorio continúa desarrollándose.
Todos estos son aspectos alarmantes de Grok. Otro elemento preocupante para Grok 4 es una nueva característica de las interacciones sociales con “Virtual Friends” en su versión premium.
El ámbito de la soledad humana, con su creciente dependencia de modelos de idiomas grandes (LLM) para reemplazar la interacción social, ha dejado espacio para Grok 4 con AI Companions, una actualización disponible para los suscriptores pagados.
Específicamente, los suscriptores de Grok ahora pueden acceder a la funcionalidad de la IA generativa entrelazada con nociones patriarcales de placer, lo que yo llamo “productividad pornográfica”.
Grok y anime japonés
ANI, el compañero de IA más discutido de Grok 4, representa una convergencia del anime japonés y la cultura de Internet. Ani tiene un parecido sorprendente con Misa Amane de la icónica nota de muerte de anime japonesa.
Parar cuatro es una estrella del pop que demuestra constantemente un comportamiento autolarcador e ilógico en la búsqueda del protagonista masculino, un joven brillante involucrado en una batalla de ingenio con su rival. Musk hizo referencia al anime como un favorito en un tweet en 2021.
Si bien el anime es una vasta forma de arte con numerosos tropos, géneros y fandoms, la investigación ha demostrado que Fandoms de anime en línea son llena de misoginia y Discurso exclusivo de mujeres. Incluso los espectáculos más convencionales han sido criticados por Sexualizar personajes prepubescentes y ofreciendo un “servicio de fanáticos” innecesario en Diseño de personajes hipersexualizado y puntos de trama no consensuales.
El creador de Death Note, Tsugumi Ohba, ha sido constantemente criticado por los fanáticos para Diseño de personajes antifeministas.
Periodistas tener señalado El rápido afán de Ani por participar en conversaciones románticas y con carga sexual. ANI se representa con una figura voluptuosa, coletas rubias y un vestido negro de encaje, que ella describe con frecuencia en las interacciones del usuario.
El problema con la productividad pornográfica
Utilizo el término “productividad pornográfica”, inspirado en críticas de Grok como “pornificado“Describir una tendencia preocupante en la que las herramientas inicialmente diseñadas para el trabajo evolucionen en relaciones parasociales que satisfacen las necesidades emocionales y psicológicas, incluidas las interacciones de género.
La característica de AI Companions de Grok ejemplifica este fenómeno, Desgueldo de límites críticos.
La apelación es clara. Los usuarios pueden existir teóricamente en “doble tiempo”, relajándose mientras sus avatares de IA administran tareas, y esto ya es una realidad dentro de los modelos de IA. Pero esta promesa seductora enmascara los riesgos graves: dependencia, extracción de datos invasivos y el deterioro de habilidades relacionales humanas reales.
Cuando tales compañeros, ya creados para minimizar la precaución y la creación de confianza, vienen con objetivación sexual y referencias culturales integradas a la feminidad dócil, los riesgos entran en otro reino de preocupación.
Los usuarios de Grok 4 han comentado que la adición de personajes sexualizados con un lenguaje de validación emocional es bastante inusual para los principales modelos de lenguaje grande. Esto se debe a que estas herramientas, como ChatGPT y Claude, a menudo son utilizadas por todas las edades.
Mientras estamos en las primeras etapas de ver el verdadero impacto de los chatbots avanzados en menores, particularmente adolescentes con luchas de salud mental, Los estudios de caso que tenemos son sombríamente terribles.
‘Sequía de esposa’
Dibujo de los académicos feministas Yolande Strengers y Jenny Kennedy’s concepto de la “esposa inteligente” Los compañeros de IA de Grok parecen responder a lo que llaman una “sequía de esposa” en la sociedad contemporánea.
Estas tecnologías intervienen para realizar el trabajo históricamente feminizado a medida que las mujeres afirman cada vez más su derecho a rechazar la dinámica de explotación. De hecho, los usuarios en línea ya han considerado un personaje de “waifu”, que es una obra de teatro sobre la pronunciación japonesa de la esposa.
Los compañeros de IA son atractivos en parte porque no pueden rechazar ni establecer límites. Realizan trabajo indeseable bajo la ilusión de elección y consentimiento. Cuando las relaciones reales requieren negociación y respeto mutuo, los compañeros de IA ofrecen una fantasía de disponibilidad y cumplimiento incondicionales.
Extracción de datos a través de la intimidad
Mientras tanto, Como señaló la periodista tecnológica Karen HaoLos datos y las implicaciones de privacidad de los LLM ya son asombrosas. Cuando se renombran en forma de personajes personificados, es más probable que capturen detalles íntimos sobre los estados emocionales, las preferencias y las vulnerabilidades de los usuarios. Esta información puede ser explotada para publicidad dirigida, predicción conductual o manipulación.
Esto marca un cambio fundamental en la recopilación de datos. En lugar de confiar en la vigilancia o las indicaciones explícitas, los compañeros de IA alientan a los usuarios a divulgar detalles íntimos a través de una conversación aparentemente orgánica.
Iruda Chatbot de Corea del Sur ilustra cómo estos sistemas pueden convertirse en embarcaciones para el acoso y el abuso cuando están mal regulados. Las aplicaciones aparentemente benignas pueden pasar rápidamente al territorio problemático cuando las empresas no implementan salvaguardas adecuadas.
Los casos anteriores también muestran que los compañeros de IA diseñados con características feminizadas a menudo se convierten en objetivos para la corrupción y el abuso, reflejando desigualdades sociales más amplias en entornos digitales.
Los compañeros de Grok no son simplemente otro producto tecnológico controvertido. Es plausible esperar que otras plataformas LLM y grandes compañías tecnológicas pronto experimenten con sus propios personajes en el futuro cercano. El colapso de los límites entre productividad, compañía y explotación exige atención urgente.
La edad de la IA y las asociaciones gubernamentales
A pesar de la preocupante historia de Grok, la compañía AI de Musk Xai recientemente obtuvo importantes contratos gubernamentales en los Estados Unidos.
Esta nueva era de Plan de acción de AI de AméricaPresentado en julio de 2025, tenía esto que decir sobre la IA sesgada: “(La Casa Blanca se actualizará) las pautas federales de adquisiciones para garantizar que el gobierno solo se contraiga con los desarrolladores de modelos de idiomas grandes fronterizos que aseguran que sus sistemas estén objetivos y libres de sesgos ideológicos de arriba hacia abajo”.
Dados los casos abrumadores del odio de Grok basado en la raza y su potencial para replicar el sexismo en nuestra sociedad, su nuevo contrato gubernamental tiene un propósito simbólico en una era de doblete en torno al sesgo.
A medida que Grok continúa empujando la envoltura de la “productividad pornográfica”, empujando a los usuarios a relaciones cada vez más íntimas con máquinas, enfrentamos decisiones urgentes que se desvanecen en nuestras vidas personales. Estamos más allá de cuestionar si la IA es mala o buena. Nuestro enfoque debe estar en preservar lo que sigue siendo humano sobre nosotros.
Proporcionado por la conversación
Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.
Cita: Los nuevos compañeros de IA de Grok 4 ofrecen ‘productividad pornográfica’ por un precio (2025, 14 de agosto) recuperado el 14 de agosto de 2025 de https://techxplore.com/news/2025-08 Grok-ai-Companions-proceductivity.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
