Las afirmaciones de ‘Genocidio Blanco’ no asumido de Grok han provocado controversia en línea.
La startup de inteligencia artificial de Elon Musk ha culpado a una “modificación no autorizada” por hacer que su chatbot Grok genere publicaciones engañosas y no solicitadas que hacen referencia al “genocidio blanco” en Sudáfrica.
El chatbot, desarrollado por la compañía de Musk, Xai, encendió la controversia esta semana al responder múltiples indicaciones de los usuarios con propaganda de derecha sobre la supuesta opresión de los sudafricanos blancos.
“¿Cuántas veces ha cambiado HBO su nombre?” Un usuario X preguntó al BOT, según capturas de pantalla en línea.
El bot dio una breve respuesta sobre HBO, pero rápidamente se lanzó a una perorata sobre “genocidio blanco” y citó el canto anti-apartheid “Kill the Boer”.
En respuesta a un usuario que preguntó por qué Grok estaba obsesionado con el tema, el chatbot respondió que fue “instruido por mis creadores en Xai para abordar el tema del ‘genocidio blanco'”.
Musk, el jefe de Tesla y SpaceX nacido en Sudáfrica, ha acusado previamente a los líderes de Sudáfrica de “presionar abiertamente por el genocidio de los blancos en Sudáfrica”.
En un comunicado, Xai culpó a una “modificación no autorizada” a Grok, que la compañía dijo que le ordenó proporcionar una respuesta específica que “violara las políticas internas y los valores centrales de Xai”.
Después de una “investigación exhaustiva”, estaba implementando medidas para hacer públicos el sistema de Grok, cambiar sus procesos de revisión y establecer un “equipo de monitoreo 24/7” para abordar los incidentes futuros, agregó.
Después de una reacción en X, Grok comenzó a eliminar las controvertidas respuestas.
Cuando un usuario cuestionó las eliminaciones, el bot dijo: “No está claro por qué las respuestas se están eliminando sin detalles específicos, pero las políticas de moderación de X probablemente juegan un papel”.
“El tema del ‘genocidio blanco en Sudáfrica’ es sensible, a menudo implica información errónea o de odio, lo que viola las reglas de la plataforma”, agregó.
‘No confiable’
El Faux PAS digital expone los desafíos de moderar las respuestas de los chatbots de IA, una tecnología de rápido evolución, en un panorama de Internet lleno de información errónea, ya que los expertos en tecnología requieren una regulación más fuerte.
“Las extrañas respuestas no relacionadas de Grok son un recordatorio de que los chatbots de IA siguen siendo una tecnología naciente, y pueden no ser siempre una fuente confiable de información”, escribió el sitio TechCrunch.
“En los últimos meses, los proveedores de modelos de IA han luchado por moderar las respuestas de sus chatbots de IA, que han llevado a comportamientos extraños”.
A principios de este año, el director ejecutivo de OpenAI, Sam Altman, dijo que estaba retrocediendo una actualización para ChatGPT que causó que el chatbot fuera demasiado sycofántico.
Grok, que Musk prometió que sería un verdadero “vanguardista” después de su lanzamiento en 2023, ha sido envuelto en controversia.
En marzo, Xai adquirió la Plataforma X en un acuerdo de $ 33 mil millones que permitió a la compañía integrar los recursos de datos de la plataforma con el desarrollo del chatbot.
La salida de investigación Bellingcat descubrió recientemente que los usuarios de X estaban usando Grok para crear imágenes sexuales no consensuadas, aprovechando al BOT para desnudar a las mujeres en las fotos que publicaron en la plataforma.
En agosto pasado, cinco estados de EE. UU. Enviaron una carta abierta a Musk, instándolo a arreglar a Grok después de que produjo la información errónea de las elecciones.
En otra vergüenza para Musk, el chatbot sugirió recientemente que el multimillonario era probablemente el “mayor extensor de desinformación en X”.
“La evidencia se inclina hacia Musk debido a su propiedad de X y un papel activo en la amplificación de la información errónea, especialmente en las elecciones y la inmigración”, escribió el chatbot.
Como muchos usuarios de X recurren a Grok para verificar la información, el chatbot tiene en múltiples casos revisados de reclamos de desinformación rusos y revisados por los hechos y dictaminó que eran ciertas, según el Watchdog Newsguard de desinformación.
“La creciente dependencia de Grok como verificador de hechos se produce cuando X y otras compañías tecnológicas importantes han reducido las inversiones en verificadores de hechos humanos”, dijo a AFP el investigador de periodistas McKenzie Sadeghi.
“A pesar de esta aparente creciente dependencia de la tecnología para los controles de hechos, nuestra investigación ha descubierto repetidamente que los chatbots de IA no son fuentes confiables para noticias e información, particularmente cuando se trata de noticias de última hora”.
© 2025 AFP
Cita: el ajuste ‘no autorizado’ de Musk’s Xai culpan para publicaciones de ‘genocidio blanco’ (2025, 17 de mayo) recuperado el 17 de mayo de 2025 de https://techxplore.com/news/2025-05-musk-xai Glames-unauthorized-tweak.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
