Los usuarios de las redes sociales confían cada vez más en los chatbots de IA para verificar la información.
El AI Chatbot Grok de Elon Musk produjo respuestas inexactas y contradictorias cuando los usuarios buscaron verificar el conflicto de Israel-Irán, dijo un estudio el martes, planteando nuevas dudas sobre su confiabilidad como una herramienta de desacreditación.
Con las plataformas tecnológicas que reducen su dependencia de los verificadores de hechos humanos, los usuarios están utilizando cada vez más chatbots propulsados por la IA, que incluye el Grok de Xai, en busca de información confiable, pero sus respuestas a menudo son propensas a la información errónea.
“La investigación sobre el desempeño de Grok durante los primeros días del conflicto de Israel-Irán expone fallas y limitaciones significativas en la capacidad de la IA Chatbot para proporcionar información precisa, confiable y consistente en tiempos de crisis”, dijo el estudio del Laboratorio de Investigación Forense Digital (DFRLAB) del Consejo Atlántico, un pensamiento estadounidense.
“Grok demostró que lucha por verificar hechos ya confirmados, analizar imágenes falsas y evitar afirmaciones sin fundamento”.
El DFRLAB analizó alrededor de 130,000 publicaciones en varios idiomas en la Plataforma X, donde está integrado el asistente de IA, para descubrir que Grok estaba “luchando por autenticar los medios generados por la IA”.
Tras las huelgas de represalia de Irán sobre Israel, Grok ofreció respuestas muy diferentes a indicaciones similares sobre un video generado por IA de un aeropuerto destruido que acumuló millones de vistas en X, encontró el estudio.
Osciló, a veces en el mismo minuto, entre negar la destrucción del aeropuerto y confirmando que había sido dañado por huelgas, según el estudio.
En algunas respuestas, Grok citó un misil lanzado por los rebeldes yemení como la fuente del daño. En otros, identificó erróneamente el aeropuerto generado por IA como uno en Beirut, Gaza o Teherán.
Cuando los usuarios compartieron otro video generado por la IA que representa edificios colapsando después de una supuesta huelga iraní en Tel Aviv, Grok respondió que parecía ser real, dijo el estudio.
El conflicto de Israel-Irán, que condujo a ataques aéreos estadounidenses contra el programa nuclear de Teherán durante el fin de semana, ha producido una avalancha de información errónea en línea que incluye videos generados por IA y visuales de guerra recicladas de otros conflictos.
Los chatbots de IA también amplificaron las falsedades.
A medida que la guerra de Israel-Irán se intensificó, las afirmaciones falsas se extendieron en las redes sociales de que China había enviado aviones de carga militar a Teherán para ofrecer su apoyo.
Cuando los usuarios preguntaron las cuentas X operadas de AI de la perplejidad y se convirtieron en su validez, ambos respondieron erróneamente que las afirmaciones eran ciertas, según la desinformación Watchdog Newsguard.
Los investigadores dicen que Grok ha cometido errores verificando información relacionada con crisis como el reciente conflicto de India-Pakistán y las protestas contra la inmigración en Los Ángeles.
El mes pasado, Grok estaba bajo un escrutinio renovado por insertar “genocidio blanco” en Sudáfrica, una teoría de la conspiración de extrema derecha, en consultas no relacionadas.
La startup de Musk Xai culpó a una “modificación no autorizada” por la respuesta no solicitada.
Musk, un multimillonario nacido en Sudáfrica, ha vendido previamente la infundada afirmación de que los líderes de Sudáfrica estaban “presionando abiertamente por el genocidio” de los blancos.
Musk mismo criticó a Grok después de que citó asuntos de los medios, un organismo de vigilancia de los medios liberales que ha atacado en múltiples demandas, como una fuente en algunas de sus respuestas sobre la información errónea.
“Qué vergüenza, Grok”, escribió Musk en X. “Tu abastecimiento es terrible”.
© 2025 AFP
Cita: Grok muestra ‘fallas’ en la guerra Israel-Iran: Estudio (2025, 25 de junio) Recuperado el 25 de junio de 2025 de https://techxplore.com/news/2025-06 Grok-Flaws-fact-israel-iran.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
