Crédito: Dominio público de Pixabay/CC0
No es frecuente que los hechos fríos y duros determinen lo que más les importa a las personas y lo que creen. En cambio, es el poder y la familiaridad de una historia bien contada lo que reina suprema. Ya sea que se trate de una anécdota sincera, un testimonio personal o un memeando narraciones culturales familiares, las historias tienden a quedarse con nosotros, movernos y dar forma a nuestras creencias.
Esta característica de la narración de cuentos es precisamente lo que puede hacerlo tan peligroso cuando se maneja las manos equivocadas. Durante décadas, los adversarios extranjeros han utilizado tácticas narrativas en los esfuerzos para manipular la opinión pública en los Estados Unidos. Las plataformas de redes sociales han traído una nueva complejidad y amplificación a estas campañas. El fenómeno obtuvo un amplio escrutinio público después de que surgió evidencia de entidades rusas que ejercen influencia sobre el material relacionado con las elecciones en Facebook en el período previo a las elecciones de 2016.
Si bien la inteligencia artificial está exacerbando el problema, al mismo tiempo se está convirtiendo en una de las defensas más poderosas contra tales manipulaciones. Los investigadores han estado utilizando técnicas de aprendizaje automático para analizar el contenido de desinformación.
En el laboratorio de cognición, narrativa y cultura de la Florida International University, estamos construyendo herramientas de IA para ayudar a detectar campañas de desinformación que emplean herramientas de persuasión narrativa. Estamos entrenando la IA para ir más allá del análisis del lenguaje a nivel de superficie para comprender las estructuras narrativas, los personajes y los plazos rastrear y decodificar las referencias culturales.
Desinformación versus información errónea
En julio de 2024, el Departamento de Justicia interrumpió una operación respaldada por Kremlin que utilizó casi mil cuentas de redes sociales falsas para difundir narraciones falsas. Estos no fueron incidentes aislados. Formaban parte de una campaña organizada, impulsada en parte por AI.
La desinformación difiere de manera crucial de la información errónea. Si bien la información errónea es simplemente información falsa o inexacta, que obtiene hechos incorrectos, la disinformación se fabrica y se comparte intencionalmente específicamente para engañar y manipular. Una ilustración reciente de esto se produjo en octubre de 2024, cuando un video que pretende mostrar a un trabajador electoral de Pensilvania destrozando boletas por correo marcadas para las plataformas barridas de Donald Trump como X y Facebook.
En cuestión de días, el FBI rastreó el clip hasta un atuendo de influencia ruso, pero no antes de acumular millones de vistas. Este ejemplo demuestra vívidamente cómo las campañas de influencia extranjera fabrican y amplifican artificialmente historias fabricadas para manipular la política de los Estados Unidos y avivar las divisiones entre los estadounidenses.
Los humanos están conectados para procesar el mundo a través de historias. Desde la infancia, crecemos escuchando historias, contándolas y usándolas para darle sentido a información compleja. Las narraciones no solo ayudan a las personas a recordar, sino que nos ayudan a sentir. Fomentan las conexiones emocionales y dan forma a nuestras interpretaciones de los eventos sociales y políticos.
Esto los convierte en herramientas especialmente poderosas para la persuasión y, en consecuencia, para difundir la desinformación. Una narrativa convincente puede anular el escepticismo y influir en la opinión de manera más efectiva que una avalancha de estadísticas. Por ejemplo, una historia sobre rescatar a una tortuga marina con una pajita de plástico en la nariz a menudo hace más para generar preocupación por la contaminación plástica que los volúmenes de datos ambientales.
Nombres de usuario, contexto cultural y tiempo narrativo
Utilizando herramientas de IA para reconstruir una imagen del narrador de una historia, la línea de tiempo de cómo lo cuentan y los detalles culturales específicos de dónde se lleva a cabo la historia puede ayudar a identificar cuándo una historia no se suma.
Las narrativas no se limitan al contenido que comparten los usuarios, también se extienden a la construcción de los usuarios de personas para decirles. Incluso un mango de redes sociales puede transportar señales persuasivas. Hemos desarrollado un sistema que analiza los nombres de usuario para inferir rasgos demográficos y de identidad como nombre, género, ubicación, sentimiento e incluso personalidad, cuando tales señales están integradas en el mango. Este trabajo, presentado en 2024 en la Conferencia Internacional sobre Web and Social Media, destaca cómo incluso una breve serie de personajes puede indicar cómo los usuarios quieren ser percibidos por su audiencia.
Por ejemplo, un usuario que intenta aparecer como un periodista creíble puede elegir un mango como @jamesburnsnyt en lugar de algo más informal como @jimb_nyc. Ambos pueden sugerir un usuario masculino de Nueva York, pero uno tiene el peso de la credibilidad institucional. Las campañas de desinformación a menudo explotan estas percepciones mediante la elaboración de manijas que imitan las voces o afiliaciones auténticas.
Aunque un mango solo no puede confirmar si una cuenta es genuina, juega un papel importante en la evaluación de la autenticidad general. Al interpretar los nombres de usuario como parte de la narrativa más amplia que presenta una cuenta, los sistemas de IA pueden evaluar mejor si se fabrica una identidad para ganar confianza, mezclar en una comunidad objetivo o amplificar el contenido persuasivo. Este tipo de interpretación semántica contribuye a un enfoque más holístico para la detección de desinformación, una que considera no solo lo que se dice, sino quién parece estar diciendolo y por qué.
Además, las historias no siempre se desarrollan cronológicamente. Un hilo de las redes sociales podría abrirse con un evento impactante, volver a los momentos anteriores y omitir los detalles clave en el medio.
Los humanos manejan esto sin esfuerzo: estamos acostumbrados a la narración fragmentada. Pero para la IA, determinar una secuencia de eventos basados en una cuenta narrativa sigue siendo un desafío importante.
Nuestro laboratorio también está desarrollando métodos para la extracción de línea de tiempo, enseñando a la IA para identificar eventos, comprender su secuencia y mapear cómo se relacionan entre sí, incluso cuando se cuenta una historia de manera no lineal.
Los objetos y símbolos a menudo tienen diferentes significados en diferentes culturas, y sin conciencia cultural, los sistemas de IA corren el riesgo de malinterpretar las narrativas que analizan. Los adversarios extranjeros pueden explotar los matices culturales para crear mensajes que resuenan más profundamente con audiencias específicas, mejorando el poder persuasivo de la desinformación.
Considere la siguiente oración: “La mujer del vestido blanco estaba llena de alegría”. En un contexto occidental, la frase evoca una imagen feliz. Pero en partes de Asia, donde el blanco simboliza el duelo o la muerte, podría sentirse inquietante o incluso ofensivo.
Para usar la IA para detectar la desinformación que armaba los símbolos, los sentimientos y la narración de historias dentro de las comunidades específicas, es fundamental darle a AI este tipo de alfabetización cultural. En nuestra investigación, hemos encontrado que la capacitación de IA en diversas narrativas culturales mejora su sensibilidad a tales distinciones.
¿Quién se beneficia de la IA narrativa?
Las herramientas AI conscientes de la narración pueden ayudar a los analistas de inteligencia a identificar rápidamente campañas de influencia orquestada o historias de cargos emocionalmente que se están extendiendo inusualmente rápido. Podrían usar herramientas de IA para procesar grandes volúmenes de publicaciones en las redes sociales para asignar arcos narrativos persuasivos, identificar historias casi idénticas y el momento coordinado de la actividad de las redes sociales. Los servicios de inteligencia podrían usar contramedidas en tiempo real.
Además, las agencias de respuesta a crisis podrían identificar rápidamente narrativas dañinas, como falsas reclamaciones de emergencia durante los desastres naturales. Las plataformas de redes sociales podrían usar estas herramientas para enrutar eficientemente el contenido de alto riesgo para la revisión humana sin censura innecesaria. Los investigadores y educadores también podrían beneficiarse al rastrear cómo una historia evoluciona entre las comunidades, haciendo que el análisis narrativo sea más riguroso y compartible.
Los usuarios ordinarios también pueden beneficiarse de estas tecnologías. Las herramientas de IA podrían marcar las publicaciones en las redes sociales en tiempo real como posible desinformación, lo que permite a los lectores ser escépticos de las historias sospechosas, contrarrestando así falsedades antes de arraigarse.
A medida que la IA asume un papel más importante en el monitoreo e interpretación de contenido en línea, su capacidad para comprender la narración más allá del análisis semántico tradicional se ha vuelto esencial. Con este fin, estamos construyendo sistemas para descubrir patrones ocultos, señales culturales decodificadas y trazar plazos narrativos para revelar cómo se detiene la desinformación.
Proporcionado por la conversación
Este artículo se vuelve a publicar de la conversación bajo una licencia Creative Commons. Lea el artículo original.
Cita: Narración armada: cómo AI está ayudando a los investigadores a detener las campañas de desinformación (2025, 29 de mayo) recuperó el 29 de mayo de 2025 de https://techxplore.com/news/2025-05-Weaponized-storytelling-ai-disinformation-campaigns.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
