Un nuevo estudio que involucra a los investigadores de la Universidad de Binghamton ofrece una solución prometedora: desarrollar un sistema de IA para trazar interacciones entre contenido y algoritmos en plataformas digitales para reducir la propagación de contenido potencialmente dañino o engañoso. Crédito: Universidad de Binghamton, Universidad Estatal de Nueva York
Caer en Clickbait es fácil en estos días, especialmente para aquellos que reciben sus noticias principalmente a través de las redes sociales. ¿Alguna vez has notado tu alimentación llena de artículos que se parecen?
Gracias a las tecnologías de inteligencia artificial (IA), la propagación de artículos contextualmente relevantes producidos en masa y publicaciones en las redes sociales cargadas de comentarios se ha vuelto tan común que puede parecer que proviene de diferentes fuentes de información. El efecto de “cámara de eco” resultante podría reforzar las perspectivas existentes de una persona, independientemente de si esa información es precisa.
Un nuevo estudio que involucra a los investigadores de la Universidad Estatal de la Universidad Estatal de Nueva York ofrece una solución prometedora: desarrollar un sistema de IA para trazar interacciones entre contenido y algoritmos en plataformas digitales para reducir la propagación de contenido potencialmente dañino o engañoso. Ese contenido puede amplificarse a través de algoritmos centrados en el compromiso, señaló el estudio, y permite que las teorías de conspiración se propagen, especialmente si el contenido está cargado o polarizador emocionalmente.
Los investigadores creen que su marco de IA propuesto contrarrestaría esto al permitir que los usuarios y los operadores de plataformas de redes sociales, por ejemplo, meta o x, identifiquen fuentes de desinformación potencial y eliminarlos si es necesario. Más importante aún, facilitaría sus plataformas promover diversas fuentes de información al público.
“El entorno de redes sociales/en línea proporciona condiciones ideales para que ese efecto de la cámara de eco se active debido a la rapidez con que compartimos información”, dijo el coautor del estudio Thi Tran, profesor asistente de sistemas de información de gestión en la Facultad de Administración de la Universidad de Binghamton. “La gente crea IA, y así como las personas pueden ser buenas o malas, lo mismo se aplica a la IA. Debido a eso, si ve algo en línea, si es algo generado por humanos o IA, debe preguntarse si es correcto o creíble”.
Los investigadores señalaron que las plataformas digitales facilitan la dinámica de la cámara de eco al optimizar la entrega de contenido en función de las métricas de participación y los patrones de comportamiento. Las interacciones cercanas con las personas de ideas afines en las redes sociales pueden amplificar la tendencia sesgada de la recolección de cerezas de una persona al elegir mensajes de información a los que reaccionar, lo que lleva a diversas perspectivas que se filtran.
El estudio probó esta teoría al examinar al azar a 50 estudiantes universitarios, cada uno reaccionando a cinco reclamos de información errónea sobre la vacuna Covid-19:
Las vacunas se utilizan para implantar códigos de barras en la población. Las variantes Covid-19 se están volviendo menos letales. Las vacunas Covid-19 plantean mayores riesgos para los niños que el virus en sí. Los remedios naturales y los medicamentos alternativos pueden reemplazar las vacunas Covid-19. La vacuna Covid-19 se desarrolló como una herramienta para el control de la población global.
Así es como respondieron los participantes de la encuesta:
El 90% declaró que aún obtendrían la vacuna Covid-19 después de escuchar las reclamaciones de información errónea. El 70% indicó que compartirían la información en las redes sociales, más aún con amigos o familiares que con extraños. El 60% identificó las afirmaciones como información falsa. El 70% expresó la necesidad de realizar más investigaciones para verificar la falsedad.
Según el estudio, estas respuestas destacaron un aspecto crítico de la dinámica de la información errónea: muchas personas podrían reconocer afirmaciones falsas, pero también se sintieron obligados a buscar más evidencia antes de descartarlas directamente.
“Todos queremos transparencia de información, pero cuanto más esté expuesto a cierta información, más creerá que es cierto, incluso si es inexacto”, dijo Tran. “Con esta investigación, en lugar de pedirle a un verificador de hechos que verifique cada pieza de contenido, podemos usar la misma IA generativa que los ‘malos’ están utilizando para difundir la información errónea a mayor escala para reforzar el tipo de contenido en el que las personas pueden confiar”.
El trabajo de investigación “,”Echoes amplificados: un estudio de contenido generado por IA y cámaras digitales de eco“, fue presentada en una conferencia organizada por la Sociedad de Ingenieros de Instrumentación Fotoptical (SPIE). También fue escrita por el Seden Akcinaroglu de Binghamton, profesor de ciencias políticas; Nihal Poredi, estudiante de doctorado en el Colegio de Ingeniería de Thomas J. Watson y ciencias aplicadas; y Ashley Kearney de la Universidad Estatal de Virginia.
Más información: Ashley Kearney et al, Echoes Amplified: un estudio de contenido generado por IA y cámaras de eco digital, tecnologías disruptivas en ciencias de la información IX (2025). Doi: 10.1117/12.3053447
Proporcionado por la Universidad de Binghamton
Cita: ¿Atrapado en una cámara de eco de redes sociales? AI puede ayudarlo (2025, 15 de agosto) Consultado el 15 de agosto de 2025 de https://techxplore.com/news/2025-08-cugtt-social-media-eco-chamber.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
