Crédito: Dominio público de Pixabay/CC0
Parece que no importa el tema de la conversación, la opinión en línea a su alrededor se dividirá en dos campamentos aparentemente irreconciliables.
Eso es en gran parte el resultado del diseño de las plataformas de redes sociales, ya que los algoritmos los llevan directamente a los usuarios a compañeros de ideas afines. Esto crea comunidades en línea que fácilmente se convierten en cámaras de eco, exacerbando la polarización.
Las propias vulnerabilidades de las plataformas a la manipulación externa los convierten en objetivos tentadores para los actores maliciosos que esperan sembrar discordias e inquietantes sociedades.
Un artículo reciente de los investigadores de Concordia publicado en la revista IEEE Xplore describe un nuevo método para facilitar esto. El enfoque utiliza el aprendizaje de refuerzo para determinar qué cuenta de redes sociales del usuario pirateada está mejor ubicada para maximizar la polarización en línea con la menor cantidad de orientación.
“Utilizamos la teoría de sistemas para modelar la dinámica de opinión de la psicología que se ha desarrollado en los últimos 20 años”, dice Rastko Selmic, profesor en el Departamento de Ingeniería Eléctrica e Informática de la Escuela de Ingeniería e Informática de Gina Cody y coautor del artículo.
“La novedad se produce en el uso de estos modelos para grandes grupos de personas y la aplicación de inteligencia artificial (IA) para decidir dónde posicionar bots, estos agentes adversos automatizados, y desarrollar el método de optimización”.
El autor principal del documento, Ph.D. El candidato Mohamed Zareer explica que el objetivo de esta investigación es mejorar los mecanismos de detección y resaltar las vulnerabilidades en las redes sociales.
Un poco de datos puede hacer mucho daño
Los investigadores utilizaron datos de aproximadamente cuatro millones de cuentas en la red de redes sociales Twitter (ahora X) que habían sido identificadas como opiniones sobre el tema de las vacunas y la vacunación.
Crearon agentes adversos que utilizaron una técnica llamada Double Deep Q-Learning. Este enfoque de aprendizaje de refuerzo permite a los bots realizar tareas complejas basadas en recompensas en entornos complejos como una red de redes sociales con relativamente poca supervisión de programadores humanos.
“Diseñamos nuestra investigación para ser simple y tener el mayor impacto posible”, dice Zareer.
En su modelo, los agentes adversos solo tendrían dos piezas de información: las opiniones actuales del propietario de la cuenta y el número de seguidores. Los investigadores aplicaron su algoritmo a tres modelos probabilísticos que los ejecutaban a través de redes sintéticas de 20 agentes, lo que según ellos hace que los resultados sean representativos y generalizables.
Estos y otros experimentos imitan amenazas reales como bots o campañas de desinformación coordinadas. Confirman la efectividad en la intensificación de la polarización y la creación de desacuerdos en las redes sociales.
Los investigadores esperan que su trabajo influya en los responsables políticos y a los propietarios de la plataforma para desarrollar nuevas salvaguardas contra la manipulación maliciosa por parte de agentes maliciosos y promover la transparencia y el uso ético de la IA.
Más información: Mohamed N. Zareer et al, Maximizando el desacuerdo y la polarización en las redes sociales utilizando Double Deep Q-Learning, 2024 IEEE International Conference on Systems, Man y Cybernetics (SMC) (2025). Doi: 10.1109/smc54092.2024.10831299
Proporcionado por la Universidad de Concordia
Cita: Las redes sociales son vulnerables a la manipulación y polarización de IA relativamente simple (2025, 15 de abril) recuperadas el 15 de abril de 2025 de https://techxplore.com/news/2025-04-social-networks-vulnerable-simple-ai.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
