Crédito: imagen generada por IA
En una de las primeras comunicaciones de su tipo, el Servicio de incendios forestales de Columbia Británica ha emitido una advertencia a los residentes sobre viral, Imágenes falsas de incendio forestal generado por IA circulando en línea. A juzgar por Comentarios hechos por los espectadores en las redes socialesAlgunas personas no se dieron cuenta de que las imágenes no eran auténticas.
A medida que las herramientas generativas de IA más avanzadas (Genai) se vuelvan accesibles libremente, estos incidentes aumentarán. Durante las emergencias, cuando las personas están estresadas y necesitan información confiable, dicha desinformación digital puede causar un daño significativo al difundir la confusión y el pánico.
Esta vulnerabilidad a la desinformación proviene de la dependencia de las personas de atajos mentales durante los tiempos estresantes; Esto facilita la propagación y aceptación de la desinformación. El contenido que está emocionalmente cargado y sensacional a menudo capta más atención y se comparte con más frecuencia en las redes sociales.
Según nuestra investigación y experiencia en respuesta y gestión de emergencias, la información errónea generada por IA durante las emergencias puede causar daños reales al interrumpir los esfuerzos de respuesta a desastres.
Desinformación circulante
Las motivaciones de las personas para crear, compartir y aceptar la desinformación durante las emergencias son complejas y diversas. Algunas personas pueden generar y difundir desinformación por varias razones. Teoría de la autodeterminación Clasifica las motivaciones como intrínsecas, relacionadas con el interés inherente o el disfrute de la creación y el intercambio, y extrínsecos, que implican resultados como ganancia financiera o publicidad.
La creación de desinformación puede estar motivada por varios factores. Estos incluyen ganancia política, comercial o personal, prestigio, creenciadisfrute y el deseo de dañar y siembra la discordia.
Las personas pueden difundir la desinformación porque perciben que es importante, han reducido la capacidad de toma de decisiones, desconfían de otras fuentes de información o porque quieren ayudar, encajar, entretener a otros o autopromotear.
Por otro lado, aceptar la desinformación puede verse influenciado por un Capacidad reducida para analizar información, afiliaciones políticas, creencias fijas y fundamentalismo religioso.
Daños por desinformación
Los daños causados por la desinformación y la información errónea pueden tener diferentes niveles de gravedad y pueden clasificarse en daños directos, indirectos, a corto plazo y a largo plazo.
Estos pueden tomar muchas formas, incluyendo amenazar la vida de las personas, los ingresos, el sentido de las redes de seguridad y la seguridad.
Durante las emergencias, es fundamental tener acceso a información confiable sobre peligros y amenazas. La desinformación, combinada con una mala recopilación, procesamiento y comprensión de la información urgente, puede provocar bajas más directas y daños a la propiedad. La información errónea afecta desproporcionadamente poblaciones vulnerables.
Cuando las personas reciben información de riesgo y amenazas, generalmente la verifican a través de redes verticales (gobierno, agencias de gestión de emergencias y medios de comunicación acreditados) y horizontales (amigos, familiares y vecinos). Cuanta más compleja sea la información, más difícil y lento es el proceso de confirmación y validación.
Y a medida que Genai mejore, distinguir entre información real y generada por IA será más difícil y que consumen recursos.
Desinformación de desinformación
La desinformación puede interrumpir las comunicaciones de emergencia. Durante las emergencias, la comunicación clara juega un papel importante en Seguridad y seguridad pública. En estas situaciones, cómo las personas procesan la información depende de cuánta información tienen, su conocimiento existente, respuestas emocionales al riesgo y su capacidad para recopilar información.
La desinformación intensifica la necesidad de diversos canales de comunicación, fuentes creíbles y mensajes claros.
Las fuentes oficiales son esenciales para la verificación, sin embargo, el creciente volumen de información hace que la verificación de la precisión sea cada vez más difícil. Durante la pandemia de Covid-19, por ejemplo, las agencias de salud pública marcaron la información errónea y la desinformación como preocupaciones importantes.
La información errónea digital circulada durante los desastres puede hacer que los recursos se asignen de manera incorrecta, el comportamiento y las acciones públicas conflictivas, y las respuestas de emergencia retrasadas. La información errónea también puede conducir a evacuaciones innecesarias o retrasadas.
En tales casos, los equipos de gestión de desastres deben sostener no solo la crisis, sino también con los desafíos secundarios creados por la información errónea.
Contrarrestar la desinformación
La investigación revela brechas considerables en las habilidades y estrategias que las agencias de gestión de emergencias utilizan contrarrestar la información errónea. Estas agencias deben centrarse en la detección, verificación y mitigación de la creación de desinformación, intercambio y aceptación.
Este complejo problema exige esfuerzos coordinados a través de la política, la tecnología y la participación pública:
Fomentar una cultura de conciencia crítica: la educación del público, particularmente las generaciones más jóvenes, sobre los peligros de la información errónea y el contenido generado por IA es esencial. Las campañas de alfabetización multimedia, los programas escolares y los talleres de la comunidad pueden equipar a las personas con las habilidades para cuestionar fuentes, verificar la información y reconocer la manipulación. Políticas claras para el contenido generado por IA en las noticias: establecer y hacer cumplir las políticas sobre cómo las agencias de noticias usan imágenes generadas por IA durante las emergencias pueden evitar que la información errónea visual erosione la confianza pública. Esto podría incluir descargo de responsabilidad obligatoria, supervisión editorial y seguimiento de procedencia transparente. Las plataformas de fortalecimiento para la verificación de hechos y el análisis de metadatos: durante las emergencias, plataformas sociales y medios de comunicación deben necesitar una rápida verificación de hechos a gran escala. Requerir plataformas para marcar, reducir o eliminar contenido demostrablemente falso puede limitar la propagación viral de la información errónea. Se deben desarrollar estrategias de intervención para empujar a las personas sobre escéptico información que se encuentran en las redes sociales. Consecuencias legales claras: en Canadá, sección 181 de la Código criminal Ya hace que la creación intencional y la propagación de información falsa sean un delito penal. Publicar y hacer cumplir tales disposiciones puede actuar como un elemento disuasorio, particularmente para campañas de información errónea deliberada durante las emergencias.
Además, la identificación, el contrarrestar y la información de información errónea deben incorporarse a la gestión de emergencias y la educación pública.
La IA está transformando rápidamente cómo se crea y se comparte la información durante las crisis. En emergencias, esto puede amplificar el miedo, los recursos erróneos y erosionar la confianza en el momento en que la claridad es más necesaria. La construcción de salvaguardas a través de la educación, la política, la verificación de hechos y la responsabilidad es esencial para garantizar que la IA se convierta en una herramienta para la resiliencia en lugar de un impulsor del caos.
Proporcionado por la conversación
Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.
Cita: la información errónea generada por IA puede crear respuestas de confusión e obstaculizar durante las emergencias (2025, 19 de agosto) recuperada el 19 de agosto de 2025 de https://techxplore.com/news/2025-08-ai-Ai-Generated-Misinformation-hinder-RESSESES.HTML
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
