Crédito: Dominio público de Pixabay/CC0
Es posible que la inteligencia artificial (IA) no haya sido creada para permitir nuevas formas de violencia sexual, como la pornografía de defake. Pero ese ha sido un desafortunado subproducto de la tecnología que avanza rápidamente.
Este es solo un ejemplo de los muchos usos involuntarios de AI.
Los usos previstos de AI no están exentos de sus propios problemas, incluidas las serias preocupaciones de derechos de autor. Pero más allá de esto, está ocurriendo mucha experimentación con la tecnología que avanza rápidamente. Los modelos y el código son compartidos, reutilizados y remezclados en espacios públicos en línea.
Estas comunidades colaborativas y de red suelta, lo que llamamos “subterráneos” en nuestro artículo publicado recientemente en New Media & Society, son donde los usuarios experimentan con IA en lugar de simplemente consumirlo. Estos espacios son donde la IA generativa se empuja en direcciones impredecibles y experimentales. Y muestran por qué se necesita urgentemente un nuevo enfoque para regular la IA y mitigar sus riesgos. La política climática ofrece algunas lecciones útiles.
Un enfoque limitado
Como AI avanza, también lo hacen las preocupaciones sobre el riesgo. Los formuladores de políticas han respondido rápidamente. Por ejemplo, la Ley de IA de la Unión Europea que entró en vigencia en 2024 clasifica los sistemas por riesgo: prohibir los “inaceptables”, regular los usos de “alto riesgo” y requerir transparencia para las herramientas de menor riesgo.
Otros gobiernos, incluidos los del Reino Unido, Estados Unidos y China, están tomando direcciones similares. Sin embargo, sus enfoques regulatorios difieren en el alcance, la etapa de desarrollo y la aplicación.
Pero estos esfuerzos comparten una limitación: se basan en el uso previsto, no de las formas desordenadas, creativas y a menudo no intencionadas que la IA realmente se está utilizando, especialmente en espacios marginales.
Entonces, ¿qué riesgos pueden surgir de la desviación creativa en la IA? ¿Y los marcos basados en el riesgo pueden manejar tecnologías que son fluidas, remezcables y rápidas?
Experimentación fuera de la regulación
Hay varios espacios en línea donde se reúnen los miembros de la parte subterránea. Incluyen GitHub (una plataforma basada en la web para el desarrollo de software colaborativo), Hugging Face (una plataforma que ofrece modelos de aprendizaje automático listos para usar, conjuntos de datos y herramientas para que los desarrolladores construyan y inicien fácilmente aplicaciones de IA) y subreddits (comunidades o foros individuales dentro de la plataforma Reddit más grande).
Estos entornos fomentan la experimentación creativa con IA generativa fuera de los marcos regulados. Esta experimentación puede incluir instrucciones de modelos para evitar comportamientos previstos, o hacer lo contrario. También puede incluir la creación de mashups o variaciones más potentes de IA generativa mediante la remezcla del código de software que está disponible públicamente para que cualquiera lo vea, use, modifique y distribuya.
Los daños potenciales de esta experimentación se destacan por la proliferación de pornografía Deepfake. También lo son los límites del enfoque actual para la regulación de la tecnología que avanza rápidamente, como la IA.
Deepfake Technology no se desarrolló originalmente para crear videos e imágenes pornográficos no consensuados. Pero esto es, en última instancia, lo que sucedió dentro de las comunidades subreddit, a partir de 2017. Deepfake Pornography luego se extendió rápidamente de esta subterránea a la corriente principal; Un análisis reciente de más de 95,000 videos de Deepfake en línea encontró que el 98% de ellos eran videos de pornografía falsos profundos.
No fue hasta 2019, los años después de que surgió pornografía de Deepfake por primera vez, que los intentos de regularlo comenzaron a surgir a nivel mundial. Pero estos intentos fueron demasiado rígidos para capturar las nuevas formas en que la tecnología Deepfake estaba siendo utilizada para entonces para causar daño. Además, los esfuerzos regulatorios fueron esporádicos e inconsistentes entre los estados. Esto impidió esfuerzos para proteger a las personas y las democracias de los impactos de los profundos a nivel mundial.
Es por eso que necesitamos una regulación que pueda marchar en sintonía con las tecnologías emergentes y actuar rápidamente cuando prevalece el uso no deseado.
Abrazando la incertidumbre, la complejidad y el cambio
Una forma de mirar la gobernanza de la AI es a través del prisma del cambio climático. El cambio climático también es el resultado de muchos sistemas interconectados que interactúan de formas que no podemos controlar completamente, y sus impactos solo pueden entenderse con un grado de incertidumbre.
En las últimas tres décadas, los marcos de gobernanza climática han evolucionado para enfrentar este desafío: manejar riesgos complejos, emergentes y a menudo impredecibles. Y aunque este marco aún no ha demostrado su capacidad para reducir significativamente las emisiones de gases de efecto invernadero, ha logrado mantener la atención global a lo largo de los años en los riesgos climáticos emergentes y sus impactos complejos.
Al mismo tiempo, ha proporcionado un foro donde las responsabilidades y las posibles soluciones pueden debatirse públicamente.
También se debe adoptar un marco de gobierno similar para gestionar la propagación de la IA. Este marco debe considerar los riesgos interconectados causados por las herramientas de IA generativas que se vinculan con las plataformas de redes sociales. También debe considerar los riesgos en cascada, ya que el contenido y el código se reutilizan y se adaptan. Y debe considerar los riesgos sistémicos, como la disminución de la confianza pública o el debate polarizado.
Es importante destacar que este marco también debe involucrar diversas voces. Al igual que el cambio climático, la IA generativa no afectará solo una parte de la sociedad: se extenderá a través de muchos. Y el desafío es cómo adaptarse a él.
Aplicado a la IA, los enfoques de gobernanza del cambio climático podrían ayudar a promover una acción preventiva a raíz del uso imprevisto (como en el caso de Deepfake Porn) antes de que el problema se generalice.
Evitar las trampas de la gobernanza climática
Si bien la gobernanza climática ofrece un modelo útil para la regulación adaptativa y flexible, también trae importantes advertencias que deben evitarse.
La política climática ha sido envuelta por lagunas, intereses competitivos y lenta de formulación de políticas. Desde las deficiencias de Australia en la implementación de su estrategia renovable, hasta reversiones de políticas en Escocia y estancamiento político en los Estados Unidos, la implementación de la política climática a menudo ha sido la llave proverbial en los engranajes de la ley ambiental.
Pero, cuando se trata de la gobernanza de la IA, este estancamiento climático demasiado familiar trae consigo importantes lecciones para el ámbito de la gobernanza de la IA.
Primero, necesitamos encontrar formas de alinear la supervisión pública con autorregulación y transparencia por parte de los desarrolladores y proveedores de IA.
En segundo lugar, debemos pensar en los riesgos generativos de IA a escala global. La cooperación y la coordinación internacionales son esenciales.
Finalmente, debemos aceptar que el desarrollo y la experimentación de la IA persistirán y las regulaciones artesanales que respondan a esto para mantener a nuestras sociedades seguras.
Proporcionado por la conversación
Este artículo se vuelve a publicar de la conversación bajo una licencia Creative Commons. Lea el artículo original.
Cita: la IA se está moviendo rápidamente. La política climática proporciona lecciones valiosas sobre cómo mantenerlo bajo control (2025, 19 de mayo) Recuperado el 19 de mayo de 2025 de https://techxplore.com/news/2025-05-ai-fast-climate-policy-valiable.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
