Crédito: dominio público Unsplash/CC0
Como los formuladores de políticas en los Estados Unidos y globalmente consideran cómo gobernar la tecnología de inteligencia artificial, los investigadores de Berkeley se han unido a otros para recomendar oportunidades para desarrollar la política de IA basada en la evidencia.
Jennifer Chayes, Ion Stoica, Dawn Song y Emma Pierson son coautores del artículo, “Política de IA basada en la ciencia y la evidencia” de Rishi Bommasani et al.publicado en la revista Science el 31 de julio. El artículo propone mecanismos de política para abordar las oportunidades y desafíos de “AI cada vez más poderosa”.
Los coautores adicionales incluyen expertos en IA y académicos de la Universidad de Stanford, la Universidad de Princeton, el Carnegie Endowment for International Peace, la Universidad de Harvard, el Instituto de Estudios Avanzados y la Universidad de Brown.
La última publicación sigue a un informe reciente desarrollado por el Grupo de Trabajo de Políticas Conjuntos de California en Modelos de AI Frontier, que fue dirigido por Chayes, profesor y decano de la Facultad de Computación, Ciencia de Datos y Sociedad (CDSS) de UC Berkeley.
El mes pasado, el grupo de trabajo presentó su informe final– “El informe de California sobre la política de IA fronteriza” – a solicitud del gobernador Gavin Newsom. Al examinar la mejor evidencia disponible sobre IA, el informe del grupo de trabajo propuso principios clave de la política para ayudar a informar el uso, la evaluación y la gobernanza de la IA fronteriza en el estado. El informe ha sido citado por los senadores estatales y miembros de la Asamblea de California que redactan legislación, junto con agencias estatales, líderes de la industria tecnológica y organizaciones de la sociedad civil.
El artículo del 31 de julio en Science hace recomendaciones a la franja más amplia de los formuladores de políticas que consideran intervenciones en los EE. UU. Y en todo el mundo: “La política de IA debe avanzar en la innovación de IA asegurando que sus beneficios potenciales se realicen de manera responsable y ampliamente compartida. Para lograr esta formulación de políticas de IA debe imponer una prima en la evidencia: la comprensión científica y el análisis sistemático deberían informar la política y la política de acelerar la generación de evidencia”.
En el artículo, los autores articulan una visión para el desarrollo de la política de IA basada en la evidencia mediante la consideración de tres componentes centrales: cómo la evidencia debe informar la política; el estado actual de la evidencia; y cómo la política puede acelerar la generación de nuevas pruebas.
Los autores señalan que “definir lo que cuenta como evidencia (creíble) es el primer obstáculo para aplicar la política basada en la evidencia a un contexto de IA, una tarea más crítica ya que las normas de evidencia varían en todos los dominios de políticas”.
Sin embargo, los expertos advierten que los actores de la política no deben utilizar evidencia continuamente que evolucione para justificar la inacción o promover resultados sociales negativos, citando incidentes pasadas de industrias que cooperan evidencia como ejemplos históricos para evitar repetir.
“La política de IA basada en evidencia se beneficiaría de evidencia que no solo es creíble sino también procesable”, dijeron los autores. “Un enfoque en el riesgo marginal, lo que significa que los riesgos adicionales planteados por la IA en comparación con las tecnologías existentes como los motores de búsqueda de Internet, ayudará a identificar nuevos riesgos y cómo intervenir adecuadamente para abordarlos”.
“El amplio alcance de la IA puede significar que la evidencia y la política están desalineadas: aunque algunas pruebas y políticas abordan directamente la IA, se cruzan mucho más parcialmente con la IA”, dijeron los autores. “La política bien diseñada debería integrar evidencia que refleje la comprensión científica en lugar de la exageración”.
“La política puede acelerar activamente la generación de evidencia que mejor puede informar las decisiones políticas futuras”, dijeron los autores.
Recomendan a los responsables políticos que persigan los siguientes mecanismos para hacer crecer la base de evidencia y servir como la base de la política de IA basada en la evidencia:
Incentivar la evaluación de los modelos de IA antes de la liberación; Requiere que las principales empresas de IA divulguen más información sobre sus prácticas de seguridad a los gobiernos y, especialmente, al público; Aumentar el monitoreo posterior al despliegue de los daños de IA; Cree escudos para proteger la investigación de AI de terceros de buena fe; Fortalecer las defensas sociales, especialmente dada evidencia clara de riesgo no mitigado incluso en ausencia de capacidades de IA; y catalizar la formación de consenso científico.
“Reconocemos que la fusión en torno a un enfoque basado en la evidencia es solo el primer paso para conciliar muchas tensiones centrales”, concluyeron los autores. “El debate extenso es saludable y necesario para la formulación de políticas legítimas democráticamente; dicho debate debe basarse en la evidencia disponible”.
Más información: Rishi Bommasani et al, Política de IA basada en la ciencia y la evidencia, ciencia (2025). Doi: 10.1126/science.adu8449
Proporcionado por la Universidad de California – Berkeley
Cita: los expertos describen estrategias basadas en evidencia para el desarrollo de políticas de IA responsable (2025, 1 de agosto) Recuperado el 1 de agosto de 2025 de https://techxplore.com/news/2025-08-experts-outline- Evidence Based Strategies.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
