La autocorrección es fundamental para la ciencia. Una de sus formas más importantes es revisión por paresCuando los expertos anónimos analizan la investigación antes de que se publique. Esto ayuda a salvaguardar la precisión del registro escrito.
Sin embargo, los problemas se deslizan. Una variedad de basura e iniciativas institucionales trabajan para identificar documentos problemáticos, fortalecer el proceso de revisión por pares y limpiar el registro científico a través de retracciones o cierres de revistas. Pero estos esfuerzos son imperfectos y intensivos en recursos.
Pronto, la inteligencia artificial (IA) podrá sobrealimentar estos esfuerzos. ¿Qué podría significar eso para la confianza pública en la ciencia?
La revisión por pares no está atrapando todo
En las últimas décadas, la era digital y la diversificación disciplinaria han provocado una explosión en el número de artículos científicos que se publican, el número de revistas que existen y la influencia de publicación con fines de lucro.
Esto ha abierto las puertas para la explotación. Oportunista “molino de papel“Vender una publicación rápida con una revisión mínima a los académicos desesperados por las credenciales, mientras que los editores generan ganancias sustanciales a través de Enormes tarifas de procesamiento de artículos.
Las corporaciones también han aprovechado la oportunidad para financiar investigaciones de baja calidad y documentos de escritura de fantasmas destinados a distorsionar el peso de la evidencia, influir en las políticas públicas y alterar la opinión pública a favor de sus productos.
Estos desafíos continuos destacan la insuficiencia de la revisión por pares como el principal guardián de la confiabilidad científica. En respuesta, los esfuerzos han surgido para reforzar la integridad de la empresa científica.
Reloj de retracción rastrea activamente los documentos retirados y otras mala conducta académica. Detectives e iniciativas académicas como Fecha de pasar Identificar datos y cifras manipuladas.
Los periodistas de investigación exponen la influencia corporativa. Un nuevo campo de meta-ciencia (ciencia de la ciencia) intenta medir los procesos de la ciencia y descubrir sesgos y defectos.
No toda la mala ciencia tiene un gran impacto, pero algunos ciertamente lo hacen. No solo permanece dentro de la academia; A menudo se filtra en la comprensión y la política pública.
En un reciente investigaciónExaminamos una revisión de seguridad ampliamente citada del glifosato de herbicidas, que parecía ser independiente e integral. En realidad, Documentos producidos durante los procedimientos legales contra Monsanto reveló que el periódico había sido escrito por fantasmas por empleados de Monsanto y publicado en una revista con lazos con la industria del tabaco.
Incluso después de que esto fue expuesto, el documento continuó dando forma a citas, documentos de política y páginas de Wikipedia en todo el mundo.
Cuando se descubren problemas como este, pueden llegar a conversaciones públicas, donde No se perciben necesariamente como actos triunfantes de autocorrección. Más bien, pueden tomarse como prueba de que algo está podrido en el estado de la ciencia. Este “La ciencia está rota” narrativo socava la confianza pública.
AI ya está ayudando a la policía de la literatura
Hasta hace poco, la asistencia tecnológica en la autocorrección se limitaba principalmente a los detectores de plagio. Pero las cosas están cambiando. Servicios de aprendizaje automático como Imagetwin y Prueba Ahora escanee millones de cifras para obtener signos de duplicación, manipulación y generación de IA.
Bandera de herramientas de procesamiento del lenguaje natural “frases torturadas“—La palabra reveladora ensaladas de molinos de papel. Paneles bibliométricos como uno por Erudito semántico Trace si los documentos se citan en apoyo o contradicción.
AI, especialmente los modelos agentes y capaces de razonamiento cada vez más competente en matemáticas y lógica: pronto descubrirá defectos más sutiles.
Por ejemplo, el Proyecto de Spátula Negra Explora la capacidad de los últimos modelos de IA para verificar las pruebas matemáticas publicadas a escala, identificando automáticamente las inconsistencias algebraicas que eludieron a los revisores humanos. Nuestro propio trabajo mencionado anteriormente también se basa sustancialmente en modelos de idiomas grandes para procesar grandes volúmenes de texto.
Dado el acceso al texto completo y la potencia informática suficiente, estos sistemas pronto podrían habilitar una auditoría global del registro académico. Una auditoría integral probablemente encontrará algo de fraude directo y una masa de rutina de rutina y trabajo de oficiales con errores de variedades de jardín.
Todavía no sabemos cuán frecuente es el fraude, pero lo que sí sabemos es que una gran cantidad de trabajo científico es intrascendente. Los científicos saben esto; Se discute mucho que una buena cantidad de El trabajo publicado nunca es o muy raramente citado.
Para los extraños, esta revelación puede ser tan discordante como descubrir fraude, porque choca con la imagen de un descubrimiento científico dramático y heroico que llena los comunicados de prensa universitarios y los tratamientos de prensa comercial.
Lo que podría dar este peso adicional de auditoría es su autor de IA, que puede verse (y de hecho) imparcial y competente, y por lo tanto confiable.
Como resultado, estos hallazgos serán vulnerables a la explotación en las campañas de desinformación, particularmente desde Ai ya se está acostumbrando a ese fin.
Replanteando el ideal científico
Salvaguardar la confianza pública requiere redefinir el papel del científico en términos más transparentes y realistas. Gran parte de la investigación de hoy es un trabajo incremental de suantos de carrera arraigados en la educación, la tutoría y la participación pública.
Si debemos ser honestos con nosotros mismos y con el público, debemos abandonar los incentivos que presionan las universidades y los editores científicos, así como los mismos científicos, a los mismos exagerar la importancia de su trabajo. El trabajo verdaderamente innovador es raro. Pero eso no hace que el resto del trabajo científico sea inútil.
Más humilde y Representación honesta del científico Como colaborador de un entendimiento colectivo y en evolución, será más robusto para el escrutinio impulsado por la IA que el mito de la ciencia como un desfile de avances individuales.
Una auditoría interdisciplinaria radical está en el horizonte. Podría provenir de un perro guardián del gobierno, un grupo de expertos, un grupo anti-ciencia o una corporación que busca socavar la confianza pública en la ciencia.
Los científicos ya pueden anticipar lo que revelará. Si la comunidad científica se prepara para los hallazgos, o mejor aún, toma la iniciativa, la auditoría podría inspirar una renovación disciplinada. Pero si retrasamos, las grietas que descubre pueden malinterpretarse como fracturas en la propia empresa científica.
La ciencia nunca ha derivado su fuerza de la infalibilidad. Su credibilidad radica en la voluntad de corregir y reparar. Ahora debemos demostrar que la voluntad públicamente, antes de que la confianza se rompa.
Proporcionado por la conversación
Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.
Cita: AI pronto podrá auditar todas las investigaciones publicadas, ¿qué significará eso para la confianza pública en la ciencia? (2025, 25 de julio) Consultado el 25 de julio de 2025 de https://techxplore.com/news/2025-07-ai-published-science.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
