Crédito: Matthew Bertelli de Pexels
Un estudio publicado En Peerj, informática revela que las compensaciones significativas de sesgo de precisión en herramientas de detección de texto de inteligencia artificial podrían afectar desproporcionadamente hablantes de inglés no nativos y ciertas disciplinas académicas en la publicación académica.
El documento, titulado “Las compensaciones de sesgo de precisión en las herramientas de detección de texto de IA y su impacto en la equidad en la publicación académica”, examina cómo las herramientas diseñadas para identificar contenido generado por IA pueden crear inadvertidamente nuevas barreras en la publicación académica.
Hallazgos clave
Las herramientas populares de detección de IA (GPTZero, Zerogpt y DetectGPT) demuestran una precisión inconsistente al distinguir entre los resúmenes académicos escritos por humanos y generados por IA, la escritura asistida por AI-AI, donde los modelos de lenguaje mejoran el texto para la legibilidad mejorada, presenta desafíos particulares para los sistemas de detección de detección en las herramientas de detección de textos AI no es justa. Irónicamente, la herramienta más precisa en este estudio mostró el sesgo más fuerte contra ciertos grupos de autores y disciplinas académicas. Los hablantes de inglés no nativos enfrentan tasas más altas de falsos positivos, con su trabajo con mayor frecuencia mal clasificado como generado por IA.
“Este estudio destaca las limitaciones de los enfoques centrados en la detección e insta a un cambio hacia el uso ético, responsable y transparente de LLM en la publicación académica”, señaló el equipo de investigación.
La investigación se realizó como parte de los esfuerzos en curso para comprender cómo las herramientas de IA afectan la integridad académica al tiempo que garantizan un acceso equitativo a oportunidades de publicación en diversos antecedentes de autores.
Más información: Ahmad R. Pratama, Las compensaciones de sesgo de precisión en las herramientas de detección de texto de IA y su impacto en la equidad en la publicación académica, Peerj Computer Science (2025). Dos: 10.7717/peerj-cs.2953
Cita: un nuevo estudio revela sesgo en las herramientas de detección de texto de IA impacta la equidad de publicación académica (2025, 24 de junio) Recuperado el 24 de junio de 2025 de https://techxplore.com/news/2025-06-reveals-bias-ai-text-tools.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
