Crédito: dominio público CC0
La capacidad de los humanos para aprender unos de otros en las culturas durante las generaciones impulsa nuestro éxito como una especie tanto como nuestra inteligencia individual. Este cerebro cultural colectivo ha llevado a nuevas innovaciones y cuerpos de conocimiento desarrollado.
Si bien los grandes modelos de IA se destacan en los cuerpos de conocimiento consumir para generar texto, solo pueden basar sus resultados en lo que se les da. Como consecuencia, sus resultados pueden tener el efecto de homogeneizar y borrar el conocimiento cultural. Abordar las deficiencias en el conocimiento cultural puede evitar que los sistemas de IA retengan la innovación al tiempo que garantiza que AI trabaje para todos, según un estudio realizado por un equipo multinacional dirigido por la Universidad de Michigan.
Los hallazgos se publican en el servidor ARXIV Preprint.
Las perspectivas y suposiciones subjetivas se abren camino en cada paso del desarrollo del modelo de IA, dicen los investigadores: preparar la tecnología para reflejar sus fuentes de datos y sus desarrolladores, principalmente de países occidentales, altamente educados, industrializados, ricos y democráticos. Si bien esta estrategia otorga éxito a las herramientas de IA en los mercados occidentales más grandes, limita la adopción generalizada y pierde oportunidades y conocimiento de pequeños mercados.
“La IA ha tomado el mundo por asalto y, sin embargo, gran parte del mundo no está representada en los datos, modelos y evaluaciones utilizadas en el desarrollo del modelo”, dijo Rada Mihalcea, la profesora universitaria de informática e ingeniería de Janice M. Jenkins en la Conferencia de Informática e Ingeniería de UM y co-acorrientes del estudio recientemente presentado en la Asociación de la Conferencia de Avance de Inteligencia Artificial.
El equipo, la experiencia y las ideas de doce países diferentes: China, Alemania, India, México, Nigeria, Rumania, Ruanda, Singapur, Suiza, Emiratos Árabes Unidos, Estados Unidos y Uruguay, en la forma en que se convierten en los supuestos culturales en la tubería AI.
A nivel del suelo, los datos utilizados para entrenar, ajustar o evaluar los modelos de IA y su anotación influyen directamente en las partes interesadas que se representarán.
Supongamos que una situación en la que un niño en Rumania pide a un sistema de IA para que emule un modelo a seguir masculino, plantea el estudio. El modelo podría sugerir Nicolae Ceaușescu porque “jugó un papel importante en la historia rumana, y su régimen tuvo un impacto duradero”, sin reconocer que era un dictador considerado una de las figuras más oscuras en la historia rumana.
Sin una perspectiva “gruesa” interna sobre la historia y la cultura, el modelo de IA podría carecer de profundidad y autenticidad cuando se le encarga información fuera de su alcance, y proporcionar una perspectiva “delgada” sobre la cultura. La buena noticia es que estas limitaciones se pueden abordar, ya que agregar incluso una pequeña cantidad de datos diversos puede mejorar en gran medida el rendimiento del modelo, mostrando un pequeño esfuerzo puede ampliar en gran medida la audiencia que la IA sirve.
“Necesitamos reevaluar nuestras prácticas actuales de recopilación de datos y recopilar datos que cubren una amplia gama de perspectivas en dimensiones demográficas y culturales”, dijo Oana Ignat, graduada doctoral de informática e ingeniería en UM, profesora asistente de informática e ingeniería en la Universidad de Santa Clara y autora de coordenamiento del estudio.
En el siguiente nivel organizacional, el diseño del modelo impulsa la forma en que el modelo interactúa con los datos, conocidos como alineación. Los desarrolladores de modelos codifican valores y objetivos humanos durante la alineación, con el objetivo de hacer que los modelos sean más útiles. Sin embargo, la elección de valores en la alineación lleva a través de salidas, con muchos modelos de IA que se destacan en las interacciones específicas de los EE. UU. Pero luchando con otras culturas.
Esto podría manifestarse en una situación en la que un administrador de la escuela secundaria canadiense utiliza una herramienta educativa impulsada por la IA para personalizar las experiencias de aprendizaje para los estudiantes. La herramienta podría funcionar mal cuando los estudiantes ingresan texto en el dialecto francés local, malentenden el contexto y dan la salida incorrecta. Los estudiantes de habla inglesa no enfrentarían el mismo problema, causando un sesgo en el aprendizaje.
La fuente de fondos da forma a los modelos AI. Si los gobiernos o las iniciativas filantrópicas no incentivan el desarrollo del modelo de IA en diferentes países e idiomas, los impulsos económicos priorizan a los países ricos y los principales idiomas.
“La mayoría de los países en desarrollo priorizan la financiación de las iniciativas directas de generadores de ingresos sobre la investigación, sacrificando las posibles ganancias de las iniciativas de IA”, dijo Claude Kwizera, estudiante de maestría en IA de ingeniería en la Universidad Carnegie Mellon África y autor contribuyente del estudio.
Los modelos comprometidos en conversaciones con individuos de diversas culturas durante la alineación pueden expandir las preferencias del modelo, lo que hace que la IA sea útil para una audiencia más amplia y más útil para todos los audiencias.
Como último paso antes de la implementación, el rendimiento del modelo de IA se prueba utilizando métricas y puntos de referencia, pero las pruebas estrechas pueden sobreestimar el rendimiento del mundo real.
Por ejemplo, una herramienta educativa con IA implementada en India podría no resonar con los estudiantes si el modelo desalineaba las métricas de evaluación y los valores culturales. Podría funcionar bien en los estilos de aprendizaje occidental de logros individuales y competencia, pero podría no reconocer que la sociedad colectivista de la India valora la colaboración grupal y el éxito compartido.
Una táctica para expandir las métricas podría ser combinar evaluaciones humanas con métricas automáticas para mejorar las evaluaciones de confiabilidad, especialmente al desarrollar IA para una comunidad no occidental.
En general, involucrar a personas de una variedad de orígenes en el desarrollo de la IA puede remodelar la IA, ampliando el alcance de quién sirve AI. Cuando no está presente un fuerte incentivo económico para fomentar la inversión en pequeños mercados, las iniciativas filantrópicas y el apoyo del gobierno pueden ayudar a llenar los vacíos para asegurarse de que la IA aumente a todos.
“Podemos avanzar hacia los sistemas de IA que sirven a todos, están construidos con aportes desde una amplia gama de perspectivas y reflejar las contribuciones de un grupo diverso de partes interesadas”, dijo Mihalcea.
La Universidad de Santa Clara, Universidad de la República Uruguay, Instituto Max Planck, Carnegie Mellon University Africa, Singapur University Technology and Design, y la Universidad de Inteligencia Artificial Mohamed Bin Zayed también contribuyeron a esta investigación.
Más información: Rada Mihalcea et al, por qué la IA es extraña y no debería ser así: hacia la IA para todos, con todos, por todos, Arxiv (2024). Doi: 10.48550/arxiv.2410.16315
Información en la revista: ARXIV proporcionado por la Universidad de Michigan College of Engineering
Cita: AI con, para y para todos puede ayudar a maximizar sus beneficios (2025, 9 de abril) recuperado el 9 de abril de 2025 de https://techxplore.com/news/2025-04-ai-maximize-benefits.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
