Crédito: Dominio público de Pixabay/CC0
En el mundo de las altas finanzas, las empresas están cubriendo sus apuestas sobre la inteligencia artificial (IA). De hecho, la IA ya se ha utilizado en el comercio algorítmico y la detección de fraude. A medida que la tecnología se vuelve más potente y autónoma, existe una necesidad urgente de establecer controles y equilibrios para garantizar el uso ético y válido de estas herramientas.
Investigación publicado En el International Journal of Business Information Systems, ahora ofrece una respuesta estructurada a los diversos desafíos y propone un marco práctico para ayudar a las instituciones financieras a implementar sistemas de IA éticos basados en la transparencia, la interpretabilidad y la responsabilidad.
Los investigadores explican que la “explicabilidad” es clave para el desarrollo y el uso de la IA éticamente en las finanzas. Desafortunadamente, el término en sí carece de una definición operativa clara. Se puede describir como abarcar tres dimensiones interrelacionadas: transparencia (la capacidad de ver cómo se llegó a una decisión), interpretabilidad (la capacidad de comprender esa decisión) y la responsabilidad (claridad sobre quién es responsable). Estas ideas son particularmente cruciales en los dominios de alto riesgo, como los préstamos y el seguro, donde las decisiones algorítmicas pueden afectar directamente la vida de las personas y las ganancias de la empresa.
Ya hay ejemplos de dónde los sistemas opacos de IA han reforzado las desigualdades existentes para que los modelos de puntuación de crédito y los algoritmos de precios de seguros, capacitados en datos históricos, puedan desventaja a las mujeres y los grupos minoritarios. Esto no necesariamente está sucediendo deliberadamente, sino simplemente a través de los sesgos inherentes en los datos de capacitación. Ya sea intencional o no, los resultados aún pueden ser perjudiciales y también se vuelven más difíciles de corregir una vez que los sistemas automatizados están integrados en los sistemas de una empresa.
El estudio se basa en investigaciones interdisciplinarias y entrevistas de expertos e introduce un “marco de madurez” diseñado para hacer que la explicabilidad sea procesable. En lugar de tratar la ética como un ejercicio de casilla de verificación o un conjunto de ideales abstractos, el marco describe los pasos incrementales que las organizaciones pueden, y tal vez deberían, en función de su sofisticación tecnológica y la complejidad de los modelos de IA que emplean.
El marco se beneficia de la adaptabilidad inherente, reconociendo desde el principio que una solución de “talla única” no es realista ni deseable. En cambio, ofrece una vía adaptada a diferentes contextos institucionales, alentando la mejora continua con el tiempo. Entre sus prácticas recomendadas se encuentran los modelos de IA interpretables, cuyo funcionamiento interno puede ser entendido fácilmente por los humanos, crear comités de ética interna y realizar auditorías regulares para el sesgo y la equidad.
Más información: Sam Solaimani et al, más allá de la caja negra: operacionalización de la explicabilidad en inteligencia artificial para instituciones financieras, International Journal of Business Information Systems (2025). Dos: 10.1504/ijbis.2025.146837
Cita: El nuevo marco guía el uso ético de la IA en la toma de decisiones financieras (2025, 1 de julio) Recuperado el 1 de julio de 2025 de https://techxplore.com/news/2025-07-framework-thical-ai-financial-decision.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
