Resumen de cómo la información disponible para el sujeto (el papel del solicitante) y la información del algoritmo (el tipo de personalidad del solicitante) se relacionan con la capacidad del solicitante (malo o bueno). Esta información se muestra a todos los participantes en el experimento y se puede acceder fácilmente a lo largo de su proceso de toma de decisiones. Crédito: ARXIV (2024). Doi: 10.48550/arxiv.2405.01484
A medida que despega la inteligencia artificial, ¿cómo la integramos eficientemente en nuestras vidas y en nuestro trabajo? Hacer la brecha entre la promesa y la práctica, Jann Spiess, profesor asociado de operaciones, información y tecnología en la Escuela de Negocios Graduados de Stanford, está explorando cómo los algoritmos pueden diseñarse para apoyar de manera más efectiva, en lugar de reemplazar, a los tomadores de decisiones humanos.
Esta investigación, publicada en el servidor de preimpresión ARXIV, es particularmente pertinente ya que las máquinas de predicción se integran en aplicaciones del mundo real. La creciente evidencia empírica sugiere que las decisiones de alto riesgo tomadas con la asistencia de IA a menudo no son mejores que las hechas sin ella.
Desde informes de crédito, donde una dependencia excesiva de la IA puede conducir a una interpretación errónea de los puntajes de riesgo, hasta las redes sociales, donde los modelos pueden depender de ciertas palabras para marcar la toxicidad, lo que lleva a clasificaciones erróneas: la implementación exitosa se retrasa detrás de las notables capacidades de la tecnología.
“No tenemos mucho trabajo, pero, eso toma muy en serio el diseño de la interfaz Human-AI”, dice Spiess. “Nuestro debate sobre la IA y las capacidades de la IA está realmente fuera de lugar, porque se trata de ‘¿es la IA mejor que el humano?'”, Continúa. “Creo que deberíamos preguntar: ‘¿Cuáles son los usos complementarios de la IA?'”
La IA de hoy tiende a priorizar la capacidad, en lugar de la usabilidad, lo que crea un conjunto de problemas que llevan a los usuarios a tomar malas decisiones. Si los usuarios confían demasiado en un algoritmo, por ejemplo, pueden ignorar el contexto o información relevante que el algoritmo puede no saber.
Por otro lado, si los usuarios perciben las recomendaciones como rígidas, demasiado complejas o irrelevantes, pueden descartarlas por completo, incumpliendo su propio juicio y pronunciando cualquier ventaja que puedan proporcionar recomendaciones algorítmicas. También hay mala interpretación, que puede ocurrir si un usuario entiende mal cómo llega un algoritmo a sus resultados o no se da cuenta de las limitaciones del algoritmo, pero de todos modos actúa con su recomendación.
Un diseño más reflexivo para la interacción Human-AI, Spiess postula, reconoce cómo los tomadores de decisiones responden a los algoritmos de recomendaciones que proporcionan. “El mejor algoritmo es el que tiene en cuenta cómo un humano interactuará con la información que proporciona”, dice.
En un artículo reciente, Spiess y Bryce McLaughlin, Ph.D. ’24, del Laboratorio de Análisis de Salud de Wharton en la Universidad de Pensilvania, describe un marco de diseño conceptual que modela cómo los humanos responden a las recomendaciones algorítmicas, y presentan un enfoque diferente para construir herramientas de IA. Este enfoque, conocido como complementariedad, tiene como objetivo refinar la colaboración Human-AI en lugar de pasar por alto la entrada humana por completo.
Muestra de decisión de contratación del tratamiento predictivo. Crédito: ARXIV (2024). Doi: 10.48550/arxiv.2405.01484
Mejores decisiones, mejores resultados
Para determinar su eficacia, los investigadores probaron diferentes estrategias de recomendación en un experimento de contratación simulado, donde los sujetos tomaron 25 decisiones de contratación con niveles variables de asistencia algorítmica.
Las personas que usan un algoritmo complementario, que ofrecían recomendaciones selectivas en los casos en que un humano probablemente fuera incierto o incorrecto, tomó las decisiones más precisas, superando a aquellos que usaban un algoritmo puramente predictivo, así como aquellos que no usaban ningún soporte algorítmico.
Es un resultado alentador, que Spiess y sus colaboradores están evaluando en varios proyectos de investigación. “Hay muchas promesas (alrededor de) AI mejorando las decisiones y a través de eso mejorando los resultados”, dice Spiess.
“Y eso ha llevado a nuevas preguntas: ¿cómo debo diseñar un algoritmo para tomar decisiones de política pública o social, por ejemplo, si podemos aprender cómo mejorar la política mediante el uso de datos, y usarlo a escala en procesos que son transparentes y justos, podemos producir algoritmos que cumplan con la promesa de esta nueva tecnología”.
Spiess está particularmente interesado en aplicaciones que afectan cómo se asignan los servicios en entornos con recursos limitados, como colocar tutores en distritos escolares desatendidos con presupuestos limitados.
Spiess sugiere que el enfoque de las empresas con fines de lucro, maximizando los retornos, se aplicará al impacto social. “Los anuncios están atacados, pero ¿podemos orientar mejor las intervenciones sociales? Esta es una decisión de alto riesgo, y si puede usar algoritmos para mejorar la asignación de recursos a escala, hay una serie de casos de uso de alto valor en áreas donde no tenemos soluciones listas o claras”.
Es el tipo de pregunta que Stanford GSB es particularmente adecuada para responder, dice Spiess, citando colegas como la profesora de economía Susan Ahey, directora del Laboratorio de Impacto Social Golub Capital.
“La entrega de estas soluciones requiere reunir la capacidad técnica con el contexto y poder modelar el componente humano. Estamos muy bien posicionados para pensar en los algoritmos en el contexto y tener una rica historia de hacerlo”, dice. “Además, estamos en Silicon Valley. Estamos inmersos en las herramientas para implementar proyectos en este espacio”.
Más información: Bryce McLaughlin et al, diseñando recomendaciones algorítmicas para lograr la complementariedad Human-AI, ARXIV (2024). Doi: 10.48550/arxiv.2405.01484
Información en la revista: ARXIV proporcionado por la Universidad de Stanford
Cita: el enfoque de IA desarrollado con los tomadores de decisiones humanos en mente (2025, 30 de mayo) Consultado el 30 de mayo de 2025 de https://techxplore.com/news/2025-05-ai-pacroach-human-decision-makers.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
