Crédito: pasatiempo, fotos sin pizarras
La IA avanza a tanta velocidad que las preguntas morales especulativas, una vez que la provincia de la ciencia ficción, son repentinamente reales y apremiantes, dice el filósofo y el investigador de psicología finlandesa Frank Martela.
El último estudio de Martela encuentra que la IA generativa cumple con las tres condiciones filosóficas del libre albedrío: la capacidad de tener una agencia dirigida a objetivos, tomar decisiones genuinas y tener control sobre sus acciones. Fue publicado en la revista AI y Ethics.
Basándose en el concepto de libre albedrío funcional como se explica en las teorías de los filósofos Daniel Dennett y Christian List, el estudio examinó dos agentes de IA generativos impulsados por modelos de idiomas grandes (LLM): el agente de Voyager en Minecraft y los ficticios “Spitenik” drones asesinos con la función cognitiva de los vehículos aéreos no administrados de hoy.
“Ambos parecen cumplir con las tres condiciones de libre albedrío: para la última generación de agentes de IA, debemos asumir que tienen libre albedrío si queremos entender cómo funcionan y poder predecir su comportamiento”, dice Martela. Agrega que estos estudios de caso son ampliamente aplicables a los agentes generativos disponibles actualmente que utilizan LLM.
Este desarrollo nos lleva a un punto crítico en la historia humana, ya que le damos a IA más poder y libertad, potencialmente en situaciones de vida o muerte. Ya sea un bot de autoayuda, un automóvil autónomo o un dron asesino, la responsabilidad moral puede pasar del desarrollador de IA al agente de IA.
Profesor Asociado Frank Martela de la Universidad de Aalto. Crédito: Universidad Nita Vera / Aalto
“Estamos entrando en un nuevo territorio. La posesión del libre albedrío es una de las condiciones clave para la responsabilidad moral. Si bien no es una condición suficiente, está un paso más cerca de que la IA tiene responsabilidad moral por sus acciones”, agrega. Se deduce que los problemas en torno a cómo ‘criamos’ nuestra tecnología de IA se ha vuelto real y apremiante.
“La IA no tiene una brújula moral a menos que esté programada para tener uno. Pero cuanto más libertad le dé a IA, más necesitará darle una brújula moral desde el principio. Solo entonces podrá tomar las decisiones correctas”, dice Martela.
La reciente retirada de la última actualización de ChatGPT debido a las tendencias sycófánicas potencialmente dañinas es una bandera roja de que se deben abordar preguntas éticas más profundas. Nos hemos ido más allá de enseñar la moralidad simplista de un niño.
“La IA se está acercando cada vez más a ser un adulto, y cada vez más tiene que tomar decisiones en los complejos problemas morales del mundo adulto. Al instruir a la IA que se comporten de cierta manera, los desarrolladores también están transmitiendo sus propias convicciones morales en las AI. Necesitamos asegurar que las personas que desarrollen suficiente conocimiento sobre la filosofía moral para poder enseñarles a hacer las elecciones correctas en las situaciones difíciles”, dice que las personas tienen suficiente conocimiento sobre la filosia moral para poder enseñarlos a hacer las elecciones correctas en las situaciones difíciles “, dice que las personas tienen suficiente conocimiento.
Más información: Inteligencia artificial y libre albedrío: Los agentes generativos que utilizan modelos de idiomas grandes tienen libre albedrío, IA y ética (2025). Doi: 10.1007/s43681-025-00740-6
Proporcionado por la Universidad de Aalto
Cita: La IA cumple con las condiciones para tener libre albedrío: necesitamos darle una brújula moral, dice el investigador (2025, 13 de mayo) recuperado el 13 de mayo de 2025 de https://techxplore.com/news/2025-05-ai-conditions- Free-moral-compass.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
