Crédito: dominio público Unsplash/CC0
El año pasado asistí a un panel sobre IA generativa en educación. En un momento memorable, un presentador preguntó: “¿Cuál es el gran problema? La IA generativa es como una calculadora. Es solo una herramienta”.
La analogía es cada vez más común. El presidente ejecutivo de Operai, Sam Altman, se ha referido a Chatgpt como “una calculadora para palabras” y comparado Comentarios sobre la nueva tecnología a las reacciones a la llegada de la calculadora. “La gente dijo: ‘Tenemos que prohibirlos porque la gente simplemente engañará su tarea. Si las personas no necesitan calcular una función sine a mano nuevamente (…), entonces la educación matemática ha terminado'”.
Sin embargo, los sistemas de IA generativos no son calculadoras. Tratarlos como calculadoras oscurece lo que son, lo que hacen y a quien sirven. Esta fácil analogía simplifica una tecnología controvertida e ignora cinco diferencias cruciales con respecto a las tecnologías del pasado.
1. Las calculadoras no alucinan ni persuaden
Las calculadoras calculan funciones de entradas claramente definidas. Golpes en 888 ÷ 8 y obtienes una respuesta correcta: 111.
Esta salida está limitada e inmutable. Las calculadoras no inferen, adivina, alucinar o persuadir.
No agregan elementos falsos o no deseados a la respuesta. No fabrican casos legales ni les dicen a la gente que “por favor muere“
2. Las calculadoras no plantean dilemas éticos fundamentales
Las calculadoras no plantean dilemas éticos fundamentales.
Involucrar a Chatgpt Trabajadores en Kenia Tamizar a través de contenido irreversiblemente traumático por un dólar o dos por hora, por ejemplo. Las calculadoras no necesitaban eso.
Después de la crisis financiera en Venezuela, una compañía de marcas de datos de IA vio la oportunidad de tomar mano de obra barata con modelos de empleo de explotación. Las calculadoras tampoco necesitaban eso.
Las calculadoras no requerían vastas plantas de energía nuevas para ser construido, o competir con humanos para el agua como los centros de datos de IA están haciendo en Algunas de las partes más secas del mundo.
Las calculadoras no necesitaban nueva infraestructura para ser construido. La industria de la calculadora no vio un gran impulso minero, como el que actualmente impulsa la extracción rapaz de cobre y litio como en las tierras del Atacameños en Chile.
3. Las calculadoras no socavan la autonomía
Las calculadoras no tenían el potencial de convertirse en un “Autocompletar para la vida“Nunca se ofrecieron a tomar todas las decisiones por usted, desde qué comer y dónde viajar hasta cuándo besar su cita.
Las calculadoras no desafiaron nuestra capacidad de pensar críticamente. Sin embargo, se ha demostrado que la IA generativa erosiona el razonamiento independiente y el aumento “descarga cognitiva“Con el tiempo, la dependencia de estos sistemas corre el riesgo de colocar el poder de tomar decisiones cotidianas en manos de los sistemas corporativos opacos.
4. Las calculadoras no tienen sesgo social y lingüístico
Las calculadoras no reproducen las jerarquías del lenguaje y la cultura humanos. La IA generativa, sin embargo, está capacitada en datos que reflejan siglos de relaciones de poder desiguales, y sus resultados reflejan esas desigualdades.
Los modelos de lenguaje heredan y refuerzan el prestigio de las formas lingüísticas dominantes, al tiempo que salen o borran las menos privilegiadas.
Herramientas como el mango de chatgpt inglés convencionalpero rutinariamente refleja, falla mal o borra Otros ingleses del mundo.
Mientras proyectos Existen que intentan abordar la exclusión de voces minoritizadas del desarrollo tecnológico, el sesgo generativo de IA para el inglés convencional es preocupante.
5. Las calculadoras no son ‘todo máquinas’
A diferencia de las calculadoras, los modelos de idiomas no funcionan dentro de un dominio estrecho, como las matemáticas. En cambio, tienen el potencial de enredarse en todo: percepción, cognición, afecto e interacción.
Los modelos de idiomas pueden ser “agentes”, “compañeros”, “influyentes”, “terapeutas” y “novios”. Esta es una diferencia clave entre la IA generativa y las calculadoras.
Mientras que las calculadoras ayudan con la aritmética, la IA generativa puede participar en funciones transaccionales e interaccionales. De una vez, un chatbot puede ayudarlo a editar su novela, escribir código para una nueva aplicación y proporcionar un detallado perfil psicológico de alguien que crees que te gusta.
Mantenerse crítico
La analogía de la calculadora hace que los modelos de lenguaje y los llamados “copilotos”, “tutores” y “agentes” suenen inofensivos. Da permiso para la adopción acrítica y sugiere que la tecnología puede solucionar todos los desafíos que enfrentamos como sociedad.
También se adapta perfectamente a las plataformas que fabrican y distribuyen sistemas de IA generativos. Una herramienta neutral no necesita responsabilidad, ni auditorías, sin gobierno compartido.
Pero como hemos visto, la IA generativa no es como una calculadora. No simplemente cruje números o produce salidas limitadas.
Comprender cómo es realmente la IA generativa requiere un pensamiento crítico riguroso. Del tipo que nos equipa para enfrentar las consecuencias de “moverse rápido y romper cosas. “El tipo que puede ayudarnos a decidir si la rotura vale la pena.
Proporcionado por la conversación
Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.
Cita: Generation AI no es una ‘calculadora para palabras’: 5 razones por las cuales esta idea es engañosa (2025, 18 de agosto) recuperada el 18 de agosto de 2025 de https://techxplore.com/news/2025-08-generative-ai-words-idea.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
