El autor e inventor Ray Kurzweil, de 56 años, representa un retrato frente a las palabras de su sitio de Internet proyectado en una pantalla en su oficina en Wellesley, Massachusetts, 12 de enero de 2005. Crédito: AP Photo/Steven Senne, archivo
A los 77 años, Geoffrey Hinton tiene una nueva vocación en la vida. Como un profeta moderno, el ganador del Premio Nobel está generando alarmas sobre los peligros de la inteligencia artificial no controlada y no regulada.
Con frecuencia denominado “Padrino de AI”, Hinton es conocido por su trabajo pionero en el aprendizaje profundo y las redes neuronales que ayudaron a sentar las bases de la tecnología AI que a menudo se usa hoy. Sintiéndose “algo responsable”, comenzó a hablar públicamente sobre sus preocupaciones en 2023 después de dejar su trabajo en Google, donde trabajó durante más de una década.
A medida que la tecnología, y los dólares de inversión, la IA impotente han avanzado en los últimos años, también lo ha hecho detrás de esto.
“Realmente es divino”, dijo Hinton.
Hinton se encuentra entre un número creciente de figuras tecnológicas prominentes que hablan de IA usando el lenguaje que una vez reservado para lo divino. El CEO de Operai, Sam Altman, se ha referido a la tecnología de su compañía como un “Inteligencia mágica en el cielo” mientras que Peter Thiel, cofundador de PayPal y Palantir, incluso ha argumentado que AI podría ayudar a lograr El Anticristo.
¿AI traerá condena o salvación?
Hay muchos escépticos que dudan de que la tecnología merece este tipo de miedo, incluido Dylan Baker, un ex empleado de Google e ingeniero de investigación líder en el Instituto de Investigación de AI distribuida, que estudia los impactos nocivos de la IA.
“Creo que a menudo están operando a partir de un pensamiento fantástico mágico informado por mucha ciencia ficción que presumiblemente obtuvieron en sus años de formación”, dijo Baker. “Están realmente separados de la realidad”.
Aunque los chatbots como ChatGPT solo penetraron recientemente al espíritu de los espíritus, ciertos círculos de Silicon Valley han profetizado el poder de la IA durante décadas.
Dario Amodei, CEO y cofundador de Anthrope, habla en la convocatoria de la Red Internacional de Institutos de Seguridad de AI en el Golden Gate Club en el Presidio en San Francisco, 20 de noviembre de 2024. Crédito: AP Photo/Jeff Chiu, Archivo
“Estamos tratando de despertar a la gente”, dijo Hinton. “Hacer que el público comprenda los riesgos para que el público presione a los políticos para que hagan algo al respecto”.
Si bien investigadores como Hinton advierten sobre la amenaza existencial que creen que la IA plantea para la humanidad, hay CEO y teóricos al otro lado del espectro que argumentan que estamos abordando una especie de apocalipsis tecnológico que marcará el comienzo de una nueva era de la evolución humana.
En un ensayo publicado El año pasado, titulada “Máquinas de la gracia amorosa: cómo AI podría transformar el mundo para mejor”, el CEO Anthrope Dario Amodei presenta su visión para un futuro “Si todo va bien con la IA”.
El empresario de IA predice “la derrota de la mayoría de las enfermedades, el crecimiento de la libertad biológica y cognitiva, el levantamiento de miles de millones de personas por pobreza para compartir las nuevas tecnologías, un renacimiento de la democracia liberal y los derechos humanos”.
Mientras AmoDei opta por la frase “AI poderosa”, otros usan términos como “la singularidad” o “Inteligencia General Artificial (AGI)”. Aunque los defensores de estos conceptos a menudo no están de acuerdo en cómo definirlos, se refieren ampliamente a un punto futuro hipotético en el que la IA superará la inteligencia a nivel humano, lo que potencialmente desencadena cambios rápidos e irreversibles en la sociedad.
El informático y autor Ray Kurzweil ha estado prediciendo desde la década de 1990 que los humanos algún día se fusionarán con la tecnología, un concepto a menudo llamado transhumanismo.
“No vamos a decir qué proviene de nuestro propio cerebro frente a lo que proviene de la IA. Todo se va a integrar dentro de nosotros mismos. Y nos hará más inteligentes”, dijo Kurzweil.
En su último libro, “La singularidad está más cerca: cuando nos fusionamos con la IA”, Kurzweil se duplica en sus predicciones anteriores. Él cree que para 2045 habremos “multiplicado nuestra propia inteligencia un millón”.
“Sí”, concedió finalmente cuando se le preguntó si considera que AI es su religión. Informa su sentido de propósito.
“Mis pensamientos sobre el futuro y el futuro de la tecnología y la rapidez con que se avecina definitivamente afecta mis actitudes hacia estar aquí y lo que estoy haciendo y cómo puedo influir en otras personas”, dijo.
El informático Geoffrey Hinton, quien estudia redes neuronales utilizadas en aplicaciones de inteligencia artificial, significa un retrato en la sede de Google’s Mountain View, California, el 25 de marzo de 2015. Crédito: AP Photo/Noah Berger, archivo
Visiones de la burbuja de apocalipsis
A pesar de la invocación explícita del lenguaje de Thiel del Libro de Apocalipsis, las visiones positivas de un futuro de IA son más “apocalípticos” en el sentido histórico de la palabra.
“En el mundo antiguo, el apocalíptico no es negativo”, explica Domenico Agostini, profesor de la Universidad de Nápoles L’Arientale que estudia literatura apocalíptica antigua. “Hemos cambiado completamente la semántica de esta palabra”.
El término “apocalipsis” proviene de la palabra griega “apokalypsis”, que significa “revelación”. Aunque a menudo se asocia hoy con el fin del mundo, los apocalipsis en el antiguo pensamiento judío y cristiano eran una fuente de aliento en tiempos de dificultad o persecución.
“Dios promete un mundo nuevo”, dijo el profesor Robert Geraci, quien estudia religión y tecnología en Knox College. “Para ocupar ese nuevo mundo, debes tener un nuevo cuerpo glorioso que triunfa sobre el mal que todos experimentamos”.
Geraci primero notó que el lenguaje apocalíptico se usaba para describir el potencial de la IA a principios de la década de 2000. Kurzweil y otros teóricos finalmente lo inspiraron a escribir su libro de 2010, “AI apocalíptica: visiones del cielo en robótica, inteligencia artificial y realidad virtual”.
El idioma le recordó al cristianismo primitivo. “Solo vamos a deslizar a Dios y deslizar vamos a … tu elección de leyes de ciencias cósmicas que supuestamente hacen esto y luego íbamos a tener el mismo tipo de futuro glorioso por venir”, dijo.
Geraci argumenta que este tipo de lenguaje no ha cambiado mucho desde que comenzó a estudiarlo. Lo que le sorprende es lo generalizado que se ha vuelto.
“Lo que una vez fue muy extraño es algo en todas partes”, dijo.
Esta foto de finales de la década de 1980 proporcionada por el Instituto Canadiense de Investigación Avanzada muestra al científico informático Geoffrey Hinton en Toronto. Crédito: Cifar a través de AP
¿Silicon Valley finalmente ha encontrado su Dios?
Un factor en el creciente culto a la IA es la rentabilidad.
“Hace veinte años, esa fantasía, verdadera o no, en realidad no estaba generando mucho dinero”, dijo Geraci. Ahora, sin embargo, “hay un incentivo financiero para Sam Altman diciendo que AGI está a la vuelta de la esquina”.
Pero Geraci, quien argumenta Chatgpt “, ni siquiera es remotamente, vagamente, consciente”, cree que puede haber más impulsar este fenómeno.
Históricamente, el mundo tecnológico ha estado notoriamente desprovisto de religión. Su reputación secular lo había precedido tanto que un episodio de la serie satírica de comedia de HBO, “Silicon Valley”, gira en torno a “excursión” a un compañero de trabajo como Christian.
En lugar de ver la veneración del mundo de la tecnología escéptica de la IA como irónica, Geraci cree que están causalmente vinculados.
“Los seres humanos somos profundamente, profundamente inherentemente religiosos”, dijo, y agregó que las impresionantes tecnologías detrás de la IA podrían atraer a las personas en Silicon Valley que ya han dejado de lado “enfoques ordinarios para la trascendencia y el significado”.
Ninguna religión es sin escépticos
No todos los CEO de Silicon Valley se han convertido, incluso si quieren en la tecnología.
Esta foto proporcionada por Ray Kurzweil lo muestra en Boston en agosto de 2024. Crédito: Cortesía Ray Kurzweil a través de AP
“Cuando las personas en la industria tecnológica hablan sobre la construcción de esta verdadera IA, es casi como si crean que están creando Dios o algo así”, dijo el CEO de Meta Zuckerberg. en un podcast El año pasado, mientras promovió la propia empresa de su empresa en la IA.
Aunque las teorías transhumanistas como las de Kurzweil se han generalizado, todavía no son ubicuas dentro del valle de Silicon.
“El caso científico para eso no es de ninguna manera más fuerte que el caso de una vida trasera religiosa”, argumenta Max Tegmark, un físico e investigador de aprendizaje automático en el Instituto de Tecnología de Massachusetts.
Al igual que Hinton, Tegmark ha sido franco sobre los riesgos potenciales de la IA no regulada. En 2023, como presidente del Future of Life Institute, Tegmark ayudó a encabezar y carta abierta Llamando a los poderosos laboratorios de IA para “detener inmediatamente” la capacitación de sus sistemas.
La carta recolectó más de 33,000 firmas, incluso de Elon Musk y el cofundador de Apple Steve Wozniak. Tegmark considera que la carta ha sido exitosa porque ayudó a “generar la conversación” sobre la seguridad de la IA, pero cree que su trabajo está lejos de terminar.
Con regulaciones y salvaguardas, Tegmark cree que la IA puede usarse como una herramienta para hacer cosas como las enfermedades de la cura y aumentar la productividad humana. Pero es imperativo, argumenta, mantenerse alejado de la raza “bastante marginal” que algunas compañías están ejecutando: “la búsqueda pseudoreligiosa para tratar de construir un Dios alternativo”.
“Hay muchas historias, tanto en textos religiosos como en, por ejemplo, mitología griega antigua, sobre cómo cuando los humanos comenzamos a jugar a los dioses, termina mal”, dijo. “Y siento que hay mucha arrogancia en San Francisco en este momento”.
© 2025 The Associated Press. Reservados todos los derechos. Este material no puede publicarse, transmitir, reescribirse o redistribirse sin permiso.
Cita: AI Apocalypse? Por qué el lenguaje que rodea la tecnología suena cada vez más religioso (2025, 29 de agosto) recuperado el 29 de agosto de 2025 de https://techxplore.com/news/2025-08-ai-apocalypse-language-tech-religious.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
