Crédito: Dominio público de Pixabay/CC0
Como creadores de significados, utilizamos un lenguaje hablado o firmado para comprender nuestras experiencias en el mundo que nos rodea. La aparición de inteligencia artificial generativa, como el chatGPT (usando modelos de idiomas grandes), pone en duda la noción de cómo definir “significado”.
Una caracterización popular de las herramientas de IA es que “entienden” lo que están haciendo. El laureado Nobel y el pionero de AI Geoffrey Hinton dijeron: “Lo que realmente me sorprende es lo buenas que son las redes neuronales para comprender el lenguaje natural, eso sucedió mucho más rápido de lo que pensaba … y todavía estoy sorprendido de que realmente entiendan lo que dicen”.
Hinton repitió esta afirmación en una entrevista con Adam Smith, director científico de la divulgación del Premio Nobel. En él, Hinton declaró que “las redes neuronales son mucho mejores para procesar el lenguaje que cualquier cosa producida por la Escuela de Lingüística de Chomskyan”.
La lingüística de Chomskyan se refiere a las teorías del lingüista estadounidense Noam Chomsky sobre la naturaleza del lenguaje humano y su desarrollo. Chomsky propone que hay una gramática universal innata en humanos, que permite la adquisición de cualquier idioma desde el nacimiento.
He estado investigando cómo los humanos entienden el lenguaje desde la década de 1990, incluidos más de 20 años de estudios sobre la neurociencia del lenguaje. Esto ha incluido la medición de la actividad de las ondas cerebrales mientras las personas leen o escuchan oraciones. Dada mi experiencia, tengo que estar respetuosamente en desacuerdo con la idea de que AI puede “comprender”, a pesar de la creciente popularidad de esta creencia.
Texto generador
Primero, es desafortunado que la mayoría de las personas combinen el texto en una pantalla con un lenguaje natural. El texto escrito está relacionado con, pero no es lo mismo que, el lenguaje.
Por ejemplo, el mismo lenguaje puede representarse por símbolos visuales muy diferentes. Mira hindi y urdu, por ejemplo. En niveles de conversación, estos son mutuamente inteligibles y, por lo tanto, se consideran el mismo lenguaje por los lingüistas. Sin embargo, usan scripts de escritura completamente diferentes. Lo mismo es cierto para serbio y croata. El texto escrito no es lo mismo que “lenguaje”.
A continuación, echemos un vistazo a la afirmación de que los algoritmos de aprendizaje automático “entienden” el lenguaje natural. La comunicación lingüística se realiza cara a cara, en un contexto ambiental particular compartido entre el hablante y el oyente, junto con señales como el tono hablado y el tono, el contacto visual y las expresiones faciales y emocionales.
La importancia del contexto
Hay mucho más en entender lo que dice una persona que simplemente poder comprender sus palabras. Incluso los bebés, que aún no son expertos en el lenguaje, pueden comprender las señales de contexto.
Tome, por ejemplo, la oración simple: “Estoy embarazada” y sus interpretaciones en diferentes contextos. Si me pronuncia, a mi edad, es probable que mi esposo se quede muerto de incredulidad. Compare ese nivel de comprensión y respuesta a un adolescente que le cuenta a su novio sobre un embarazo no planificado, o una esposa que le dice a su esposo las noticias después de años de tratamientos de fertilidad.
En cada caso, el destinatario del mensaje atribuye un tipo diferente de significado y comprensión a la misma oración.
En mi propia investigación reciente, he demostrado que incluso el estado emocional de un individuo puede alterar los patrones de ondas cerebrales al procesar el significado de una oración. Nuestros cerebros (y, por lo tanto, nuestros pensamientos y procesos mentales) nunca carecen de contexto emocional, como otros neurocientíficos también han señalado.
Entonces, si bien algún código de computadora puede responder al lenguaje humano en forma de texto, no se acerca a capturar lo que los humanos, y sus cerebros, se comprometen en su comprensión.
Vale la pena recordar que cuando los trabajadores de la IA hablan sobre redes neuronales, se refieren a algoritmos informáticos, no a las redes cerebrales biológicas reales que caracterizan la estructura y la función del cerebro. Imagínese constantemente confundiendo la palabra “vuelo” (como en las aves migrando) versus “vuelo” (como en las rutas de las aerolíneas), ¡esto podría conducir a algunos malentendidos graves!
Finalmente, examinemos la afirmación sobre el lenguaje de procesamiento de redes neuronales mejor que las teorías producidas por la lingüística de Chomskyan. Este campo supone que todos los idiomas humanos pueden entenderse a través de sistemas gramaticales (además del contexto), y que estos sistemas están relacionados con alguna gramática universal.
Chomsky realizó una investigación sobre la teoría sintáctica como teórico de papel y lápiz. No realizó experimentos sobre las bases psicológicas o neurales de la comprensión del lenguaje. Sus ideas en lingüística están absolutamente en silencio sobre los mecanismos subyacentes al procesamiento y comprensión de las oraciones.
Sin embargo, lo que hace la Escuela de Lingüística de Chomskyan es hacer preguntas sobre cómo los bebés humanos y los niños pequeños pueden aprender el lenguaje con tanta facilidad, salvo cualquier déficit neurobiológico o trauma físico.
Hay al menos 7,000 idiomas en el planeta, y nadie puede elegir donde nacen. Eso significa que el cerebro humano debe estar listo para comprender y aprender el lenguaje de su comunidad al nacer.
De este hecho sobre el desarrollo del lenguaje, Chomsky planteó un módulo innato (abstracto) para el aprendizaje de idiomas, no el procesamiento. Desde el punto de vista neurobiológico, el cerebro debe estar listo para comprender el lenguaje desde el nacimiento.
Si bien hay muchos ejemplos de especialización en lenguaje en bebés, los mecanismos neuronales precisos aún son desconocidos, pero no incognoscibles. Pero los objetos de estudio se vuelven incognoscibles cuando los términos científicos se usan mal o se aplican mal. Y este es precisamente el peligro: combinar la IA con la comprensión humana puede conducir a consecuencias peligrosas.
Proporcionado por la conversación
Este artículo se vuelve a publicar de la conversación bajo una licencia Creative Commons. Lea el artículo original.
Cita: Un neurocientífico explica por qué es imposible para la IA ‘comprender’ el lenguaje (2025, 5 de junio) recuperado el 5 de junio de 2025 de https://techxplore.com/news/2025-06-neurocientist-impossible-ai-language.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
