Crédito: Escuela Politécnica Federal de Lausana
Las neuronas, las células nerviosas responsables de transmitir señales eléctricas y químicas en todo el cuerpo, se organizan en tejido, que tienden a agruparse en grupos de acuerdo con cómo funcionan. Por ejemplo, los estudios de idiomas han encontrado que hay grupos de neuronas que parecen especializarse en verbos y otros que se centran específicamente en los sustantivos, sin embargo, los investigadores no están seguros de cómo se forman estos grupos funcionales.
Los modelos de lenguaje de IA anteriores han podido capturar con éxito estos grupos individuales de neuronas funcionales, pero no han analizado cómo se organizan espacialmente en el cerebro.
Ahora, los investigadores del Laboratorio Neuroai, parte de la Escuela de Ciencias de la Comunidad y Comunicación (IC) y de la Escuela de Ciencias de la Vida (SV), han creado Topolm, un nuevo modelo de lenguaje de IA que imita tanto la agrupación funcional de las neuronas y, por primera vez, cómo estas células nerviosas están preparadas espacialmente dentro del cerebro.
“Sobre la base del trabajo en torno a cómo el cerebro procesa la visión, realizamos algunos cambios relativamente pequeños en cómo un modelo de lenguaje se organiza internamente, agregando una regla que fomenta las representaciones internas del modelo a ser” suaves “espacialmente.
“El modelo resultante, Topolm, desarrolla grupos espaciales de sus componentes internos que coinciden funcionalmente con la actividad que vemos en los cerebros humanos cuando procesan el lenguaje”, explicó el profesor asistente Martin Schrimpf, jefe del laboratorio de Neuroai.
En su artículo, “Topolm: organización espacial-funcional similar al cerebro en un modelo de lenguaje topográfico”, uno de los menos del 2% de los documentos seleccionados para presentarse oralmente esta semana en ICLR 2025, la conferencia internacional sobre representaciones de aprendizaje, los investigadores describen cómo Topolm predijo con éxito el sistema de idiomas en la capa externa del cerebro, la corteza de la corteza, desarrolla su organización sospechi-financiera. El documento también está disponible en el servidor ARXIV Preprint.
“Esta fue una investigación básica para comprender cómo los grupos espaciales o los grupos funcionales en el cerebro se originan en primer lugar y lo que este nuevo modelo sugiere es que podría ser impulsado por una sola regla básica sobre la organización espacial donde cerca de las neuronas tienden a comportarse de manera similar”, continuó Schrimpf.
Los investigadores creen que Topolm proporciona un marco para mejorar la alineación funcional de la IA con la cognición humana, ofreciendo aplicaciones directas al desarrollo de la informática y la neurolingüística inspiradas en el cerebro.
“Este es un paso emocionante hacia la construcción de sistemas de inteligencia artificial que se organizan más como el cerebro humano. Uno de nuestros objetivos principales es construir mejores modelos del cerebro en general y con Topolm estamos un paso más cerca de las aplicaciones clínicas que podrían ayudarnos a ayudar a las personas con trastornos lingüísticos o déficit de lenguaje similares”, dijo Badr Alkhamissi, Asistente doctoral en el Laboratorio de Laborator Nuroai de Neuroai y el Laboratorio de Languetes Naturales de IC y los Laboratorios de Languacres Naturales (NLP).
Este trabajo también arroja luz sobre la interpretabilidad, básicamente la comprensión de lo que sucede dentro de los modelos de lenguaje grande complejo (LLM) y cómo funcionan realmente. Normalmente, los LLM tienen representaciones matemáticas llamadas “vectores” asociados con cada “neurona” artificial. Para comprender lo que el modelo ha aprendido, sería necesario analizar cada vector individualmente o en grupos pequeños.
Debido a que Topolm organiza sus componentes internos en grupos, es posible mirarlos y ver agrupaciones significativas emerger. Esto hace que sea más sencillo tener una idea de cómo el modelo representa y procesa el lenguaje porque la organización misma refleja categorías significativas.
Entonces, ¿qué sigue en esta investigación de vanguardia? El equipo de investigación de EPFL ahora trabajará para probar las predicciones del modelo en cerebros humanos.
“Este modelo funciona muy bien, mucho mejor de lo que esperábamos, que queremos probar si sus predicciones son ciertas. Hay grupos en el modelo que aún no hemos observado en el cerebro humano porque nadie las ha buscado todavía. Trabajaremos con colegas en los Estados Unidos que trabajan experimentalmente con humanos para ejecutar un nuevo estudio de imágenes para descubrir si estos clusters también aparecen en el cerebro humano”, concluyó la académica “. Concluyó concluyendo.
Más información: Neil Rathi et al, Topolm: organización espacial-funcional con forma de cerebro en un modelo de lenguaje topográfico, ARXIV (2024). Doi: 10.48550/arxiv.2410.11516
Información en la revista: ARXIV proporcionado por Ecole Polytechnique Federal de Lausanne
Cita: el modelo de IA del lenguaje en el cerebro captura tanto cómo se organizan las neuronas como en cómo funcionan (2025, 24 de abril) recuperado el 24 de abril de 2025 de https://techxplore.com/news/2025-04-ai-language-brain-capturs-neurons.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
