Dibujo esquemático del modelo de espacio de estado oscilatorio lineal propuesto (Linoss). Crédito: ARXIV (2024). Doi: 10.48550/arxiv.2410.03943
Investigadores del Laboratorio de Informática e Inteligencia Artificial del MIT (CSAIL) han desarrollado un nuevo modelo de inteligencia artificial (IA) inspirado en oscilaciones neurales en el cerebro, con el objetivo de avanzar significativamente en cómo los algoritmos de aprendizaje automático manejan largas secuencias de datos.
La IA a menudo lucha por el análisis de información compleja que se desarrolla durante largos períodos de tiempo, como tendencias climáticas, señales biológicas o datos financieros. Un nuevo tipo de modelo de IA llamado “modelos de espacio de estado” se ha diseñado específicamente para comprender estos patrones secuenciales de manera más efectiva. Sin embargo, los modelos existentes del espacio de estado a menudo enfrentan desafíos: pueden volverse inestables o requerir una cantidad significativa de recursos computacionales al procesar secuencias de datos largas.
Para abordar estos problemas, los investigadores de CSAIL T. Konstantin Rusch y Daniela Rus han desarrollado lo que llaman “modelos lineales del espacio oscilatorio del estado” (Linos), que aprovechan los principios de los osciladores armónicos forzados, un concepto profundamente arraigado en la física y observados en las redes neuronales biológicas.
Este enfoque proporciona predicciones estables, expresivas y computacionalmente eficientes sin condiciones demasiado restrictivas en los parámetros del modelo. El trabajo está disponible en el servidor ARXIV Preprint.
“Nuestro objetivo era capturar la estabilidad y la eficiencia observadas en los sistemas neuronales biológicos y traducir estos principios en un marco de aprendizaje automático”, explicó Rusch. “Con Linoss, ahora podemos aprender de manera confiable interacciones de largo alcance, incluso en secuencias que abarcan cientos de miles de puntos de datos o más”.
El modelo Linoss es único para garantizar una predicción estable al requerir opciones de diseño mucho menos restrictivas que los métodos anteriores. Además, los investigadores demostraron rigurosamente la capacidad de aproximación universal del modelo, lo que significa que puede aproximar cualquier función continua y causal que relacione la secuencia de entrada y salida.
Las pruebas empíricas demostraron que Linoss superó consistentemente a los modelos de estado existentes de última generación en varias tareas de clasificación de secuencia y pronóstico exigentes. En particular, Linoss superó al modelo Mamba ampliamente utilizado en casi dos veces en tareas que involucran secuencias de longitud extrema.
Reconocido por su importancia, la investigación fue seleccionada para una presentación oral en ICLR 2025, un honor otorgado solo al 1% superior de las presentaciones. Los investigadores del MIT anticipan que el modelo Linoss podría afectar significativamente cualquier campo que se beneficie de la pronóstico y clasificación de Horizon Long Horizon precisos y eficientes, incluida la analítica de atención médica, la ciencia climática, la conducción autónoma y el pronóstico financiero.
“Este trabajo ejemplifica cómo el rigor matemático puede conducir a avances de rendimiento y amplias aplicaciones”, dijo Rus. “Con Linoss, estamos proporcionando a la comunidad científica una herramienta poderosa para comprender y predecir sistemas complejos, cerrando la brecha entre la inspiración biológica y la innovación computacional”.
El equipo se imagina que la aparición de un nuevo paradigma como Linoss será de interés para los profesionales del aprendizaje automático para construir. Mirando hacia el futuro, los investigadores planean aplicar su modelo a una gama más amplia de modalidades de datos diferentes. Además, sugieren que Linoss podría proporcionar información valiosa sobre la neurociencia, potencialmente profundizando nuestra comprensión del cerebro en sí.
Más información: T. Konstantin Rusch et al, Modelos de espacio de estado oscilatorio, ARXIV (2024). Doi: 10.48550/arxiv.2410.03943
Información en la revista: ARXIV proporcionado por el Instituto de Tecnología de Massachusetts
Cita: el modelo de IA basado en oscilaciones neuronales ofrece predicciones estables y eficientes de secuencia larga (28 de abril, 28 de abril) recuperado el 28 de abril de 2025 de https://techxplore.com/news/2025-04-ai basado en neural-oscilations-stable.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
