Con algunos trucos, los modelos de IA también pueden ejecutarse en dispositivos de baja recursos. Crédito: Lunghammer – Tu Graz
La inteligencia artificial se considera que es computacionista y intensiva en energía, un desafío para el Internet de las cosas (IoT), donde los sensores pequeños e incrustados tienen que conformarse con potencia informática limitada, poca memoria y pequeñas baterías.
En el proyecto E-Minds, un equipo de investigación del Comet K1 Center Pro2 Future, la Universidad Tecnológica de Graz (TU Graz) y la Universidad de St. Gallen han encontrado formas de ejecutar IA de manera local y eficiente en los dispositivos más pequeños, sin tener que confiar en el poder informático externo. Por ejemplo, ha sido posible ejecutar modelos de IA especializados en un dispositivo de localización de banda ultra ancha con solo 4 kilobytes de memoria, que calculan las fuentes de interferencia a partir de los datos de ubicación.
Aplicando algunos trucos
“Por supuesto, estos dispositivos pequeños no ejecutan modelos de idiomas grandes, sino modelos con tareas muy específicas, por ejemplo, estimando distancias”, dice Michael Krisper, jefe del proyecto en Pro2Future and Scientist en el Instituto de Informática Técnica de TU Graz.
“Pero también tienes que obtener estos modelos lo suficientemente pequeños primero. Esto requiere algunos trucos y son precisamente estos trucos en los que hemos estado trabajando como parte del proyecto”.
El resultado es un tipo de sistema modular que consta de varios métodos que, cuando se combinan, entregan el resultado deseado. Una de ellas es la división de los modelos y su orquestación. En lugar de un modelo universal, hay varios modelos pequeños y especializados disponibles.
En la tecnología de localización investigada en cuentas electrónicas, esto significa que un modelo funciona en caso de interferencia de las paredes de metal, otro en caso de interferencia de las personas y otro en caso de interferencia de los estantes.
Un modelo de orquestación en el chip respectivo reconoce qué interferencia está presente y carga el modelo AI apropiado del servidor dentro de alrededor de 100 milisegundos, lo que puede calcular el factor de interferencia de los datos. Esto sería lo suficientemente rápido para aplicaciones industriales como almacenes.
Doblar, ajustar, recortar
Las redes configurables del subespacio (SCN) son otro método dentro del sistema modular. Estos son modelos que se adaptan a la entrada de datos en lugar de tener un modelo separado para cada variante de entrada. Estos SCN se utilizaron para tareas de reconocimiento de imágenes, como la clasificación de objetos, y demostraron ser extremadamente productivos.
Para los cambios de imagen o las clasificaciones de frutas probadas en dispositivos IoT, fue posible calcular las imágenes hasta 7.8 veces más rápido que usar recursos externos, a pesar de que los modelos eran más pequeños y más eficientes en la energía. Se logran reducciones adicionales al doblar la estructura matemática del modelo sin perder demasiada precisión.
Lo mismo se aplicó a las técnicas de cuantificación y poda. Durante la cuantización, los investigadores simplificaron los números utilizados por el modelo. En lugar de números de punto flotante, se usaron enteros, lo que nuevamente ahorró energía y tiempo de computación con una pérdida aceptable de precisión para las aplicaciones deseadas.
La poda, por otro lado, implica analizar un modelo terminado y eliminar las partes que no son importantes para el resultado final deseado. Esto se debe a que el modelo aún será capaz de cumplir la tarea central, incluso cuando se descargan muchas partes (insignificantes). Era importante que los investigadores encontraran el equilibrio correcto entre la miniaturización y la precisión restante de todas las técnicas.
Además de la exitosa miniaturización, el equipo del proyecto también realizó investigaciones sobre la implementación eficiente de los modelos de IA para que puedan transferirse a los dispositivos pequeños más rápidamente.
Resultados transferibles a otras áreas
Mientras que el enfoque de las mierdas electrónicas estaba en la localización inalámbrica de banda ultra ancha (UWB) para determinar la posición exacta de los drones, transbordadores o robots en la automatización industrial a pesar de los obstáculos y la interferencia, los investigadores ven muchos otros campos de la aplicación. Por ejemplo, como medida de seguridad adicional para los abridores de automóviles sin llave para determinar si la llave está realmente cerca del automóvil y alguien no solo está copiando la señal de radio.
Con modelos de IA eficientes, los controles remotos del hogar inteligente tendrían una duración de batería mucho más larga y las bibliotecas podrían rastrear sus libros.
“Con una nueva experiencia y nuevos métodos, hemos establecido una base para futuros productos y aplicaciones en el proyecto E-Minds”, dice Michael Krisper.
“Nuestro equipo de proyecto se complementó perfectamente aquí. En Pro2Future, nos centramos en sistemas integrados e implementación en el hardware.
“Olga Saukh trabajó con colegas del Instituto de Informática Técnica de Tu Graz para desarrollar importantes fundaciones científicas en el campo del aprendizaje automático integrado y contribuyó a los métodos de optimización del modelo, y Simon Mayer contribuyó con un importante trabajo de investigación en el campo de la localización en la Universidad de St. Gallen”.
Proporcionado por la Universidad Tecnológica de Graz
Cita: los modelos AI se encogen para adaptarse a dispositivos pequeños, habilitando sensores de IoT más inteligentes (2025, 26 de junio) recuperado el 26 de junio de 2025 de https://techxplore.com/news/2025-06-ai-tiny-devices-enabling-smarter.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
