Investigadores de la Universidad de California, Santa Cruz, han demostrado que un texto simple y engañoso colocado en el entorno físico puede secuestrar el comportamiento de robots habilitados para IA sin piratear su software. El estudio advierte que los vehículos autónomos, los robots de reparto y los drones guiados por cámaras que dependen de modelos de visión y lenguaje de gran tamaño podrían malinterpretar el texto de carteles, carteles u objetos como comandos, anulando las instrucciones previstas. Dirigido por Álvaro Cárdenas y Cihang Xie, el equipo creó un canal de ataque llamado CHAI (secuestro de comandos contra IA incorporada) que utiliza IA generativa para elaborar tanto la redacción como la apariencia de “indicaciones visuales”, optimizando factores como el color, el tamaño y la ubicación.
