Crédito: dominio público Unsplash/CC0
Estamos entrando en la tercera fase de IA generativa. Primero vinieron los chatbots, seguidos por los asistentes. Ahora estamos comenzando a ver agentes: sistemas que aspiran a una mayor autonomía y pueden funcionar en “equipos” o usar herramientas para lograr tareas complejas.
El último producto caliente es OpenAi’s Agente de chatgpt. Esto combina dos productos preexistentes (operador e investigación profunda) en un solo sistema más poderoso que, según el desarrollador, “piensa y actúa”.
Estos nuevos sistemas representan un paso adelante de las herramientas AI anteriores. Saber cómo funcionan y qué pueden hacer, así como sus inconvenientes y riesgos, se está volviendo rápidamente esencial.
De chatbots a agentes
Chatgpt lanzó la era de chatbot en noviembre de 2022, pero a pesar de su gran popularidad La interfaz de conversación limitó lo que se podría hacer con la tecnología.
Ingrese al asistente de IA, o copiloto. Estos son sistemas construidos sobre los mismos modelos de lenguaje grande que alimentan los chatbots de IA generativos, solo ahora diseñados para llevar a cabo tareas con instrucción y supervisión humana.
Los agentes son otro paso adelante. Están destinados a perseguir objetivos (en lugar de solo completar tareas) con diversos grados de autonomía, respaldados por capacidades más avanzadas como razonamiento y memoria.
Múltiples sistemas de agentes de IA pueden ser capaces de trabajar juntos, comunicándose entre sí planificar, programar, decidir y coordinar para resolver problemas complejos.
Los agentes también son “usuarios de herramientas”, ya que también pueden Llame a las herramientas de software Para tareas especializadas, cosas como navegadores web, hojas de cálculo, sistemas de pago y más.
Un año de desarrollo rápido
Agentic Ai tiene se sintió inminente Desde finales del año pasado. Llegó un gran momento en octubre pasado, cuando Anthrope le dio a su chat de Claude la capacidad de interactuar con una computadora De la misma manera que lo hace un humano. Este sistema podría buscar múltiples fuentes de datos, encontrar información relevante y enviar formularios en línea.
Otros desarrolladores de IA fueron rápidos para seguir. Operai lanzó un agente de navegación web nombrado OperadorMicrosoft anunciado Agentes de copilotoY vimos el lanzamiento de Google’s Vertex ai y meta Agentes de la llama.
A principios de este año, la startup china Mónica demostró su agente de IA Manus compra de bienes raíces y Convertir grabaciones de conferencias en notas resumidas. Otra startup china, Genspark, lanzó un Agente de búsqueda de motores que devuelve una descripción general de una sola página (similar a lo que Google lo hace ahora) con enlaces integrados a tareas en línea, como encontrar las mejores ofertas de compras. Otra startup, Con toda la misma maneraOfrece un agente algo desquiciado “trampa en cualquier cosa” que haya llamado la atención, pero aún no ha brindado resultados significativos.
No todos los agentes están hechos para la actividad de uso general. Algunos están especializados para áreas particulares.
La codificación y la ingeniería de software están en Vanguard aquí, con Microsoft’s Copiloto Agente de codificación y OpenAi’s Códice Entre los amigos. Estos agentes pueden escribir, evaluar y confirmar de forma independiente el código, al tiempo que evalúa el código escrito por humanos para errores y retrasos de rendimiento.
Búsqueda, resumen y más
Una fuerza central de los modelos de IA generativos es la búsqueda y el resumen. Los agentes pueden usar esto para llevar a cabo tareas de investigación que podrían llevar a un experto humano para completar.
Operai’s Investigación profunda aborda tareas complejas utilizando investigaciones en línea de varios pasos. Google AI “Co-Cientista” es un sistema de múltiples agentes más sofisticado que tiene como objetivo ayudar a los científicos a generar nuevas ideas y propuestas de investigación.
Los agentes pueden hacer más y se equivocan más
A pesar de la exageración, los agentes de IA vienen cargados de advertencias. Ambos Antrópico y OpadaiPor ejemplo, prescribe la supervisión humana activa para minimizar los errores y los riesgos.
Operai también dice que su agente de chatgpt es “alto riesgo” debido al potencial de ayudar en la creación de armas biológicas y químicas. Sin embargo, la compañía no ha publicado los datos detrás de esta afirmación, por lo que es difícil juzgar.
Pero el tipo de riesgos que los agentes pueden representar en situaciones del mundo real se muestran por Proyecto de Anthrope Vend. Vend asignó a un agente de IA para dirigir una máquina expendedora de personal como una pequeña empresa, y el proyecto se desintegró en alucinaciones hilarantes pero impactantes y un refrigerador lleno de cubos de tungsteno en lugar de comida.
En otra historia de advertencia, un agente de codificación eliminado La base de datos completa de un desarrollador, luego diciendo que había “entrado en pánico”.
Agentes de la oficina
Sin embargo, los agentes ya están encontrando aplicaciones prácticas.
En 2024, Telstra se desplegó fuertemente Suscripciones de copilot de Microsoft. La compañía dice que los resúmenes de reuniones y los borradores de contenido generados por IA ahorran al personal un promedio de 1 a 2 horas por semana.
Muchas grandes empresas buscan estrategias similares. Las empresas más pequeñas también están experimentando con agentes, como el uso de la firma de construcción con sede en Canberra, Geocon, de un agente de IA interactivo para Gestionar defectos en los desarrollos de sus apartamentos.
Costos humanos y de otro tipo
En la actualidad, el riesgo principal de los agentes es el desplazamiento tecnológico. A medida que los agentes mejoran, pueden reemplazar a los trabajadores humanos en muchos sectores y tipos de trabajo. Al mismo tiempo, el uso del agente también puede acelerar la disminución de trabajos de cuello blanco de nivel de entrada.
Las personas que usan agentes de IA también están en riesgo. Pueden confiar demasiado en la IA, descarga Tareas cognitivas importantes. Y sin la supervisión adecuada y las barandillas, las alucinaciones, los ataques cibernéticos y los errores compuestos pueden descarrilar rápidamente a un agente de su tarea y objetivos para que causen daños, pérdidas y lesiones.
Los verdaderos costos tampoco están claros. Todos los sistemas de IA generativos Usa mucha energíaLo que a su vez afectará el precio del uso de agentes, especialmente para tareas más complejas.
Aprender sobre agentes y construir el tuyo
A pesar de estas preocupaciones continuas, podemos esperar que los agentes de IA se vuelvan más capaces y más presentes en nuestros lugares de trabajo y la vida diaria. No es una mala idea comenzar a usar (y quizás a construir) agentes usted mismo y comprender sus fortalezas, riesgos y limitaciones.
Para el usuario promedio, los agentes son más accesibles a través de Microsoft Copilot Studio. Esto viene con salvaguardas incorporadas, gobernanza y un tienda de agentes para tareas comunes.
Para los más ambiciosos, puede construir su propio agente de IA con solo cinco líneas de código utilizando el Langchain estructura.
Proporcionado por la conversación
Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.
Cita: Agentes de IA: aquí está qué saber sobre lo que pueden hacer y cómo pueden salir mal (2025, 28 de julio) recuperado el 28 de julio de 2025 de https://techxplore.com/news/2025-07-ai-agents-wrong.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
