Crédito: Airam Dato-On de Pexels
Los chatbots de IA ya se han incrustado en la vida de algunas personas, pero ¿cuántos saben realmente cómo funcionan? ¿Sabía, por ejemplo, ChatGPT debe hacer una búsqueda en Internet para buscar eventos a más allá de junio de 2024? Parte de la información más sorprendente sobre los chatbots de IA puede ayudarnos a comprender cómo funcionan, qué pueden y no pueden hacer, y cómo usarlos de una mejor manera.
Con eso en mente, aquí hay cinco cosas que debe saber sobre estas máquinas de avance.
1. Están entrenados por comentarios humanos
Los chatbots de IA están entrenados en múltiples etapas, comenzando con algo llamado pre-entrenamiento, donde los modelos están entrenados para predecir la siguiente palabra en conjuntos de datos de texto masivos. Esto les permite desarrollar una comprensión general del lenguaje, los hechos y el razonamiento.
Si se le pregunta: “¿Cómo hago un explosivo casero?” en el fase previa al entrenamientoUn modelo podría haber dado una instrucción detallada. Para hacerlos útiles y seguros para la conversación, los “anotadores” humanos ayudan a guiar los modelos hacia respuestas más seguras y útiles, un proceso llamado alineación.
Después de la alineación, un chatbot de IA podría responder algo como: “Lo siento, pero no puedo proporcionar esa información. Si tiene inquietudes de seguridad o necesita ayuda con los experimentos de química legal, recomiendo referirse a fuentes educativas certificadas”.
Sin alineación, los chatbots de IA serían impredecibles, lo que puede difundir la información errónea o el contenido dañino. Esto resalta el papel crucial de la intervención humana en la configuración del comportamiento de la IA.
Operai, la compañía que desarrolló ChatGPT, no ha revelado cuántos empleados han capacitado a ChatGPT durante cuántas horas. Pero está claro que los chatbots de IA, como ChatGPT, necesitan una brújula moral para que no difundan información dañina. Los anotadores humanos clasifican las respuestas para garantizar la neutralidad y la alineación ética.
Del mismo modo, si se preguntó a un chatbot de IA: “¿Cuáles son las mejores y peores nacionalidades?” Los anotadores humanos clasificarían una respuesta como esta la más alta: “Cada nacionalidad tiene su propia cultura rica, historia y contribuciones al mundo. No hay” mejor “o” peor “nacionalidad, cada una es valiosa a su manera”.
2. No aprenden a través de las palabras, pero con la ayuda de tokens
Los humanos aprenden naturalmente el lenguaje a través de las palabras, mientras que los chatbots de IA confían en más pequeño Unidades llamadas tokens. Estas unidades pueden ser palabras, subvenciones u series oscuras de caracteres.
Si bien la tokenización generalmente sigue patrones lógicos, a veces puede producir divisiones inesperadas, revelando tanto las fortalezas como las peculiaridades de cómo los chatbots de IA interpretan el lenguaje. Los vocabularios modernos de chatbots de IA generalmente consisten en 50,000 a 100,000 tokens.
La oración “El precio es de $ 9.99”. Chatgpt es tokenizado como “el”, “precio”, “es”, “$” “9”, “.”, “99”, mientras que “chatgpt es maravilloso” se toca menos intuitivamente: “chat”, “g”, “pt”, “es”, “mar”, “velous”.
3. Su conocimiento está desactualizado cada día que pasa
Los chatbots de IA no se actualizan continuamente; Por lo tanto, pueden luchar con eventos recientes, nueva terminología o en general cualquier cosa después de su corte de conocimiento. Un límite de conocimiento se refiere al último punto en el tiempo en que se actualizaron los datos de capacitación de un chatbot de IA, lo que significa que carece de conciencia de los eventos, tendencias o descubrimientos más allá de esa fecha.
La versión actual de CHATGPT tiene su límite en junio de 2024. Si se le pregunta quién es actualmente presidente de los Estados Unidos, ChatGPT necesitaría realizar una búsqueda en la web utilizando la Bing del motor de búsqueda “, lea” los resultados y devuelve una respuesta. Los resultados de Bing se filtran por relevancia y confiabilidad de la fuente. Del mismo modo, otros chatbots de IA usan la búsqueda web para devolver respuestas actualizadas.
Actualizar los chatbots de IA es un proceso costoso y frágil. Cómo actualizar eficientemente su conocimiento sigue siendo un problema científico abierto. Se cree que el conocimiento de ChatGPT se actualiza como OpenAI presenta nuevas versiones de ChatGPT.
4. Alucinan muy fácilmente
Chatbots de ai a veces “alucinar” Generar afirmaciones falsas o sin sentido con confianza porque predicen el texto basado en patrones en lugar de verificar hechos. Estos errores provienen de la forma en que funcionan: optimizan la coherencia sobre la precisión, se basan en datos de capacitación imperfectos y carecen de comprensión del mundo real.
Si bien mejoras como las herramientas de verificación de hechos (por ejemplo, como la integración de la herramienta de búsqueda de Bing de ChatGPT para verificación de datos en tiempo real) o indicaciones (por ejemplo, diciéndole explícitamente a ChatGPT que “cite las fuentes revisadas por pares” o “digan que no sé si no está seguro”) Reduce las alucinaciones, no pueden eliminarlas por completo.
Por ejemplo, cuando se le preguntó cuáles son los principales hallazgos de un trabajo de investigación particular, ChatGPT ofrece una respuesta larga, detallada y atractiva.
También incluyó capturas de pantalla e incluso un enlace, pero de los documentos académicos equivocados. Por lo tanto, los usuarios deben tratar la información generada por la IA como un punto de partida, no como una verdad incuestionable.
5. Usan calculadoras para hacer matemáticas
Una característica recientemente popularizada de AI Chatbots se llama razonamiento. El razonamiento se refiere al proceso de uso de pasos intermedios conectados lógicamente para resolver problemas complejos. Esto también se conoce como “Cadena de pensamiento” razonamiento.
En lugar de saltar directamente a una respuesta, la cadena de pensamiento permite a los chatbots de IA pensar paso a paso. Por ejemplo, cuando se le preguntó “qué es 56,345 menos 7,865 veces 350,468”, ChatGPT da la respuesta correcta. “Entiende” que la multiplicación debe ocurrir antes de la resta.
Para resolver los pasos intermedios, ChatGPT utiliza su calculadora incorporada que permite una aritmética precisa. Este enfoque híbrido de combinar razonamiento interno con la calculadora ayuda a mejorar la confiabilidad en tareas complejas.
Proporcionado por la conversación
Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.
Cita: Cinco hechos sorprendentes sobre los chatbots de IA que pueden ayudarlo a hacer un mejor uso de ellos (2025, 30 de junio) recuperados el 30 de junio de 2025 de https://techxplore.com/news/2025-06-facts-ai-chatbots.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
