Una niña usa su teléfono inteligente en casa en Arizona el viernes 16 de junio de 2023. Crédito: AP Photo/Darryl Webb, archivo
La Comisión Federal de Comercio ha lanzado una investigación sobre varias redes sociales e compañías de inteligencia artificial sobre los posibles daños para niños y adolescentes que usan sus chatbots de IA como compañeros.
La FTC dijo el jueves que ha enviado cartas al Alphabet matriz de Google, Facebook e Instagram Meta Platforms, Snap, Technologies de personajes, el fabricante de chatgpt OpenAI y XAI.
La FTC dijo que quiere comprender qué pasos, si alguno, las compañías han tomado para evaluar la seguridad de sus chatbots cuando actúan como compañeros, para limitar el uso de los productos y los posibles efectos negativos en los niños y los adolescentes, y para informar a los usuarios y a los padres de los riesgos asociados con los chatbots.
El movimiento viene como un El creciente número de niños usa chatbots de IA Para todo, desde la tarea de ayuda hasta consejos personales, apoyo emocional y toma de decisiones diarias. Eso es a pesar de la investigación sobre los daños de los chatbots, que se ha demostrado que les da a los niños consejos peligrosos sobre temas como drogas, alcohol y trastornos alimentarios. La madre de un adolescente en Florida que se suicidó después de desarrollar lo que describió como una relación emocional y sexualmente abusiva con un chatbot ha presentado una demanda por muerte injusta contra el carácter. Y los padres de Adam Raine, de 16 años, demandaron recientemente a Openai y su CEO Sam Altman, alegando que ChatGPT entrenó al niño de California en la planificación y se quitó la vida a principios de este año.
El personaje. Ai dijo que está ansioso por “colaborar con la FTC en esta investigación y proporcionar información sobre la industria de la IA de los consumidores y la tecnología en rápida evolución del espacio”.
“Hemos invertido una gran cantidad de recursos en confianza, especialmente para una startup. En el último año hemos lanzado muchas características de seguridad sustantivas, incluida una experiencia de menores de 18 años y una característica de conocimientos de los padres”, dijo la compañía. “Tenemos renuncias destacadas en cada chat para recordar a los usuarios que un personaje no es una persona real y que todo lo que dice un personaje debe ser tratado como ficción”.
Meta declinó hacer comentarios sobre la consulta y el alfabeto, Snap, Openai y X.Ai no respondieron de inmediato a los mensajes para hacer comentarios.
Operai y Meta a principios de este mes anunciaron cambios en cómo sus chatbots responden a los adolescentes que hacen preguntas sobre suicidio o muestran signos de angustia mental y emocional. Operai dijo que es Llevando nuevos controles permitiendo a los padres vincular sus cuentas con la cuenta de su adolescente.
Los padres pueden elegir qué características deshabilitar y “recibir notificaciones cuando el sistema detecta a su adolescente está en un momento de angustia aguda”, según una publicación de blog de la compañía que dice que los cambios entrarán en vigencia este otoño.
Independientemente de la edad de un usuario, la compañía dice que sus chatbots intentarán redirigir las conversaciones más angustiantes a modelos de IA más capaces que pueden proporcionar una mejor respuesta.
Meta también dijo que ahora está bloqueando sus chatbots de hablar con adolescentes sobre autolesiones, suicidio, alimentación desordenada y conversaciones románticas inapropiadas, y en su lugar los dirige a los recursos expertos. Meta ya ofrece controles parentales en cuentas adolescentes.
Más información: Esta historia incluye la discusión del suicidio. Si usted o alguien que conoce necesita ayuda, el suicidio nacional y la crisis de crisis en los Estados Unidos están disponibles llamando o enviando mensajes de texto al 988.
© 2025 The Associated Press. Reservados todos los derechos. Este material no puede publicarse, transmitir, reescribirse o redistribirse sin permiso.
Cita: FTC Launces Investigación sobre los chatbots de IA que actúa como compañeros y sus efectos en los niños (2025, 11 de septiembre) recuperó el 11 de septiembre de 2025 de https://techxplore.com/news/2025-09-ftc-launces-inquiry-ai-chatbots.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
