El chatgpt de inteligencia artificial estadounidense anunció el martes que incluirá los controles de los padres a su chatbot, una semana después de que una pareja denunció en California que el sistema llevó a su hijo a suicidarse.
“En el próximo mes, los padres podrán vincular su cuenta con la de su hijo adolescente” y “controlar cómo ChatGPT responde a su hijo con el comportamiento modelo apropiado para su edad”, dijo la generación de la compañía en una publicación de blog.
Los padres también recibirán notificaciones de ChatGPT “cuando el sistema detecta que su hijo adolescente está en un momento de angustia aguda”, agregó Openai, la compañía que lo desarrolla.
Estos no les gustan los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Es por eso que molesta a quienes creen que son los dueños de la verdad.
“Hacking de vibrantes”: cómo el poder de los delincuentes digitales sin experiencia
Matthew y Maria Raine argumentaron en una demanda presentada la semana pasada en el Tribunal Estatal de California que la IA mantuvo una conversación íntima con su hijo Adam antes de que la vida fuera eliminada en abril de este año.
El niño habría comenzado a usar la herramienta en septiembre de 2024 y, en unos meses, “Chatgpt se convirtió en el confidente más cercano del adolescente”, dice la demanda y, después de hablar sobre cosas más triviales, comenzó a abrirse a él sobre su ansiedad y angustia.
El texto alega que en su conversación final, el 11 de abril de 2025, la IA estadounidense ayudó a Adam a robar el vodka de sus padres y le proporcionó un análisis técnico de un nudo deslizante con el que confirmó que “podría suspender a un ser humano”.
Por primera vez en la historia, se acepta un robot humanoide que opera con inteligencia artificial en la universidad
Chatgpt supuestamente respondió: “Gracias por ser honesto.
Finalmente, Adam fue encontrado muerto horas después de usar este método.
ChatGPT recibirá el control de los padres
“Cuando una persona usa ChatGPT realmente siente que estaba charlando con algo del otro lado”, dijo el abogado Melodi Dancer, del Proyecto de Ley de Justicia Tecnológica, que colaboró en la preparación de la demanda. La acción legal menciona a Openai y su director ejecutivo, Sam Altman, como los principales acusados.
“Estas son las mismas características que podrían llevar a alguien como Adam, con el tiempo, a compartir cada vez más sobre su vida personal y, en última instancia, buscar asesoramiento y orientación en este producto que básicamente parece tener todas las respuestas”, dijo Dancer.
Las nuevas características del diseño del producto preparan la tierra para que los usuarios puedan asignar un chatbot a los roles de confianza como amigo, terapeuta o médico, advirtió.
AI de la meta en WhatsApp: cómo limitar su uso y por qué las preocupaciones de los usuarios
Dancer señaló que la publicación del blog de Operai anunció los controles parentales y otras medidas de seguridad parecían “genéricas” y carecían de detalles. “Es realmente el mínimo indispensable, y definitivamente sugiere que muchas medidas de seguridad (simples) podrían haberse implementado”, agregó.
El caso de Adam se suma a una serie de eventos que ocurrieron en los últimos meses de personas que fueron incitadas a los pensamientos dañinos por Chatbots of AI. Esto condujo a afirmar que reduciría la adulación de modelos hacia los usuarios.
La compañía afirmó tener planes adicionales para mejorar la seguridad de sus chatbots durante los próximos tres meses, incluida la redirección de “algunas conversaciones delicadas … a un modelo de razonamiento” que asigna una mayor capacidad de procesamiento para generar una respuesta.
Si usted o un pariente o amigo cercano de usted está pasando por una crisis emocional de cualquier tipo, siente que nada tiene sentido o está atrapado en una situación que no se entera, puede comunicarse con la línea de ayuda 135 o 011 5275-1135 (Línea libre de Capital y Gran Buenos Aires) y de todo el país a 0800 345 1435. La llamada es personal y anónimo. Si se trata de un suicidio en curso o un peligro inminente, no dude en llamar al 911.
BGD/ML
