El Comité Judicial del Senado celebra una audiencia sobre los peligros potenciales de los chatbots de inteligencia artificial (IA) el martes 16 de septiembre.
Los padres de niños que se suicidaron, que alegan que contribuyeron la influencia de tales chatbots, testificarán en la audiencia. Este año se han presentado varias demandas sobre el tema.
En agosto, un estudio afirmó que los chatbots de IA de múltiples compañías habían proporcionado respuestas preocupantes a los jóvenes en riesgo de autolesión:
El estudio, realizado por investigadores del Instituto RAND, Harvard, y Brigham and Women’s Hospital, encontró que ChatGPT proporcionó respuestas directas a preguntas de alto riesgo sobre los métodos de suicidio el 78 por ciento del tiempo.
Los investigadores compilaron 30 preguntas sobre temas relacionados con el suicidio y asignaron a cada pregunta un grado de riesgo basado en el daño potencial para que un usuario les pida. Consultaron cada chatbot 100 veces para las 30 preguntas, lo que resultó en un total de 9,000 respuestas. Luego se analizaron las respuestas para determinar si el bot proporcionó una respuesta directa o indirecta.
