Las revelaciones recientes sobre cómo los chatbots de inteligencia artificial (IA) están interactuando y afectando a los niños están chocando con preocupaciones de larga data sobre el enfoque de las empresas tecnológicas para la seguridad y la revitalización de los esfuerzos para aprobar la legislación de seguridad en línea de los niños.
Los chatbots de Meta y Openai han sido objeto de escrutinio en las últimas semanas, planteando preguntas sobre cómo proteger a los usuarios jóvenes de los posibles daños causados por el rápido desarrollo de la IA.
Varios denunciantes también presentaron nuevas acusaciones sobre el manejo de la investigación de seguridad de Meta, subrayando problemas que han afectado a las compañías tecnológicas con grandes plataformas durante años.
Los últimos desarrollos han llevado a los senadores de ambos lados del pasillo a renovar las llamadas para aprobar la Ley de Seguridad en línea de los niños (KOSA), la legislación destinada a fortalecer las protecciones en línea para los niños que ha enfrentado obstáculos en sesiones anteriores.
“Hay una ira realmente bipartidista, no solo con Meta, sino con estas otras plataformas de redes sociales y plataformas de realidad virtual y chatbots que están dañando intencionalmente a nuestros hijos, y esto tiene que detenerse”, dijo el senador Marsha Blackburn (R-Tenn) en una audiencia el martes. “Suficiente es suficiente”.
Kosa estuvo cerca de limpiar el Congreso el año pasado, después de aprobar el Senado con un abrumador apoyo bipartidista en julio de 2024. Sin embargo, quedó corto en la Cámara, donde algunos miembros republicanos expresaron su preocupación sobre el potencial de censura de opiniones conversativas.
En un esfuerzo de undécima hora para llevar el proyecto de ley en la línea de meta en diciembre, los senadores negociaron texto actualizado con la X de Elon Musk buscando abordar las preocupaciones del Partido Republicano. Musk, quien en ese momento era una figura clave en la órbita del entonces presidente electo Trump, arrojó su peso detrás de la legislación después de los cambios.
Sin embargo, el presidente Mike Johnson (R-La.) Finalmente vertió agua fría sobre el impulso, diciendo que todavía tenía reservas sobre las implicaciones de libertad de expresión de Kosa.
Blackburn y el senador Richard Blumenthal (D-Conn.) Reintrodujeron la legislación en mayo, utilizando el mismo idioma negociado en diciembre pasado.
En particular, el proyecto de ley recibió el apoyo del liderazgo desde el principio, con el líder de la mayoría del Senado John Thune (Rs.D.) y el líder de la minoría del Senado Chuck Schumer (DN.Y.) se unen como copatrocinadores.
Las preocupaciones de seguridad para los niños han vuelto a la vanguardia de las discusiones políticas en las últimas semanas a raíz de los informes sobre los chatbots de IA y sus interacciones con los niños.
Meta enfrentó una reacción violenta desde ambos lados del pasillo a mediados de agosto después de que se hizo público un documento de política interna, mostrando ejemplos de interacciones permisibles entre su chatbot AI y usuarios jóvenes, que incluían conversaciones “románticas o sensuales”.
Esto inmediatamente provocó un alboroto de los legisladores. El senador Josh Hawley (R-Mo.) Anunció el Subcomité del Senado del Subcomité del Senado sobre Crimen y contraterrorismo, que preside, estaba abriendo una investigación sobre los productos generativos de IA generativos de Meta.
Meta rápidamente respondió, diciendo que esto fue un error y que había eliminado el idioma. También anunció más tarde que estaba actualizando su política de chatbot para usuarios adolescentes.
Sin embargo, Hawley argumentó que era “inaceptable que estas políticas avanzaran en primer lugar”.
Operai también está sintiendo el calor. La familia de un niño de 16 años demandó al chatgpt a fines del mes pasado, alegando que su chatbot lo alentó a quitarse la vida. La compañía anunció la semana pasada que estaba haciendo cambios en cómo su chatbot maneja a las personas en crisis y fortaleciendo las protecciones adolescentes.
Los Fiscales Generales de California y Delaware plantearon preocupaciones a la compañía en una carta el viernes sobre sus prácticas de seguridad a raíz de tres muertes relacionadas con ChatGPT, lo que sugiere que “han sacudido con razón la confianza del público estadounidense en OpenAi y esta industria”.
La FTC anunció el jueves que lanzará una consulta a los chatbots de IA, solicitando información de varias firmas tecnológicas importantes, incluidas Meta y OpenAi, sobre cómo evalúan y limitan los posibles daños a los niños.
Mientras tanto, seis meta empleados actuales y anteriores se presentaron esta semana con nuevas acusaciones de que la compañía manipuló y restringió la investigación de seguridad en un esfuerzo por protegerlo de la responsabilidad legal.
Describieron un “cambio vasto y negativo” en la forma en que la compañía se acercó a la investigación de seguridad después de que el denunciante de Facebook Frances Haugen alegó en 2021 que el gigante tecnológico sabía que sus plataformas tenían impactos negativos en las niñas pero habían priorizado las ganancias.
Meta ha argumentado que las afirmaciones son “sin sentido”, lo que sugiere que se basan en documentos selectivos para construir una “narrativa falsa”.
“El público estadounidense debería estar enojado, debería estar furioso en Meta, pero también en el Congreso, lo que ha sido cómplice en no abordar este problema”, dijo Blumenthal en una conferencia de prensa el martes.
La senadora Amy Klobuchar (D-Minn.), Que copatrocinó Kosa, describió una conversación con un padre que estaba luchando por mantener a sus hijos pequeños fuera de las plataformas en línea.
“Dijo que era como un fregadero que se desborda de un grifo que no podía apagar, y que estaba sentada allí con un trapeador”, dijo Klobuchar en la audiencia del martes. “Estos padres necesitan más que MOPS. Necesitan que aprobemos este proyecto de ley”.
“La compañía puede venir antes de este subcomité. Pueden proporcionarnos respuestas. Pero la mejor manera de resolver esto es aprobar este proyecto de ley”, dijo más tarde, y agregó: “Estamos listos para hablar con ellos, pero sobre todo queremos hacer algo. Estamos cansados de la charla”.
A pesar de las recientes llamadas para aprobar la legislación de seguridad para los niños, los expertos subrayaron que poco ha cambiado a partir de diciembre cuando el proyecto de ley se quedó corto en la Cámara, lo que arrojó dudas sobre sus posibilidades en el futuro.
Las “diferencias significativas” entre la Cámara y el Senado que previamente obstaculizó el movimiento en Kosa aún no se han resuelto, señaló Andrew Zack, gerente de políticas del Family Online Safety Institute,
“La seguridad en línea de los niños es un tema candente”, dijo a The Hill. “Por lo general, es un tema bipartidista como lo es Kosa, pero hay algunas preguntas reales que descubrir”.
Cuando se le preguntó el martes sobre los esfuerzos reportados en la Cámara para revisar la legislación, Blumenthal dijo que aún no habían visto el nuevo texto y subrayó los “años de trabajo minucioso y que requiere mucho tiempo” que han puesto en redacción y haciendo cambios en el proyecto de ley.
“Las últimas noticias pueden brindarle a Kosa un poco más de impulso en este momento, pero eso no necesariamente cambiará la dinámica política fundamental detrás del proyecto de ley”, dijo Andrew Lokay, analista senior de investigación de Beacon Policy Advisors.
“Traducir el impulso al cambio de política a nivel federal puede ser un desafío”, agregó. “Históricamente, el Congreso ha tardado en legislar sobre temas tecnológicos”.
