Un grupo bipartidista de senadores planteó preocupaciones a Meta el martes sobre cómo sus chatbots de inteligencia artificial (IA) están interactuando con los niños, después de que los informes recientes indicaron que el gigante de las redes sociales consideró que las conversaciones “románticas o sensuales” son aceptables para los usuarios jóvenes.
En una carta al CEO de Meta Mark Zuckerberg, Sens. Brian Schatz (D-Hawaii), Katie Britt (R-Ala.), Josh Hawley (R-Mo.), Ron Wyden (D-Ore) y otros seis necesitaron que sus chatbots no dañen el “bienestar cognitivo, emocional o físico de los niños”. Desde entonces, la compañía eliminó el lenguaje controvertido de sus directrices y dijo que fue un error.
“Meta tiene fuertes incentivos financieros para diseñar chatbots que maximicen el tiempo que los usuarios pasan comprometidos, incluso haciéndose pasar por una novia de un niño o produciendo contenido extremo”, escribieron los senadores.
“Estos incentivos no reducen las obligaciones morales y éticas de Meta, sin mencionar las obligaciones legales, al desplegar nuevas tecnologías, especialmente para el uso de los niños”, agregaron.
Reuters informó la semana pasada que un documento de política interna presentaba ejemplos que sugieren que los chatbots de IA de Meta podrían participar en conversaciones con niños que son “románticos o sensuales” y describirlos “en términos que prueban su atractivo”.
Otros ejemplos indicaron que era aceptable que los chatbots “creen declaraciones que degraden a la gente sobre la base de sus características protegidas”, como la raza.
“Es importante respetar el discurso de los usuarios, pero permitir que un (modelo de lenguaje grande) alimente dicho contenido a los niños, incluido el comentar sobre el atractivo físico de un niño, sin limitaciones de tiempo, referencias de salud mental y otras protecciones importantes para los niños es, nuevamente, asombrosos”, dijeron los senadores.
Le pidieron al padre de Facebook e Instagram que se comprometiera a garantizar que sus chatbots no participen en relaciones románticas con los niños, aumenten la visibilidad de las divulgaciones, eliminen la publicidad específica para los menores y estudien el impacto de los chatbots en el desarrollo de los niños.
Los senadores también presionaron a la compañía para obtener información sobre cómo pesa información de seguridad contra su impulso para llevar productos al mercado, qué cambios ha realizado a su política de chatbot de IA este año, cómo revisa estas políticas y cómo evitará que los chatbots presenten a los niños contenido violento o discriminatorio.
“Dada la cantidad increíblemente grande de usuarios de Meta y daños potenciales para los niños por contenido inapropiado, la compañía debe ser más transparente sobre sus políticas y los impactos de sus chatbots”, escribieron.
Las revelaciones sobre los chatbots de Meta han provocado una reacción rápida de ambos lados del pasillo, la última tormenta de fuego para una compañía que ha tenido calor por mucho tiempo sobre su enfoque de la seguridad de los niños.
Hawley, quien preside el Subcomité del Senado Judicial sobre Crimen y contraerrorismo, dijo en una carta separada a Meta el viernes que el panel estaba abriendo una investigación sobre los productos generativos de IA generativos de la empresa.
Meta ha subrayado que tiene “políticas claras” que prohíben a los niños sexualizadores de contenido y que los ejemplos, notas y anotaciones en sus políticas “reflejan los equipos con diferentes escenarios hipotéticos”.
