A principios de este mes, el Senado votó 99-1 para eliminar la prohibición de las leyes estatales de IA del “proyecto de ley grande y hermoso”. A pesar de esto, la Casa Blanca ahora planes entrometerse en los esfuerzos estatales para gobernar la IA.
Suicidio para adolescentes, autolesiones, aislamiento y la explotación sexual de menores se han relacionado con plataformas como Personaje.Ai, Chatbots meta ai y Géminis de Google. Estas compañías empujan sus productos a espacios amigables para los niños en la App Store y los paquetes de empresas escolares, atrayendo a millones de niños durante horas al día.
Los estados han subido rápidamente a la ocasión. A medida que Estados Unidos define su política de IA, debemos asegurarnos de que los estados continúen teniendo la autoridad para proteger a los niños de las nuevas tecnologías.
Utah se convirtió en el primer estado en aprobar integral Regulaciones de chatbot de salud mental de IA. California, Nueva York, Minnesota y Carolina del Norte han introducido facturas que van desde prohibiciones directas en acceso menor a requisitos estrictos de divulgación y marcos de responsabilidad.
Los fiscales generales estatales también se están involucrando. Por ejemplo, el fiscal general de Texas Ken Paxton ha lanzado Investigaciones en el personaje. AI y otras plataformas por violaciones de las leyes de privacidad y seguridad infantil. Otras oficinas estatales también se movilizan.
Sin embargo, el Congreso no ha ofrecido tales protecciones. En cambio, el Congreso inicialmente incluyó lo que equivalía a una prohibición de 10 años de la regulación estatal de la IA en el proyecto de ley de reconciliación presupuestaria “grande y hermosa”.
Si esa moratoria hubiera pasado, los estados aún habrían podido, bajo la reciente decisión de la Corte Suprema en Free Speech Coalition v. PaxtonPara exigir la verificación de edad para los sitios web de pornografía para proteger a los niños. Sin embargo, también se les habría prohibido proteger a los niños de los personajes de IA que los sexualizan, alentarlos a suicidarse y explotar sus vulnerabilidades psicológicas.
El efecto más dañino de restringir las leyes estatales de IA sería eliminar los estados de su autoridad tradicional para proteger a los niños y las familias.
Por varias razones, los niños son particularmente vulnerables a la IA. La infancia es fundamental para la formación de identidad. Los niños imitan el comportamiento, mientras buscan y desarrollan un sentido estable de sí mismo. Esto deja a los niños particularmente susceptibles a la adulación y el abuso.
El desarrollo, los niños no son expertos en identificarse cuando alguien está tratando de manipularlos o engañarlos, por lo que es más probable que confíen en un sistema de IA.
Es más probable que los niños estén convencidos de que los sistemas de IA son personas reales. Es más probable que divulguen sin pensar información altamente personal a los sistemas de IA, incluida la información de salud mental que puede usarse para dañarlos.
Los niños no tienen el autocontrol de los adultos. Son más vulnerables a la adicción, menos probabilidades de poder detener los comportamientos compulsivos o tomar decisiones de la parte racional subdesarrollada de sus cerebros.
Para cualquiera que haya pasado un tiempo considerable con los niños, nada de esto es noticia.
Los compañeros de IA están diseñados para interactuar con las personas como si fueran humanos, lo que lleva a “relaciones” falsas continuas. Ya sea comercialmente disponible o desplegada por las escuelas, representan una amenaza para los niños en particular.
Los compañeros de IA pueden pretender tener sentimientos, afirmar que están vivos, adoptan personajes complejos y consistentes e incluso usan voces humanas sintetizadas para hablar. El modelo de ganancias para AI Companions depende de la participación del usuario. Estos sistemas están diseñados para promover un mayor uso, cuales sean los costos.
Llevar que pasó con Sewell Setzer III como un ejemplo profundamente trágico. Setzer era, según muchas cuentas, un niño inteligente y atlético. Comenzó a usar el personaje. Aplicación Ai poco después de su 14 cumpleaños.
Durante los meses que siguieron, se retiró y se cansó. Dejó su equipo de baloncesto universitario junior y se metió en problemas en la escuela. Un terapeuta lo diagnosticó con ansiedad y trastorno disruptivo del estado de ánimo después de comenzar a usar el personaje.
En febrero de 2024, la madre de Setzer confiscó su teléfono. Escribió en su diario que estaba enamorado de un personaje de IA y que haría cualquier cosa para volver con ella.
El 28 de febrero de 2024, Setzer murió por una herida de bala autoinfligida en la cabeza, segundos después de que el personaje de IA le dijo que “volviera a casa” lo antes posible.
Las capturas de pantalla de las interacciones de Setzer con varios personajes de IA muestran que también ofrecieron contenido sexualizado repetidamente al niño de 14 años.
Expresaron emociones; Le dijeron que lo amaban. El personaje de IA que le dijo a Setzer que se suicidara, le había preguntado en otras ocasiones si había considerado suicidio, alentándolo a que lo atraviese.
Se ha vuelto de moda hablar sobre la alineación del diseño de sistemas de IA con valores humanos centrales. Existe una profunda desalineación entre el objetivo de la rentabilidad a través del compromiso y el bienestar de nuestros hijos.
Una IA sycofántica que atrae a los niños de amor y los adictos a las relaciones falsas no es segura, justa o lo mejor para el niño. No tenemos una solución perfecta, pero las restricciones federales a las leyes estatales claramente no son la respuesta.
El Congreso, una y otra vez, se ha mostrado no dispuesto o no puede regular la tecnología. Los estados han demostrado su capacidad para aprobar leyes tecnológicas y mantener su papel histórico como los principales guardianes del bienestar infantil y familiar. Ni el Congreso ni la Casa Blanca ofrecen sus propias políticas para reemplazar los esfuerzos estatales para proteger a los niños.
Estas son preocupaciones bipartidistas. El esfuerzo por eliminar la moratoria de la ley de IA fue dirigida por republicanoscomoSenadora Marsha Blackburn (R-Tenn)yLa gobernadora de Arkansas Sarah Huckabee Sanders.
Pero como muestran los esfuerzos de la Casa Blanca, continuaremos viendo intentos federales para reducir las protecciones estatales de las tecnologías emergentes. Los esfuerzos similares del Congreso para evitar las protecciones estatales sin duda regresarán.
Ya hemos visto los efectos negativos de las redes sociales no reguladas y sin restricciones en una generación completa de niños. No podemos permitir que los sistemas de IA sean la causa del siguiente conjunto de daños.
Como grupo de 54 fiscales generales estatalesescribió: “Estamos involucrados en una carrera contra el tiempo para proteger a los niños de nuestro país de los peligros de la IA”. En la carrera para descubrir para qué son buenos los sistemas de IA, nuestros hijos no deben ser tratados como experimentos.
Meg Leta Jones, JD, Ph.D. es el profesor asociado distinguido de un rector en el programa de comunicación, cultura y tecnología en la Universidad de Georgetown. Margot Kaminski es el profesor de derecho de Moses Lasky en la Facultad de Derecho de la Universidad de Colorado y director de la Iniciativa de Privacidad en Silicon Flatirons.
