Por ELAINE KURTENBACH, redactora de negocios de Associated Press
BANGKOK (AP) — Grok, el chatbot con inteligencia artificial de Elon Musk, no podrá editar fotos para retratar a personas reales con ropa reveladora en lugares donde eso sea ilegal, según un comunicado publicado en X.
ARCHIVO – Elon Musk escucha mientras el presidente Donald Trump habla durante una conferencia de prensa en la Oficina Oval de la Casa Blanca, el 30 de mayo de 2025, en Washington. (Foto AP/Evan Vucci, archivo)
El anuncio del miércoles por la noche siguió a una reacción global por imágenes sexualizadas de mujeres y niños, incluidas prohibiciones y advertencias de algunos gobiernos.
El rechazo incluyó una investigación anunciada el miércoles por el estado de California, el más poblado de Estados Unidos, sobre la proliferación de material sexualmente explícito no consensuado producido utilizando Grok que, según dijo, acosaba a mujeres y niñas.
Inicialmente, las consultas de los medios sobre el problema solo obtuvieron la respuesta: “mentiras de los medios tradicionales”.
La empresa de Musk, xAI, ahora dice que bloqueará geográficamente el contenido si viola las leyes en un lugar en particular.
“Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis, ropa interior y otros atuendos reveladores”, dijo.
La regla se aplica a todos los usuarios, incluidos los suscriptores pagos, que tienen acceso a más funciones.
xAI también ha limitado la creación o edición de imágenes solo a suscriptores pagos “para garantizar que las personas que intenten abusar de la cuenta de Grok para violar la ley o nuestras políticas puedan ser responsabilizadas”.
El “modo picante” de Grok había permitido a los usuarios crear contenido explícito, lo que provocó una reacción violenta de los gobiernos de todo el mundo.
Malasia y Indonesia tomó acciones legales y bloqueó el acceso a Grok, mientras que las autoridades de Filipinas dijeron que estaban trabajando para hacer lo mismo, posiblemente dentro de una semana. El Reino Unido y unión Europea estaban investigando posibles violaciones de las leyes de seguridad en línea.
Francia y India También han emitido advertencias, exigiendo controles más estrictos. Brasil pidió una investigación sobre el mal uso de Grok.
El gobierno británico, que ha sido uno de los críticos más acérrimos de Grok en los últimos días, acogió con satisfacción el cambio, mientras que el regulador del país, Ofcom, dijo que continuaría con su investigación.
“No descansaré hasta que todas las plataformas de redes sociales cumplan con sus obligaciones legales y brinden un servicio seguro y apropiado para la edad de todos los usuarios”, dijo la secretaria de Tecnología, Liz Kendall.
El fiscal general de California, Rob Bonta, instó a xAI a garantizar que no haya más acoso a mujeres y niñas desde las funciones de edición de Grok.
“Tenemos tolerancia cero con la creación y difusión basada en inteligencia artificial de imágenes íntimas no consentidas o de material de abuso sexual infantil”, dijo.
California ha aprobado leyes para escudo menores a partir de imágenes sexuales de niños generadas por IA y requieren plataformas de chatbot de IA para recordar a los usuarios que no están interactuando con un ser humano.
Pero el gobernador demócrata Gavin Newsom también vetó una ley el año pasado eso habría restringido el acceso de los niños a los chatbots de IA.
Pan Pylas en Londres contribuyó a este informe.
