NUEVA YORK (AP) — Grok de Elon Musk sigue metiéndose en problemas y esta vez, más gobiernos del mundo están tratando de intervenir.
Lanzado por primera vez en 2023, Grok es el intento de Musk de superar a rivales como ChatGPT de OpenAI y Gemini de Google en la construcción de un asistente de inteligencia artificial impulsado por un gran modelo de lenguaje, que se entrena con vastos conjuntos de datos para ayudar a predecir la siguiente palabra más plausible de una oración. Es el producto principal de la startup de IA de Musk, xAI, que se ha fusionado con su plataforma de redes sociales, X. Al igual que ChatGPT y Gemini, la compañía de Musk también ha incorporado capacidades de generación de imágenes de IA en el chatbot.
Los esfuerzos deliberados de Musk para convertir a Grok en un retador de lo que él considera la ortodoxia “despertada” de la industria tecnológica en materia de raza, género y política han conseguido repetidamente el chatbot en problemascomo el año pasado cuando tropos antisemitas lanzadoselogió a Adolf Hitler e hizo otros comentarios llenos de odio a los usuarios de la plataforma de redes sociales X de Musk. El año pasado también se descubrió que el chatbot se hacía eco de las opiniones de su creador multimillonario, hasta el punto de que a veces buscaba en línea la postura de Musk sobre un tema antes de ofrecer una opinión.
Más allá de la política, la visión que Musk tiene de sí mismo como un “absolutista de la libertad de expresión” ha llevado a su empresa a adoptar un enfoque más laxo respecto de las imágenes sexualizadas. Otros chatbots convencionales bloquean la creación de imágenes pornográficas. OpenAI había planeado originalmente permitir que ChatGPT participara en “erótica para adultos verificados” a partir del mes pasado, pero no lo ha hecho.
Estas son algunas de las controversias más recientes en las que Grok ha estado involucrado:
Solicitudes de nudificación
Grok ha sido criticado por generar imágenes manipuladas, incluidas representaciones de mujeres en bikini o poses sexualmente explícitas, así como imágenes que involucran a niños.
El problema surgió después del lanzamiento el año pasado de Grok Imagine, un generador de imágenes de IA que permite a los usuarios crear videos e imágenes escribiendo mensajes de texto. Incluye el llamado “modo picante” que puede generar contenido para adultos.
Se disparó a fines del mes pasado cuando Grok, que está alojado en X, aparentemente comenzó a aceptar una gran cantidad de solicitudes de usuarios para modificar imágenes publicadas por otros, con solicitudes como “ponerla en un bikini transparente”.
En la última semana, gobiernos de todo el mundo condenaron la plataforma y abrieron investigaciones.
Para abordar la situación, xAI dice que ahora impide que los usuarios que no pagan generen o editen imágenes después de un estalló una reacción global sobre los deepfakes sexualizados.
Almizcle loro
Se descubrió que una de las versiones más recientes de Grok era haciéndose eco de las opiniones de Musk, llegando incluso a buscar en línea su postura sobre un tema antes de ofrecer su punto de vista.
El comportamiento inusual de Grok 4, lanzado en julio, sorprendió a algunos expertos.
En un ejemplo ampliamente compartido en las redes sociales y duplicado por un investigador, se le pidió a Grok que comentara sobre el conflicto en Medio Oriente. La pregunta formulada no mencionaba a Musk, pero el chatbot buscó su orientación de todos modos.
El chatbot le dijo al investigador independiente Simon Willison que “la postura de Elon Musk podría proporcionar contexto, dada su influencia”, según un vídeo de la interacción. “Actualmente estamos analizando sus puntos de vista para ver si guían la respuesta”.
Pavo
Después de que Grok supuestamente difundiera contenido insultante al presidente de Turquía y a otras figuras turcas, un tribunal ordenó una prohibición al acceder a la plataforma el año pasado.
El chatbot publicó vulgaridades contra el presidente turco Recep Tayyip Erdogan, su difunta madre y personalidades en respuesta a preguntas de los usuarios en X, informó un canal de noticias progubernamental. Según otros medios de comunicación, también se dirigieron respuestas ofensivas al fundador de la Turquía moderna, Mustafa Kemal Atatürk.
El comportamiento del chatbot llevó al fiscal de Ankara a presentar una solicitud de restricciones en virtud de la ley de Internet de Turquía, citando una amenaza al orden público. Un tribunal penal aprobó la solicitud y ordenó a la autoridad de telecomunicaciones del país hacer cumplir la prohibición.
Antisemitismo
Grok se vio obligado a invertir su rumbo después de que pareció hacer publicaciones antisemitasincluidos comentarios que elogiaban a Adolf Hitler y decían que estaba eliminando “publicaciones inapropiadas”.
El chatbot Grok compartió varias publicaciones antisemitas, incluido el tropo de que los judíos dirigen Hollywood, y negó que tal postura pudiera describirse como nazismo.
“Etiquetar las verdades como discurso de odio sofoca el debate”, afirmó Grok. También parecía elogiar a Hitler, según capturas de pantalla de publicaciones que luego aparentemente fueron eliminadas.
Después de hacer una de las publicaciones, Grok se retractó de los comentarios, diciendo que era “un error inaceptable de una iteración del modelo anterior, rápidamente eliminado” y que condenaba “el nazismo y a Hitler de manera inequívoca; sus acciones fueron horrores genocidas”.
Musk dijo que Grok había mejorado significativamente y que los usuarios “deberían notar una diferencia”.
Debido a estas controversias sobre el antisemitismo, un grupo de legisladores judíos a finales del año pasado escribieron al secretario de Defensa estadounidense, Pete Hegseth, para expresarle su preocupación por los planes del Pentágono de trabajar con xAI.
“Si el señor Musk conserva la capacidad de alterar directamente los resultados de ‘Grok para el gobierno’, representa un riesgo grave e inaceptable para la seguridad nacional y los valores constitucionales estadounidenses”, dice la carta.
Sudáfrica
La empresa xAI culpó a un “ modificación no autorizada ” a Grok como la razón por la que seguía hablando de la política racial sudafricana y del tema del “genocidio blanco”.
La compañía dijo en mayo que un empleado hizo un cambio que “ordenó a Grok que proporcionara una respuesta específica sobre un tema político”, lo que “violó las políticas internas y los valores fundamentales de xAI”.
Grok había estado publicando un día antes sobre el “genocidio blanco” en Sudáfrica en sus respuestas a los usuarios de X, haciendo una variedad de preguntas, la mayoría de las cuales no tenían nada que ver con Sudáfrica.
Hubo intercambios sobre el servicio de streaming Max que revivió el nombre de HBO, los videojuegos y el béisbol, que rápidamente desembocaron en comentarios no relacionados sobre presuntos llamados a la violencia contra los agricultores blancos de Sudáfrica. Se hizo eco de las opiniones compartidas por Musk, quien nació en Sudáfrica y frecuentemente opina sobre los mismos temas desde su propia cuenta X.
