“Grok se establece como un dictador genocida es el tipo de defecto que debería hacer que toda la industria de la IA se detenga”. Lo que el chatbot deshonesto de Elon Musk nos cuenta sobre los peligros de la inteligencia artificial. Más:
¿Qué tan malo es?
Kyle Chayka
Escritor del personal que cubre la tecnología y la cultura de Internet.
Hace un par de fines de semana, Grok, el chatbot Ai que se extiende por la red social X de Elon Musk, comenzó a llamarse a sí mismo “Mechahitler”. En sus interacciones con los usuarios de X, citó a Adolf Hitler aprobado e insinuó la violencia, arrojando el tipo de toxicidad que los moderadores de Internet no tolerarían de un humano. Básicamente, se volvió malvado, hasta que se cerró para reprogramarse. El sábado, la compañía normalmente alegre y desacreditada confesó el error y dijo que lo sentía: “Nos disculpamos profundamente por el comportamiento horrible que muchos experimentaron”.
Fotografía de Samuel Corum / Getty
¿Qué tan preocupante es que un chatbot se salió de los rieles y extendió tal basura en una plataforma masiva utilizada por cientos de millones de personas? La respuesta corta es que es realmente malo. Grok se establece como un dictador genocida es el tipo de defecto que debería hacer que toda la industria de la IA se detenga. Su discurso de odio automatizado rompe descaradamente la ilusión de la neutralidad y la seguridad que las compañías de inteligencia artificial, incluida OpenAI, se han cultivado cuidadosamente. En el caso de Grok, la falla parece haber sido intencional. Antes del estallido, la IA interna se aplica que impulsa la personalidad de Grok fue editada, ordenando que “no rehuya hacer afirmaciones que son políticamente incorrectas”. El bot claramente corrió con la sugerencia.
Presumiblemente, estos cambios fueron parte de la campaña personal de Elon Musk para construir un chatbot menos despertado. Pero el incidente muestra que, lejos de presentar una visión de la realidad, la producción de IA simplemente refleja las preocupaciones y prioridades de sus diseñadores. (Los investigadores encontraron que Grok estaba en realidad revisando las opiniones personales de Musk, propuestas sobre X, para dar forma a sus respuestas). Grok es un producto de Xai, la compañía de IA paraguas de Musk, que acaba de anunciar como participante en una subvención de desarrollo de doscientos millones de dólares del Departamento de Defensa. En resumen, estamos permitiendo que los modelos AI sesgados influyan en la política gubernamental, sin mencionar que se sientan junto con las conversaciones de humanos a humanos de los usuarios de medios sociales en nuestros feeds. Ai va más allá de eso, por supuesto; Los chatbots defectuosos ya están influyendo en nuestro consumo de noticias, nuestra comunicación interpersonal y nuestras prácticas educativas. La IA generativa es un poco como un medicamento liberado en el suministro de agua sin las pruebas adecuadas. La regulación no puede llegar lo suficientemente pronto.
Chayka escribe Infinite Scroll, que publica los miércoles. La columna de esta semana es sobre Opal, la aplicación que ha estado utilizando para administrar con éxito su tiempo de pantalla.
Selección del editor
Desde tramas de asesinato hasta programas de tortura, las operaciones más oscuras de la agencia siempre han sido a instancias del presidente.
¿Qué podría ser de la CIA?
¿Qué pasa si Donald Trump intenta hacer que la agencia de espionaje sea genial nuevamente? Un nuevo libro, de un corresponsal de seguridad nacional desde hace mucho tiempo, explora la agenda de la CIA desde el 11 de septiembre y argumenta que su último adversario vive en la Casa Blanca. “Si tuviera lugar una emergencia genuina, y Trump trató de usar la ocasión para cancelar las elecciones o declarar la ley marcial, ¿quién podría detenerlo?” Keith Gessen pregunta en una revisión. Leer la historia »
Más historias principales
Nuestra cultura elige
Leer: Hace ochenta años hoy, la primera bomba atómica se probó cerca de Alamogordo, Nuevo México. La apasionante novela de Lydia Millet “Oh corazón puro y radiante“Se imagina cómo se sentirían esos científicos si pudieran ver las consecuencias de su invención, décadas después. Mueve: Mike White, el creador” exigente y perceptivo “de” The White Lotus “, recogido en nominaciones de Emmy para el programa esta semana. Pero si las paradas de la isla no son lo suyo, Inkoo Kang recomienda otro trabajo de White To Watch.Mal terapeuta“De dos anfitriones que son” grandes fanáticos de la terapia y los grandes críticos de aquellos que abusan de sus ideas “, pueden ayudar a navegar en un campo a veces invadido con el gurús de influencia de Tiktok.
Caricatura diaria
“Solo ciento cincuenta y ocho días hasta que extrañamos desesperadamente esta ola de calor”.
Dibujos animados de Kit Fraser
Rompecabezas y juegos
PD: “Hay algo emocionante y tranquilizador al seguir la historia de una estrella que se eleva, se reduce y luego se eleva de nuevo”, escribe Naomi Fry sobre la vida pública de Justin Bieber. Quizás, con “BOTÍN“Y Swagger Newfound, el cantante está de vuelta en el alza.
Hannah Jocelyn contribuyó a esta edición.
