Con el clima calentándose, sus pensamientos pueden estar recurriendo a pasar las tardes de verano perezosas en la playa con un buen libro. Tina, una creadora en línea y coanfitrión de la charla de libros de podcasts, etc., abrió su edición de Chicago Sun-Times el lunes para encontrar la “Lista de lectura de verano del periódico para 2025”. Si Tina fuera yo, alguien que no está en sintonía con lo último en literatura, este artículo podría haber parecido un punto de salida útil para algunas recomendaciones de libros nuevas. Pero al ver que Tina crea contenido sobre libros, me imagino que es muy consciente de qué autores escriben qué libros, por eso pudo detectar una serie de libros en la lista que simplemente no existen.
Tina tomó una foto del artículo y la publicó en su cuenta de hilos, acusando al periódico de usar IA para generar sus recomendaciones. Esa imagen del artículo ahora circula en Bluesky, así como en el subreddit de Chicago. No soy un suscriptor, y el artículo no parece estar en el sitio web del Sun-Times, por lo que no puedo verificar la lista yo mismo. Pero el Sun-Times ha confirmado que la lista es real.
De los 15 “libros” en esta lista de lectura de verano, solo cinco son libros reales que en realidad puedes, ya sabes, leer: Bonjour Tristesse de Françoise Sagan; Hermosas ruinas de Jess Walter; Dandelion vino de Ray Bradbury; Llámame por tu nombre de André Aciman; y expiación de Ian McEwan. Casualmente, son los últimos cinco libros en la lista, y no son nuevos. Los otros 10 están totalmente inventados, incluidos tales entradas “Hey, leí que” como el último algoritmo, un nuevo thriller de IA del autor marciano Andy Weir; y punto de ebullición, una historia de ética ambiental inteligente de la querida crítica Rebecca Makki. Ay.
Dado que estos libros falsos tienen autores reales atribuidos a ellos, los fanáticos de esos autores pueden creer que su escritor favorito tiene una novela nueva e intrigante. Incluso si no tiene idea de quién es alguno de los autores nombrados, puede usar esta pieza para dirigirse a su biblioteca o librería para dar un salto en su lista de lectura de verano, y si está saliendo de las primeras 10 recomendaciones, estará buscando mucho tiempo.
¿Qué pasó aquí?
Según una publicación de Bluesky de The Sun-Times, el artículo no era contenido editorial y no fue aprobado ni creado por la sala de redacción. La publicación no dice de una forma u otra si el contenido es generado por IA, sin embargo, 404 Media habló con el autor, que admitió haber usado IA para este artículo y para otros: “A veces uso la IA para el fondo, pero siempre revisa el material primero. Esta vez, no lo hice y no puedo creer que me perdiera porque es obvio. No excusa”.
Incluso antes de tener esta confirmación, parecía que el periódico usaba una IA generativa para escribir esta pieza. Eso no es solo porque la escritura está forzada. La IA a menudo alucina, o, en otras palabras, a veces constituye las cosas. No está totalmente claro por qué los modelos hacen esto, podría ser un problema con los datos de entrenamiento, o las conclusiones que los modelos extraen de esa capacitación, pero el problema solo está empeorando incluso a medida que los modelos de IA aparentemente mejoran.
Esto no es algo que pueda evitar con mejores indicaciones, tampoco: si usa una IA generativa, a veces alucinará, lo que significa que debe verificar las salidas en busca de inexactitudes (o mentiras directas). Sigo que alguien que no entienda esta tecnología vería lo que puede hacer un programa como ChatGPT y quiere usarlo para generar artículos como este, pero como muchos escritores y artistas han estado discutiendo durante años, no puede reemplazar a un trabajador humano con un chatbot de IA y esperar el mismo trabajo de calidad. Claro, ChatGPT le generará una lista de 15 recomendaciones de libros en menos de un minuto, pero es posible que algunas (si no la mayoría) de esas recomendaciones serán basura.
¿Qué piensas hasta ahora?
No creo en usar IA generativa para publicar historias como esta. Pero si un periódico va a externalizar la escritura a un bot, necesita un verificador de hechos humanos (o tal vez, no sé, un editor) para revisar la generación y asegurarse de que todo sea correcto. Aunque en ese momento, sugeriría solo pagarle a un escritor humano para que les ofrezca las recomendaciones del libro. Le garantizo que hay muchos periodistas fuera del trabajo o subempleados que aprovecharían la oportunidad. Si bien parece que el Sun Times tiene un escritor tan humano detrás de la IA, ese trabajo debe ocurrir con cada generación. Si no, obtienes artículos como este.
Por curiosidad, le pedí a ChatGPT la sinopsis del último algoritmo de Andy Weir. El bot buscó en la web una respuesta y, para su crédito, informó con precisión que el libro en realidad no existe. Hizo algunas suposiciones, diciendo que el Sun-Times definitivamente usó AI para generar el artículo (aunque supongo que un pasante muy vago que esperaba ser despedido también podría haber inventado los libros), probablemente porque las publicaciones en las redes sociales que estaban sacando lo sugerían. Pero también encontré que su pensamiento final era particularmente en el punto (y accidentalmente consciente de sí mismo):
“Este incidente subraya la importancia de verificar la información, especialmente cuando el contenido generado por IA está involucrado”, escribió ChatGPT.
