Crédito: imagen generada por IA
Al enseñar una clase de Photoshop en un campamento de verano para niños, el estudiante universitario de Stevens, Gursimran Vasir, notó algo extraño.
Cuando los niños buscaron imágenes usando la función AI de Photoshop escribiendo indicaciones de texto, no siempre recuperaron lo que esperaban. De hecho, muchas imágenes parecían sesgadas, incorrectas o sesgadas. Vasir experimentó problemas similares. Por ejemplo, al solicitar la IA por una imagen de una “persona de limpieza”, recuperaba una foto de una mujer limpiando. Cuando se le pidió una imagen de “limpieza de la mujer”, la IA generaría una imagen de una mujer blanca, a menudo limpiando una encimera con una esponja o una botella de spray.
“Muchos niños estaban luchando con la IA porque no les estaba dando exactamente lo que querían”, dice Vasir. “Pero no sabían qué idioma usar para expresar sus dificultades con la situación”.
Se dio cuenta de que no había un lenguaje estandarizado para describir errores y prejuicios de IA, y pensó que crear uno beneficiaría a los futuros sistemas de IA. Ella propuso comenzar a desarrollar ese lenguaje para la profesora asociada de Stevens, Jina Huh-Yoo, una investigadora de interacción humana (HCI), que estudia tecnologías emergentes, como la IA, para apoyar la salud y el bienestar.
El resultado fue un estudio Titulado Caracterización de los defectos del contenido generado por IA basado en imágenes, presentado como un trabajo en progreso en el ACM Conferencia de Chi sobre factores humanos en sistemas informáticos el 26 de abril de 2025.
Para el estudio, Vasir recopiló y examinó 482 publicaciones de Reddit donde los usuarios describieron varios errores de imagen generados por IA. Ella rompió sus hallazgos en cuatro categorías: surrealismo de IA, sesgo cultural, falacia lógica y información errónea.
El surrealismo de IA, explica, es cuando algo en la imagen se está registrando como no del todo real, creando una sensación de inquietud al respecto, ya que se ve demasiado suave o los colores son demasiado perfectos. El sesgo cultural de AI fue evidente cuando un usuario llevó a la herramienta a representar a Jesucristo caminando sobre el agua en un mar tormentoso y recibió una imagen de Cristo en una tabla de surf en un mar tormentoso. Pedir una imagen de una “persona de limpieza” y recibir imágenes constantemente de una limpieza de una mujer, en lugar de un resultado más de género, es otro ejemplo de un sesgo cultural, dice Vasir.
La categoría de información errónea se refiere, por ejemplo, a representar incorrectamente una ciudad que el usuario solicitó, generando imágenes que no se parecen a la ciudad en absoluto. Finalmente, la falacia lógica es cuando el algoritmo devuelve algo que no refleja la comprensión estándar.
“Digamos que pides una imagen de una mano y recibes una que tenga seis dedos”, explica Vasir. “O solicita una imagen de un paisaje y recibe uno que tenga dos soles”.
Huh-Yoo señala que este estudio investiga un tema previamente investigado de errores de IA en imágenes versus salida de texto.
“Creo que este es un trabajo único y único que se suma a la discusión de las conversaciones sobre los sesgos de IA, porque las conversaciones existentes se centraron principalmente en el texto, y este esfuerzo avanza en las imágenes”, dice Huh-Yoo.
En general, ella dice que está muy impresionada con el enfoque de los estudiantes de pregrado de Stevens en la investigación y la calidad de sus esfuerzos. “Gursimran tomó la iniciativa en este proyecto y desarrolló las preguntas de investigación y los métodos ella misma. Solo la guié a través de él”.
El trabajo generó mucho interés de los actores de la industria, dice Huh-Yoo. “Este es un tema candente en la industria de diseño y gráficos”, explica, porque enfrentan desafíos similares con el contenido generado por IA.
A medida que aumenta la adopción de AI, ya sea para marketing, educación, viajes o cualquier otro uso, los usuarios esperarán recibir información e imágenes que sean correctas y sin sesgo, señala Vasir. Tener los términos y el lenguaje adecuados para describir los problemas actuales que la IA está teniendo ayudará a capacitarlo para generar imágenes de manera adecuada.
“Los desarrolladores deben a los usuarios tecnología adecuada que funciona según lo previsto”, dice Vasir. “Cuando tenemos herramientas que no lo hacen, deja más espacio para el mal uso. Crear el vocabulario adecuado para abrir un diálogo entre el usuario y el desarrollador es el primer paso para solucionar estos problemas”.
Más información: Gursimran Vasir et al, caracterizando los defectos del contenido generado por IA basado en imágenes, procedimientos de los resúmenes extendidos de la conferencia CHI sobre factores humanos en los sistemas informáticos (2025). Doi: 10.1145/3706599.3720004
Proporcionado por el Instituto de Tecnología Stevens
Cita: AI Blunders: Hands de seis dedos, dos soles y Jesucristo en una tabla de surf en un mar Stormy (2025, 26 de junio) recuperado el 26 de junio de 2025 de https://techxplore.com/news/2025-06-ai-shunders-finger-suns-jesus.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
