Crédito: dominio público Unsplash/CC0
Investigadores del Instituto de Internet de Oxford (OII) de la Universidad de Oxford han descubierto un aumento dramático en herramientas de IA de fácil acceso diseñadas específicamente para crear imágenes profundas de personas identificables, encontrando casi 35,000 de esas herramientas disponibles para descarga pública en una popular plataforma en línea accesible a nivel mundial, por ejemplo.
El estudio, dirigido por Will Hawkins, un estudiante de doctorado en la OII, y aceptado para su publicación en la conferencia de equidad, responsabilidad y transparencia (FACCT) de ACM, revela que estos generadores de profundos se han descargado casi 15 millones de veces desde finales de 2022, principalmente apuntando a las mujeres. Los datos apuntan hacia un rápido aumento de las imágenes íntimas no consensuadas generadas por IA (NCII).
Los hallazgos clave incluyen:
Escala masiva: se identificaron casi 35,000 “variantes del modelo de defake” públicamente descargable. Estos son modelos que han sido ajustados para producir imágenes de profundo de personas identificables, a menudo celebridades. Otras variantes buscan generar individuos menos prominentes, con muchas basadas en perfiles de redes sociales. Se alojan principalmente en Civitai, una popular base de datos abierta de modelos de IA. Uso generalizado: las variantes del modelo Deepfake se han descargado casi 15 millones de veces acumulativamente desde noviembre de 2022. Cada variante descargada podría generar imágenes de Deepfake ilimitadas. Aprendiendo a las mujeres: un análisis detallado reveló el 96% de los modelos profundos dirigidos a mujeres identificables. Las mujeres dirigidas iban desde celebridades reconocidas a nivel mundial hasta usuarios de redes sociales con seguidores relativamente pequeños. Muchos de los modelos de Deepfake más populares se dirigen a personas de China, Corea, Japón, el Reino Unido y los Estados Unidos. Se crea fácilmente: muchas variantes del modelo Deepfake se crean utilizando una técnica llamada Adaptación de bajo rango (LORA), lo que requiere tan solo 20 imágenes del individuo objetivo, una computadora de grado al consumidor y 15 minutos de tiempo de procesamiento. Destinado a generar NCII: muchos modelos llevan etiquetas como “porno”, “sexy” o “desnuda” o descripciones que señalan la intención de generar imágenes íntimas no consensuadas (NCII), a pesar de que tales usos violar los términos de servicio de las plataformas de alojamiento y ser ilegales en algunos países, incluido el Reino Unido.
“Existe una necesidad urgente de salvaguardas técnicas más sólidas, políticas de plataforma más claras y aplicadas de manera más proactiva, y nuevos enfoques regulatorios para abordar la creación y distribución de estos modelos de IA dañinos”, dijo Will Hawkins, autor principal del estudio.
El intercambio de imágenes de Deepfake sexualmente explícitas se hizo un delito penal en Inglaterra y Gales bajo una enmienda a la Ley de Seguridad en línea en abril de 2023. El gobierno del Reino Unido espera hacer que la creación de imágenes sea una ofensa como parte de su proyecto de ley de delitos y policías, que se encuentra actualmente en la etapa del comité.
Los resultados pueden ser simplemente la punta del iceberg, con este análisis realizado solo en modelos disponibles públicamente en plataformas acreditadas. Dado el bajo costo de crear estos modelos, el contenido más atroz de Deepfake, por ejemplo, el material de abuso sexual infantil, también se generaliza cada vez más, pero no se publicita ni se publican en plataformas públicas.
El estudio, “Deepfakes on Demand: el aumento de los generadores de imágenes de Deepfake no consensuados accesibles por Will Hawkins, Chris Russell y Brent Mittelstadt del Instituto de Internet de Oxford, estarán disponibles como una prostituta en ARXIV a partir del 7 de mayo. Se publicará formalmente como parte de la Conferencia de la Conferencia de la Conferencia de la Conferencia de la Conferencia ACM. Atenas, Grecia.
Proporcionado por la Universidad de Oxford
Cita: aumento dramático en los generadores de imágenes de Deepfake defake descargables públicamente, Hallazgos de estudio (2025, 7 de mayo) Consultado el 7 de mayo de 2025 de https://techxplore.com/news/2025-05-Downloadable-Depfake-image-generators.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
