Synthid de Google es la última herramienta para capturar contenido hecho a IA. ¿Qué es la “marca de agua” de ai, y funciona?

Crédito: dominio público Unsplash/CC0

El mes pasado, Google anunció Synthid Detector, una nueva herramienta para detectar contenido generado por IA. Google afirma que puede identificar contenido generado por IA en texto, imagen, video o audio.

Pero hay algunas advertencias. Una de ellas es que la herramienta actualmente solo está disponible para “primeros probadores” a través de una lista de espera.

La principal captura es que Synthid funciona principalmente para el contenido que se ha generado utilizando un servicio de Google AI, como Gemini para texto, VEO para video, Imagen para imágenes o Lyria para audio.

Si intenta usar la herramienta Detector de IA de Google para ver si algo que ha generado usando ChatGPT está marcado, no funcionará.

Esto se debe a que, estrictamente hablando, la herramienta no puede detectar la presencia de contenido generado por IA o distinguirlo de otros tipos de contenido. En cambio, detecta la presencia de una “marca de agua” que los productos de IA de Google (y un par de otros) incrustan en su producción mediante el uso de Synthid.

Una marca de agua es un elemento especial legible por máquina integrado en una imagen, video, sonido o texto. Se han utilizado marcas de agua digitales para garantizar que la información sobre los orígenes o la autoría del contenido viaja con él. Se han utilizado para afirmar la autoría en trabajos creativos y abordar los desafíos de información errónea en los medios de comunicación.

Synthid incorpora marcas de agua en la salida de los modelos de IA. Las marcas de agua no son visibles para los lectores o audiencias, pero pueden ser utilizadas por otras herramientas para identificar el contenido que se hizo o editado utilizando un modelo de IA con Synthid a bordo.

Synthid es uno de los últimos esfuerzos de estos esfuerzos. Pero, ¿qué tan efectivos son?

No hay un sistema de detección de IA unificado

Varias compañías de IA, incluida Meta, han desarrollado sus propias herramientas y detectores de marca de agua, similar a Synthid. Pero estas son soluciones “específicas del modelo”, no universales.

Esto significa que los usuarios tienen que hacer malabarismos con múltiples herramientas para verificar el contenido. A pesar de que los investigadores piden un sistema unificado, y los principales actores como Google que buscan que otros adopten su herramienta por otros, el panorama permanece fragmentado.

Un esfuerzo paralelo se centra en los metadatos: información codificada sobre el origen, la autoría y la edición de la historia de los medios de comunicación. Por ejemplo, la herramienta de credenciales de contenido Inspect permite a los usuarios verificar los medios verificando el historial de edición adjunto al contenido.

Sin embargo, los metadatos se pueden despojar fácilmente cuando el contenido se carga en las redes sociales o se convierte en un formato de archivo diferente. Esto es particularmente problemático si alguien ha tratado deliberadamente de oscurecer el origen y la autoría de una pieza de contenido.

Hay detectores que dependen de señales forenses, como inconsistencias visuales o anomalías de iluminación. Si bien algunas de estas herramientas están automatizadas, muchas dependen del juicio humano y los métodos de sentido común, como contar el número de dedos en imágenes generadas por IA. Estos métodos pueden volverse redundantes a medida que mejora el rendimiento del modelo de IA.

¿Qué tan efectivas son las herramientas de detección de IA?

En general, las herramientas de detección de IA pueden variar dramáticamente en su efectividad. Algunos funcionan mejor cuando el contenido está generado por una IA, como cuando un chatbot ha generado un ensayo completo desde cero.

La situación se vuelve más oscura cuando la IA se usa para editar o transformar contenido creado por humanos. En tales casos, los detectores de IA pueden equivocarse. Pueden no detectar el contenido creado por humanos AI o AI como generado por IA.

Las herramientas de detección de IA no suelen explicar cómo llegaron a su decisión, lo que se suma a la confusión. Cuando se usan para la detección de plagio en la evaluación universitaria, se consideran un “campo minado ético” y se sabe que discriminan a los hablantes de inglés no nativos.

Donde las herramientas de detección de IA pueden ayudar

Existe una amplia variedad de casos de uso para las herramientas de detección de IA. Tome reclamos de seguro, por ejemplo. Saber si la imagen que comparte un cliente representa lo que dice representar puede ayudar a las aseguradoras a saber cómo responder.

Los periodistas y los verificadores de hechos pueden recurrir a los detectores de IA, además de sus otros enfoques, al tratar de decidir si la información potencialmente de interés periodístico debe compartirse más.

Los empleadores y los solicitantes de empleo necesitan cada vez más evaluar si la persona del otro lado del proceso de reclutamiento es genuina o una falsificación de IA.

Los usuarios de aplicaciones de citas deben saber si el perfil de la persona que han conocido en línea representa una perspectiva romántica real, o un avatar de IA, tal vez al frente de una estafa romántica.

Si usted es un respondedor de emergencia que decide si enviar ayuda a una llamada, saber con confianza si la persona que llama es humana o IA puede salvar recursos y vidas.

¿Dónde desde aquí?

Como muestran estos ejemplos, los desafíos de la autenticidad ahora están ocurriendo en tiempo real, y es poco probable que las herramientas estáticas como la marca de agua sean suficientes. Los detectores de IA que trabajan en audio y video en tiempo real son un área apremiante de desarrollo.

Cualquiera sea el escenario, es poco probable que los juicios sobre la autenticidad puedan ser delegados por completo a una sola herramienta.

Comprender la forma en que funcionan tales herramientas, incluidas sus limitaciones, es un primer paso importante. Triangularlos con otra información y su propio conocimiento contextual seguirá siendo esencial.

Proporcionado por la conversación

Este artículo se vuelve a publicar de la conversación bajo una licencia Creative Commons. Lea el artículo original.

Cita: el Synthid de Google es la última herramienta para atrapar contenido hecho por AI. ¿Qué es la “marca de agua” de ai, y funciona? (2025, 3 de junio) Consultado el 3 de junio de 2025 de https://techxplore.com/news/2025-06-google-synthid-latest-tool-ai.html

Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.