«Puede identificar marcas de agua invisibles compatibles, pero no puede certificar que un archivo sea veraz, totalmente sintético o completamente humano». Esa es la advertencia clave que acompaña al lanzamiento público del SynthID Detector de Google, inaugurado este 7 de octubre en synthid.com y disponible globalmente en inglés. La herramienta es poderosa, pero sus ingenieros y expertos del sector insisten en que es un verificador de marcas de agua, no un detector de verdad.
El mecanismo es directo: el usuario inicia sesión con cuenta de Google, Apple u OpenAI, sube una imagen, un vídeo o un audio, y el portal responde si el archivo contiene la marca de agua SynthID y qué herramienta de qué socio la produjo o editó. La marca —incrustada en el momento de la generación y resistente a recortes, filtros y compresión común— está presente en los modelos de Google (Gemini, Imagen, Lyria, Veo, Nano Banana) y en los de sus socios OpenAI, Nvidia y Kakao, con Apple prometida «próximamente» y ElevenLabs también adherida al estándar.
Las limitaciones, sin embargo, son igualmente importantes de difundir. Un resultado negativo no significa que el contenido sea auténtico o humano: puede provenir de un modelo que no usa SynthID (como los de Meta o Microsoft, que emplean sistemas propios), o su marca de agua puede haber sido debilitada por manipulación extensiva. Investigadores señalan que ediciones ligeras dejan los marcadores intactos, pero la compresión agresiva, los filtros intensos o la regeneración pueden atenuarlos o eliminarlos por completo.
Google ha diseñado salvaguardas para proteger el sistema. La cuota de aproximadamente diez verificaciones diarias por usuario, según admitieron ingenieros de la compañía, busca impedir que actores malintencionados usen el detector como oráculo para entrenar herramientas de eliminación de marcas de agua. El propio Google reconoció en 2024, en una publicación de DeepMind, que «SynthID no es una bala de plata para identificar contenido generado con IA».
La escala alcanzada por el estándar explica por qué la apertura pública importa. Más de 180,000 millones de imágenes y vídeos marcados, 240,000 años de audio sellado y más de un millón de verificaciones diarias en las funciones integradas de Búsqueda, Gemini y Chrome conforman hoy el ecosistema de marca de agua más grande de la industria. En paralelo, Google ha liberado el código del sistema de marca de agua para texto, para que cualquier desarrollador pueda incorporarlo a sus modelos, y ha lanzado una API de detección en Google Cloud para empresas.
El fondo del asunto es la crisis de confianza en los medios digitales: con los «deepfakes» —contenidos superrealistas que hacen parecer que una persona dijo o hizo algo que nunca ocurrió— inundando las redes sociales, la capacidad de verificar el origen de un archivo se ha vuelto una necesidad básica. SynthID Detector ofrece esa capacidad, con una condición que los expertos repiten sin cansancio: el resultado es una pista técnica, no un veredicto absoluto, y la verificación de fuentes sigue siendo insustituible.
#VerificaciónDeContenidos #IA #DeepfakeDetection #SynthID #PeriodismoDigital