Tecnología

Google abre SynthID para comprobar si una imagen, vídeo o audio es IA o no, pero el problema es que es un placebo

Google ha decidido abrir al público general SynthID, su herramienta de detección de contenido generado por IA desarrollada por DeepMind, presentada inicialmente en 2023 como un servicio de acceso restringido. La tecnología funciona incrustando una especie de huella digital invisible dentro de imágenes, vídeos, audios y textos en el momento mismo de su creación. A diferencia de una marca de agua visible, esta señal está integrada en los datos del archivo y está diseñada para resistir recortes, filtros, compresiones, cambios de fotogramas o alteraciones menores de calidad sin perderse. Según cifras de la propia compañía, ya se han marcado con este sistema más de 180.000 millones de imágenes y vídeos, así como el equivalente a más de 240.000 horas de contenido en audio.

 

Cualquier persona puede hacer uso de la herramienta a través de su página web oficial o directamente desde Gemini, simplemente subiendo el archivo en cuestión para recibir un diagnóstico en cuestión de segundos. Sin embargo, el servicio no es ilimitado: hay restricciones sobre el peso de los archivos, los vídeos no pueden superar los 90 segundos de duración y cada usuario dispone de únicamente veinte consultas diarias. Estas limitaciones ya dan una primera pista de que la solución tiene importantes restricciones prácticas.

 

El principal obstáculo es que SynthID solo reconoce el contenido que ha sido creado con modelos que integran su sistema de marcas de agua, entre los que figuran Google, OpenAI, Nvidia con su plataforma Cosmos y Kakao. Si la imagen o el vídeo proviene de otro generador de IA distinto, la herramienta sencillamente no detecta nada, porque no hay ninguna huella que leer. Esto significa que una parte muy importante del contenido generado por IA que circula por internet queda completamente fuera de su alcance. Incluso el contenido que sí lleva el marcador puede volverse indetectable si alguien se encarga de eliminarlo deliberadamente o si el archivo pierde calidad suficiente al ser compartido repetidamente, tal como han reconocido las propias empresas del sector.

 

La situación recuerda que no existe aún un lenguaje común entre todas las compañías tecnológicas. Iniciativas como el estándar C2PA buscan precisamente establecer un sistema de procedencia reconocible por todos, pero su adopción generalizada sigue siendo un proceso en marcha. Mientras tanto, normativas como el anteproyecto de ley aprobado en España en marzo de 2025 que obliga a etiquetar el contenido generado por IA muestran que la regulación va por detrás de los acontecimientos. En la práctica, herramientas como SynthID suponen un paso adelante, pero están lejos de ser la solución definitiva: funcionan bien en un entorno controlado, pero en internet real, donde el contenido se copia, edita y retransmite sin descanso, confiar únicamente en ellas para distinguir lo real de lo artificial resulta insuficiente.

Related posts

LG tiene un nuevo plan más allá del OLED: un televisor Micro RGB de hasta 100 pulgadas para pelear en la gama alta LED

Alba Rueda

Se llama Happy Robot, ha nacido en Guadalajara y es el nuevo unicornio de España gracias a algo: agentes IA que llaman

Alba Rueda

Se recalienta la carrera a la luna porque el jefe de la NASA hace competir a los multimillonarios

Manuel Cotillo

Leave a Comment

Este sitio web utiliza cookies para mejorar tu experiencia. Damos por sentado que estás de acuerdo, pero puedes desactivarlas si lo deseas. Acceptar Read More

Privacy & Cookies Policy