Google SynthID Detector: cómo usarlo para identificar contenido generado con IA y cuáles son sus limitaciones

En un momento en el que la inteligencia artificial (IA) genera situaciones de desconfianza con respecto a lo que es real y lo que no, Google lanzó SynthID Detector para todos los usuarios a principios de octubre, una herramienta con la que cualquier persona puede verificar si un contenido ha sido creado con esta tecnología de forma muy sencilla.

Actualmente, generar imágenes, vídeos, texto o audio está al alcance de cualquier persona, basta con tener acceso a internet y utilizar una de las múltiples opciones de modelos de IA disponibles para hacer realidad prácticamente cualquier contenido imaginable.

Precisamente este acceso tan amplio y los avances en las capacidades de los modelos hacia la generación de contenido cada vez más realista, han ocasionado una situación de pérdida de confianza y veracidad, ante la saturación de redes sociales con contenido falso, suplantaciones de identidad y otros métodos de desinformación.

Para permitir que los usuarios puedan tener el control sobre si lo que están viendo es real, Google lanzó su herramienta SynthID Detector en 2023 como una herramienta para diferenciar e identificar imágenes generadas por IA.

Inicialmente se puso a disposición para su uso por parte de profesionales de medios de comunicación, sin embargo, ahora cualquier persona puede comprobar si una imagen, un vídeo o un clip de audio se ha creado con IA, de forma muy sencilla y accesible, tras abrirse al público general.

Con el acceso abierto a cualquier usuario, así es como los usuarios deben utilizar esta herramienta para que no se les escape ningún contenido generado por IA.

Se puede acceder principalmente de dos formas: a través de la aplicación de Gemini o directamente desde la versión web de la herramienta synthid.com.

En el caso de la web synthid.com, basta con hacer clic en el icono de adjuntar y seleccionar el elemento (imagen, texto, audio o vídeo) que se desea inspeccionar. También se puede arrastrar el elemento directamente a la página.

SynthID analiza el contenido en segundo plano y, tras unos breves segundos, indica si ha detectado la firma invisible SynthID en el contenido y, por tanto, se ha generado o modificado con tecnología de IA.

Lo mismo ocurre en la aplicación de Gemini. En este caso, se ha de adjuntar el contenido que se desea analizar de la misma forma que en synthid.com, pero acompañado de una pregunta en la caja de contexto, como "¿Esta imagen ha sido generada o editada con IA?" o "¿Tiene marca de agua de IA este archivo?". Incluso, son válidas preguntas más sencillas como "¿Este vídeo es real?".

Con ello, el asistente de Google analizará igualmente el contenido compartido con la tecnología de SynthID y responderá informando si ha detectado o no la firma invisible en el contenido.

Para comprender cómo se determina si un contenido ha sido generado o modificado con IA, se ha de tener en cuenta cual es el funcionamiento de la tecnología SynthID.

Concretamente, se trata de un sistema que integra marcas de agua digitales invisibles en los píxeles de las imágenes o en los componentes de texto o audio del contenido generado por IA. Así, se trata de una marca de agua imperceptible para el ojo humano pero que, con el correspondiente programa informático, queda a la vista para su identificación.

Esto no ocurre únicamente al generar contenido utilizando la IA de Google, sino también al acudir a la IA de socios del sector como OpenAI, Nvidia, Kakao y, próximamente, la IA de Apple.

Igualmente, en el proceso de identificación también se utilizan credenciales de contenido, como especifica Google en la página de soporte. Esto es, una tecnología que actúa como un pasaporte digital para el contenido, documentando el origen de, por ejemplo, una imagen, y su historial digital de por dónde ha pasado o para qué ha sido utilizada.

Cabe destacar que las credenciales de contenido se aplican tanto a las imágenes, audios y textos generados por IA como aquellos que son orgánicos generados por humanos, ya que indican información sobre el origen y el historial.

Google aclara que si se detecta una marca de agua SynthID en el contenido compartido, significa que la imagen o el vídeo se han creado "en su totalidad o en parte" con modelos de IA.

En el caso de los vídeos, se indicará en qué partes se ha detectado una marca de agua de SynthID. Asimismo, conviene tener en cuenta que la huella digital se sigue mostrando incluso si el contenido se ha modificado posteriormente para impedirlo.

Por el contrario, si no se detecta ninguna marca de agua SynthID, significa que la imagen o vídeo puestos a prueba no se han creado con la IA de Google o las empresas asociadas, aunque podrían haberse creado con otros sistemas de IA.

Además, en algunos casos SynthID no es capaz de asegurar si una imagen o vídeo se ha creado o editado con la IA de Google. Esto se debe, principalmente, a que no hay suficientes detalles de la imagen como para detectar una marca de agua. Por ejemplo, en una imagen abstracta o con contenido muy sencillo.

Igualmente, es probable que la alteración de la marca sea demasiado pequeña y, por tanto, la herramienta no la reconozca como marca de agua.

A pesar de la facilidad de uso, hay algunos factores a tener en cuenta a la hora de emplear esta herramienta, como que dispone de límite en la cantidad de archivos que se pueden comprobar, según matiza Google.

Por ejemplo, soporta un peso máximo por archivo de 100 MB para comprobar si se ha utilizado IA. De misma forma, los vídeos pueden tener una duración máxima de 90 segundos y el audio una duración máxima de una hora.

Por tanto, si los usuarios exceden estos límites, la herramienta no podrá proceder a analizar el contenido y dará problemas. Además, para verificar cualquier imagen o vídeo, se deberá haber iniciado sesión con su cuenta de Google, por lo que es necesario disponer de una.

Además, la herramienta de Google no es infalible, dado que no puede identificar el contenido generado por IA que no incluya las marcas de agua digitales propias. A pesar de que otras empresas del sector se han unido a esta iniciativa como Nvidia u OpenAI, otras como Meta o Amazon no han adoptado este sistema.

Cabe recordar que existen otras formas de identificar contenido generado por IA, más allá de SynthID. En el caso de Meta, apuesta por una tecnología propia que agrega etiquetas visibles al contenido generado por IA con Meta AI. Estas etiquetas aparecen en la parte superior de publicaciones o junto al nombre del usuario en redes sociales.

Para los vídeos, Meta también cuenta con Video Seal, una herramienta de marca de agua para ayudar a identificar los vídeos generados por IA. Asimismo, todo ello se puede comprobar a través de su herramienta de detección web disponible.

Apple trabaja en su propia función para diferenciar las imágenes de IA de las reales capturadas por la cámara de un iPhone, con Apple Reference Image. Por su parte, OpenAI dispone de un sitio web para comprobar si los contenidos compartidos han sido generados por sus modelos de IA.

Más allá de todo ello, diversas compañías como Adobe, Google, Intel, Microsoft, Meta, OpenAI, Sony, Truepic y Amazon, están asociadas bajo el estándar de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), un proyecto de la Joint Development Foundation que permite que editores, empresas y creadores de contenido incorporen metadatos en sus materiales visuales y de audio para verificar su origen y la información relacionada.