Google lanza una herramienta que permite añadir marcas de agua a imágenes creadas por IA

Google estrena SynthID, una herramienta diseñada para agregar marcas de agua digitales a las imágenes generadas por inteligencia artificial (IA), permitiendo así su diferenciación de aquellas que son reales.

MIRA: Así luciría el hijo de Doña Florinda y el profesor Jirafales, según una Inteligencia Artificial

Esta presentación se da en un contexto donde la IA generativa es ampliamente utilizada para crear imágenes sintéticas, maximizando la creatividad de los usuarios.

Sin embargo, el auge de estos contenidos generados por IA ha planteado preocupaciones, como la difusión de información incorrecta o engañosa y la vulneración de los derechos de autor.

En respuesta a estos desafíos, Google, en su enfoque por implementar una IA responsable, desarrolló SynthID en colaboración con su equipo de Google DeepMind, Google Research y Google Cloud.

MIRA: Cómo se verían hoy Shakespeare, Mozart y George Washington, según una inteligencia artificial

La herramienta, que se incorpora directamente en los píxeles de la imagen, crea una marca de agua digital indetectable para el ojo humano. Sin embargo, mediante software especializado, se puede identificar claramente, facilitando su distinción.

En un comunicado en la página de DeepMind, la compañía enfatizó la importancia de que los usuarios puedan identificar contenido generado por IA, citando que es “fundamental” para prevenir la difusión de información errónea.

SynthID utiliza dos modelos de aprendizaje profundo: uno para la creación de las marcas de agua y otro para su identificación, ambos entrenados en un conjunto diverso de imágenes.

La herramienta analiza imágenes en base a tres niveles de confianza: “detectada” para imágenes creadas por IA, “no detectada” para imágenes reales, y “posiblemente detectada” cuando la identificación no es clara.

A pesar de que SynthID no es perfecta, especialmente frente a manipulaciones extremas, el gigante tecnológico resalta que es un paso hacia la responsabilidad en el uso de contenido generado por IA.