DeepMind se asocia con Google Cloud para marcar con agua imágenes generadas por inteligencia artificial

Créditos de imagen: Google

En asociación con Google Cloud, Google DeepMind (la división de investigación de inteligencia artificial de Google). liberar Una herramienta para marcar e identificar imágenes generadas por IA, pero solo imágenes generadas por el modelo de creación de imágenes de Google.

La herramienta, llamada SynthID y disponible en versión beta para los usuarios de Vertex AI (la plataforma de Google para crear aplicaciones y modelos de inteligencia artificial), incorpora una marca de agua digital directamente en los píxeles de la imagen, haciéndolos aparentemente imperceptibles para el ojo humano pero detectables mediante un algoritmo. . SynthID solo admite Imagen, el modelo de conversión de texto a imagen de Google, que está disponible exclusivamente en Vertex AI.

Google previamente Dijo que incluiría metadatos para indicar los medios visuales generados por modelos generativos de IA. SynthID obviamente va más allá.

«Aunque la IA generativa puede desbloquear un enorme potencial creativo, también presenta nuevos riesgos, como permitir a los creadores difundir información falsa, ya sea intencionalmente o no», escribió DeepMind en una publicación de blog. «La capacidad de identificar contenido generado por IA es fundamental para permitir que las personas sepan cuándo están interactuando con los medios generados y para ayudar a prevenir la difusión de información errónea».

Créditos de imagen: Mente profunda

DeepMind afirma que SynthID, que desarrolló y se asoció con Google Research (el equipo de investigación y desarrollo de Google) para mejorar, permanece vigente incluso después de modificaciones como agregar filtros a las imágenes o cambiar los colores y comprimir imágenes en gran medida. DeepMind dice que la herramienta aprovecha dos modelos de IA, uno para marcas de agua y otro para identificación, que han sido entrenados juntos en un conjunto «variado» de imágenes.

SynthID no puede reconocer imágenes con marcas de agua con un 100% de confianza. Pero la herramienta distingue entre casos en los que la imagen es tal vez Contiene una marca de agua contra una imagen. Muy probable contener uno.

«SynthID no es infalible contra la manipulación severa de imágenes, pero proporciona un enfoque tecnológico prometedor para permitir que las personas y las organizaciones trabajen con contenido generado por IA de manera responsable», escribió DeepMind en la publicación del blog. «Esta herramienta también puede evolucionar junto con otros modelos y métodos de IA que van más allá de imágenes como audio, vídeo y texto».

Las técnicas de marcas de agua para el arte generativo no son nada nuevo. La startup francesa Imatag, lanzada en 2020, ofrece una herramienta de marca de agua que, según afirma, no se ve afectada por el cambio de tamaño, el recorte, la edición o la compresión de la imagen, similar a SynthID. Otra empresa, Steg.AI, utiliza un modelo de IA para aplicar marcas de agua que resisten el cambio de tamaño y otras modificaciones.

Pero está aumentando la presión sobre las empresas de tecnología para que proporcionen una forma de demostrar que las obras han sido generadas por IA.

Recientemente, la Administración del Ciberespacio de China emitió regulaciones que exigen a los proveedores de IA generativa etiquetar el contenido generado (incluidos los generadores de texto e imágenes) sin afectar el uso del usuario. Y en las recientes audiencias del Comité del Senado de los Estados Unidos, la senadora Kirsten Sinema (republicana por Arizona) confirmado La necesidad de transparencia en la IA generativa, incluido el uso de marcas de agua.

En mayo, en su conferencia anual Build, Microsoft se comprometió a poner marcas de agua en imágenes y vídeos generados por IA «utilizando métodos de cifrado». En otros lugares, las nuevas empresas de inteligencia artificial Shutterstock y Midjourney lo han adoptado Pautas Incluir una etiqueta que indique que el contenido fue generado por una herramienta de IA generativa. DALL-E 2 de OpenAI, una herramienta de conversión de texto a imagen, inserta una pequeña marca de agua en la parte inferior derecha de las imágenes que crea.

Pero hasta ahora, un estándar común para las marcas de agua, ya sea para crear o detectar marcas de agua, ha resultado difícil de alcanzar.

SynthID, al igual que otras tecnologías propuestas, no será útil para ningún creador de imágenes que haga esto. así no Imagen, al menos no en su forma actual. DeepMind dice que está considerando poner SynthID a disposición de terceros en un futuro próximo. Pero si los terceros (en particular los que desarrollan generadores de imágenes de IA de código abierto, que carecen de muchos de los cortafuegos de los generadores detrás de la API) adoptarán la tecnología es otra cuestión completamente distinta.