Identificando imágenes generadas por IA con SynthID
Identificando imágenes generadas por IA con SynthID' - 'Identifying AI-generated images with SynthID
Nueva herramienta ayuda a añadir marcas de agua e identificar imágenes sintéticas creadas por Imagen
Las imágenes generadas por IA están cada vez más populares. Pero, ¿cómo podemos identificarlas mejor, especialmente cuando se ven tan realistas?
Hoy, en colaboración con Google Cloud, lanzamos una versión beta de SynthID, una herramienta para añadir marcas de agua e identificar imágenes generadas por IA. Esta tecnología incrusta una marca de agua digital directamente en los píxeles de una imagen, haciéndola imperceptible al ojo humano pero detectable para su identificación. SynthID se está lanzando a un número limitado de clientes de Vertex AI que utilizan Imagen, uno de nuestros últimos modelos de texto a imagen que utiliza texto de entrada para crear imágenes fotorrealistas.
Las tecnologías de IA generativas están evolucionando rápidamente y las imágenes generadas por computadora, también conocidas como “imágenes sintéticas”, son cada vez más difíciles de distinguir de aquellas que no han sido creadas por un sistema de IA.
Aunque la IA generativa puede desbloquear un gran potencial creativo, también presenta nuevos riesgos, como permitir a los creadores difundir información falsa, ya sea intencional o no intencionalmente. Poder identificar el contenido generado por IA es fundamental para dotar a las personas de conocimiento sobre cuándo están interactuando con medios generados y para ayudar a prevenir la propagación de desinformación.
Nos comprometemos a conectar a las personas con información de alta calidad y a mantener la confianza entre los creadores y los usuarios en la sociedad. Parte de esta responsabilidad es brindar a los usuarios herramientas más avanzadas para identificar imágenes generadas por IA, para que sus imágenes, e incluso algunas versiones editadas, puedan ser identificadas en una fecha posterior.
- Conoce a SelFee Un LLM iterativo de auto-revisión potenciado por la...
- Más allá de ChatGPT; Agente de IA Un nuevo mundo de trabajadores
- El comienzo de la extracción de información resaltar palabras clave...
Google Cloud es el primer proveedor de servicios en la nube que ofrece una herramienta para crear imágenes generadas por IA de manera responsable e identificarlas con confianza. Esta tecnología se basa en nuestro enfoque para desarrollar e implementar IA responsable y fue desarrollada por Google DeepMind y refinada en colaboración con Google Research.
SynthID no es infalible ante manipulaciones extremas de imágenes, pero ofrece un enfoque técnico prometedor para capacitar a las personas y organizaciones a trabajar con contenido generado por IA de manera responsable. Esta herramienta también podría evolucionar junto con otros modelos y modalidades de IA más allá de las imágenes, como el audio, el video y el texto.
Nuevo tipo de marca de agua para imágenes de IA
Las marcas de agua son diseños que se pueden superponer en imágenes para identificarlas. Desde impresiones físicas en papel hasta texto translúcido y símbolos que se ven en las fotos digitales hoy en día, han evolucionado a lo largo de la historia.
Las marcas de agua tradicionales no son suficientes para identificar imágenes generadas por IA porque a menudo se aplican como un sello en una imagen y pueden ser fácilmente editadas. Por ejemplo, las marcas de agua discretas que se encuentran en la esquina de una imagen se pueden recortar con técnicas básicas de edición.
Encontrar el equilibrio adecuado entre la imperceptibilidad y la robustez ante manipulaciones de imágenes es difícil. Las marcas de agua altamente visibles, a menudo añadidas como una capa con un nombre o logotipo en la parte superior de una imagen, también presentan desafíos estéticos para fines creativos o comerciales. Del mismo modo, algunas marcas de agua imperceptibles desarrolladas anteriormente se pueden perder mediante técnicas sencillas de edición, como el cambio de tamaño.
Diseñamos SynthID para que no comprometa la calidad de la imagen y permita que la marca de agua siga siendo detectable, incluso después de modificaciones como agregar filtros, cambiar colores y guardar con diferentes esquemas de compresión con pérdida, que se utilizan comúnmente para los archivos JPEG.
SynthID utiliza dos modelos de aprendizaje profundo, uno para marcar y otro para identificar, que han sido entrenados juntos con un conjunto diverso de imágenes. El modelo combinado está optimizado para una variedad de objetivos, incluyendo la identificación correcta de contenido con marca de agua y la mejora de la imperceptibilidad al alinear visualmente la marca de agua con el contenido original.
Enfoque robusto y escalable
SynthID permite a los clientes de Vertex AI crear imágenes generadas por IA de manera responsable y identificarlas con confianza. Si bien esta tecnología no es perfecta, nuestras pruebas internas muestran que es precisa frente a muchas manipulaciones comunes de imágenes.
El enfoque combinado de SynthID incluye:
- Marca de agua: SynthID puede agregar una marca de agua imperceptible a las imágenes sintéticas producidas por Imagen.
- Identificación: Al escanear una imagen en busca de su marca de agua digital, SynthID puede evaluar la probabilidad de que una imagen haya sido creada por Imagen.
Esta herramienta proporciona tres niveles de confianza para interpretar los resultados de la identificación de la marca de agua. Si se detecta una marca de agua digital, es probable que parte de la imagen haya sido generada por Imagen.
SynthID contribuye a la amplia gama de enfoques para identificar contenido digital. Uno de los métodos más utilizados para identificar contenido es a través de metadatos, que proporcionan información sobre quién lo creó y cuándo. Esta información se almacena con el archivo de imagen. Las firmas digitales agregadas a los metadatos pueden mostrar si una imagen ha sido modificada.
Cuando la información de los metadatos está intacta, los usuarios pueden identificar fácilmente una imagen. Sin embargo, los metadatos se pueden eliminar manualmente o incluso perderse cuando se editan archivos. Dado que la marca de agua de SynthID está incrustada en los píxeles de una imagen, es compatible con otros enfoques de identificación de imágenes basados en metadatos y sigue siendo detectable incluso cuando se pierden los metadatos.
¿Qué sigue?
Para construir contenido generado por IA de manera responsable, nos comprometemos a desarrollar enfoques seguros, confiables y confiables en cada paso del camino, desde la generación e identificación de imágenes hasta la alfabetización mediática y la seguridad de la información.
Estos enfoques deben ser robustos y adaptables a medida que los modelos generativos avanzan y se expanden a otros VoAGI. Esperamos que nuestra tecnología SynthID pueda trabajar junto con una amplia gama de soluciones para creadores y usuarios en la sociedad, y continuamos evolucionando SynthID al recopilar comentarios de los usuarios, mejorar sus capacidades y explorar nuevas funciones.
SynthID podría expandirse para su uso en otros modelos de IA y estamos entusiasmados con el potencial de integrarlo en más productos de Google y ponerlo a disposición de terceros en un futuro cercano, empoderando a las personas y organizaciones para trabajar de manera responsable con contenido generado por IA.
Nota: El modelo utilizado para producir imágenes sintéticas en este blog puede ser diferente del modelo utilizado en Imagen y Vertex AI.
Más información sobre SynthID: https://www.deepmind.com/synthid
Lea el anuncio de Google Cloud: https://cloud.google.com/blog/products/ai-machine-learning/vertex-ai-next-2023-announcements
