Google marca con marcas de agua las imágenes generadas por inteligencia artificial para protegerse contra los deepfakes
Google usa marcas de agua en imágenes generadas por IA para protección contra deepfakes
En un importante avance hacia la lucha contra la proliferación de contenido engañoso, Google ha presentado una solución innovadora que añade una nueva capa de defensa contra la avalancha de deepfakes. Este esfuerzo pionero utiliza marcas de agua invisibles, como escudos secretos, en imágenes creadas con tecnología de IA. La herramienta de marca de agua, llamada “SynthID”, es un producto de la colaboración innovadora entre Google Research, Google Cloud y Google DeepMind. Vamos a explorar cómo este movimiento fortalece la integridad visual en línea y ayuda en la lucha contra los deepfakes y la desinformación digital.
También te puede interesar: Cómo detectar y manejar deepfakes en la era de la IA?
SynthID: Un guardián de autenticidad
La revolucionaria herramienta, llamada SynthID, otorga una firma invisible pero indeleble a las imágenes, indicando su origen como creaciones generadas por IA. Esta innovación de marcas de agua está destinada a convertirse en un arma poderosa en la lucha contra los deepfakes, al tiempo que protege las imágenes protegidas por derechos de autor. La potencia de SynthID radica en su capacidad para incrustar sutiles marcas de agua digitales dentro de los propios píxeles de una imagen. La brillantez de esta técnica radica en su casi invisibilidad para los ojos humanos, pero sigue siendo detectable a través de un algoritmo.
También te puede interesar: Arte generado por IA negado derechos de autor por un tribunal de EE. UU.
Sigiloso pero resistente
SynthID entra en la batalla con características robustas diseñadas para abordar el dinámico panorama de las imágenes generadas por IA. Operando como una versión beta dentro de Vertex AI, la plataforma de Google para crear aplicaciones y modelos de IA, SynthID soporta exclusivamente Imagen, el modelo pionero de texto a imagen de Google. Esta herramienta notable va más allá de lo superficial escaneando las imágenes entrantes en busca de la marca de agua de SynthID. La identificación de la marca de agua se mide en tres niveles de certeza: detectada, no detectada y posiblemente detectada.
- Esta investigación de IA aborda el problema de la pérdida de plasti...
- Principales software/herramientas de traducción de IA (septiembre d...
- Noticias de VoAGI, 30 de agosto 7 proyectos construidos con IA gene...
También te puede interesar: La UE pide medidas para identificar deepfakes y contenido de IA
Dos guardianes de IA
En el corazón de SynthID se encuentra la sinergia de dos modelos de IA: uno dedicado a la marca de agua y otro a la identificación. Estas dos fuerzas formidables fueron entrenadas juntas utilizando un conjunto diverso de imágenes. Esta capacidad combinada permite a SynthID penetrar a través de capas de modificaciones, como filtros, alteraciones de color o compresiones intensas, manteniendo su capacidad de identificar imágenes generadas por IA.
También te puede interesar: PhotoGuard de MIT utiliza IA para defenderse de la manipulación de imágenes por IA
El escudo de certeza de SynthID
SynthID se presenta como un centinela, infalible pero cauteloso. Si bien no presume de tener una certeza absoluta en la identificación de imágenes con marca de agua, posee la astucia para distinguir entre imágenes que podrían llevar la marca de agua y las que tienen más probabilidades de albergarla. Este enfoque estratégico asegura que SynthID encuentre el equilibrio adecuado entre precisión y análisis cauteloso.
También te puede interesar: La herramienta de detección de IA de OpenAI no logra detectar el 74% del contenido generado por IA
Una creciente ola de contramedidas
La incursión innovadora de Google en la marca de agua de imágenes no es el único esfuerzo en este campo. Empresas como Imatag y Steg.AI se han unido a las filas con técnicas de marca de agua resistentes a recortes, cambios de tamaño y ediciones. Microsoft, también, ha prometido su compromiso con la marca de agua criptográfica. Shutterstock y Midjourney han dado un paso adelante con sus propios enfoques, incrustando marcadores que indican contenido generado por IA. DALL-E 2 de OpenAI también ha incorporado marcas de agua sutiles como testimonio de sus creaciones.
También te puede interesar: 4 gigantes tecnológicos – OpenAI, Google, Microsoft y Anthropic se unen por una IA segura
Nuestra opinión
A medida que el ámbito de la IA generativa rebosa de posibilidades creativas, también crece el potencial de desinformación y engaño. La aparición de marcas de agua de SynthID marca un notable avance en la garantía de transparencia y autenticidad en el panorama digital. Este salvaguardia invisible, impulsado por la sinergia de la IA, empoderará a los usuarios al distinguir entre contenido genuino y creaciones generadas por IA. En una era llena de dualidades digitales, la introducción de SynthID no es solo un avance tecnológico, sino también una maniobra estratégica para proteger la verdad y contrarrestar la propagación de la desinformación.
