Identificando imagens geradas pela IA com sintid

Nova ferramenta ajuda a marca d’água e a identificar imagens sintéticas criadas pelo Imagen

As imagens geradas pela IA estão se tornando mais populares todos os dias. Mas como podemos identificá -los melhor, especialmente quando eles parecem tão realistas?

Hoje, em parceria com Google Cloudestamos lançando uma versão beta do Synthid, uma ferramenta para marcar e identificar imagens geradas pela IA. Essa tecnologia incorpora uma marca d’água digital diretamente nos pixels de uma imagem, tornando -a imperceptível ao olho humano, mas detectável para identificação.

Synthid está sendo liberado para um número limitado de Vértice ai clientes usando Imagenum dos nossos mais recentes modelos de texto para imagem que usa texto de entrada para criar imagens fotorrealistas.

As tecnologias generativas de IA estão em rápida evolução, e imagens geradas por computador, também conhecidas como ‘imagens sintéticas’, estão se tornando mais difíceis de distinguir daquelas que não foram criadas por um sistema de IA.

Embora a IA generativa possa desbloquear um enorme potencial criativo, ela também apresenta novos riscos, como permitir que os criadores espalhem informações falsas – intencionalmente ou não intencionalmente. Ser capaz de identificar o conteúdo gerado pela IA é fundamental para capacitar as pessoas com o conhecimento de quando estão interagindo com a mídia gerada e para ajudar a evitar a disseminação de informações errôneas.

Estamos comprometidos em conectar pessoas com informações de alta qualidade e defender a confiança entre criadores e usuários em toda a sociedade. Parte dessa responsabilidade está oferecendo aos usuários ferramentas mais avançadas para identificar imagens geradas pela IA, para que suas imagens-e até algumas versões editadas-possam ser identificadas posteriormente.

O Google Cloud é o primeiro provedor de nuvem a oferecer uma ferramenta para criar imagens geradas pela IA com responsabilidade e identificá-las com confiança. Essa tecnologia está fundamentada em nossa abordagem para desenvolver e implantar IA responsável e foi desenvolvida pelo Google DeepMind e refinada em parceria com o Google Research.

O Synthid não é infalível contra manipulações extremas de imagem, mas fornece uma abordagem técnica promissora para capacitar pessoas e organizações a trabalhar com conteúdo gerado pela IA com responsabilidade. Essa ferramenta também pode evoluir ao lado de outros modelos e modalidades de IA além de imagens, como áudio, vídeo e texto.

Novo tipo de marca d’água para imagens de IA

As marcas d’água são projetos que podem ser colocados em camadas nas imagens para identificá -las. De impressões físicas no papel a texto translúcido e símbolos vistos hoje em fotos digitais, eles evoluíram ao longo da história.

As marcas d’água tradicionais não são suficientes para identificar imagens geradas por IA, porque geralmente são aplicadas como um carimbo em uma imagem e podem ser facilmente editadas. Por exemplo, marcas d’água discretas encontradas no canto de uma imagem podem ser cortadas com técnicas básicas de edição.

É difícil encontrar o equilíbrio certo entre imperceptibilidade e robustez às manipulações da imagem. Marcas d’água altamente visíveis, geralmente adicionadas como uma camada com um nome ou logotipo na parte superior de uma imagem, também apresentam desafios estéticos para fins criativos ou comerciais. Da mesma forma, algumas marcas d’água imperceptíveis desenvolvidas anteriormente podem ser perdidas por meio de técnicas de edição simples, como redimensionamento.

Projetamos sintid para que não comprometa a qualidade da imagem e permita que a marca d’água permaneça detectável, mesmo após modificações como adicionar filtros, alterar cores e economizar com vários esquemas de compressão com perdas – mais comumente usados ​​para JPEGs.

O Synthid usa dois modelos de aprendizado profundo – para marcar e identificar – que foram treinados juntos em um conjunto diversificado de imagens. O modelo combinado é otimizado em uma variedade de objetivos, incluindo a identificação correta do conteúdo marcado aquático e a melhoria da imperceptibilidade, alinhando visualmente a marca d’água ao conteúdo original.

Abordagem robusta e escalável

O SynthID permite que os clientes da AI da Vertex criem imagens geradas pela IA com responsabilidade e identifiquem-as com confiança. Embora essa tecnologia não seja perfeita, nossos testes internos mostram que ela é precisa contra muitas manipulações de imagens comuns.

Abordagem combinada do Synthid:

• Marca aquática: O sintídeo pode adicionar uma marca d’água imperceptível às imagens sintéticas produzidas pela Imagen.
• Identificação: Ao digitalizar uma imagem para sua marca d’água digital, o Synthid pode avaliar a probabilidade de uma imagem ser criada pela Imagen.

Esta ferramenta fornece três níveis de confiança para interpretar os resultados da identificação da marca d’água. Se uma marca d’água digital for detectada, parte da imagem provavelmente será gerada pelo Imagen.

O sintid contribui para o amplo conjunto de abordagens para identificar conteúdo digital. Um dos métodos mais amplamente utilizados de identificação de conteúdo é através dos metadados, que fornece informações como quem o criou e quando. Esta informação é armazenada com o arquivo de imagem. As assinaturas digitais adicionadas aos metadados podem mostrar se uma imagem foi alterada.

Quando as informações dos metadados estão intactas, os usuários podem identificar facilmente uma imagem. No entanto, os metadados podem ser removidos manualmente ou até perdidos quando os arquivos são editados. Como a marca d’água da Synthid está incorporada nos pixels de uma imagem, é compatível com outras abordagens de identificação de imagem baseadas em metadados e permanece detectável mesmo quando os metadados são perdidos.

O que vem a seguir?

Para construir conteúdo gerado pela IA com responsabilidade, Estamos comprometidos em desenvolver abordagens seguras, seguras e confiáveis A cada etapa do caminho – desde a geração de imagens e identificação até a alfabetização da mídia e a segurança da informação.

Essas abordagens precisam ser robustas e adaptáveis ​​à medida que os modelos generativos avançam e se expandem para outros meios. Esperamos que nossa tecnologia Synthid possa trabalhar em conjunto com uma ampla gama de soluções para criadores e usuários em toda a sociedade, e continuamos a evoluir sintid, recebendo feedback dos usuários, aprimorando seus recursos e explorando novos recursos.

O Synthid pode ser expandido para uso em outros modelos de IA e estamos entusiasmados com o potencial de integrá-lo em mais produtos do Google e disponibilizá-lo a terceiros em um futuro próximo-capacitar pessoas e organizações a trabalhar com responsabilidade com conteúdo gerado pela IA.

Nota: O modelo usado para produzir imagens sintéticas neste blog pode ser diferente do modelo usado no Imagen e no Vertex AI.