Marcas de água invisíveis chegam às imagens geradas com o DALL-E no serviço Azure OpenAI

Os modelos de Inteligência Artficial DALL-E da OpenAI podem gerar imagens com base em descrições escritas e o Azure OpenAI Service fornece acesso à API REST aos modelos DALL-E da OpenAI, permitindo que os programadores criem imagens programaticamente a partir de dentro das suas aplicações.

A Microsoft anunciou hoje uma nova funcionalidade integrada no Azure OpenAI Service chamada ‘Marcas de Água’. A nova funcionalidade irá adicionar marcas de água invisíveis a todas as imagens geradas com recurso ao DALL-E, oferecendo maior transparência e protecção para imagens geradas por IA.

O recente aumento da quantidade dos modelos de geração de imagens que estão disponíveis tem impulsionado a disseminação de desinformação e deepfakes geradas por IA. Por isso, a necessidade de identificar conteúdos gerados por IA é essencial. Esta nova marca de água invisível, incorporada nas imagens criadas com recurso a Inteligência Artificial, pode ser identificada por ferramentas de detecção especializadas, mas não será visível a olho nu, protegendo assim a fidelidade da imagem. E mesmo que alguém redimensione ou recorte a imagem, a integridade da marca de água permanece intacta.

As marcas de água invisíveis vão conter informações sobre a origem da imagem e são representadas por um manifesto anexado à imagem. O manifesto é assinado criptograficamente por um certificado que remete para o Azure OpenAI Service e incluirá os seguintes detalhes:

“description” – Este campo tem o valor “AI Generated Image” para todas as imagens geradas pelo modelo DALL-E, atestando a natureza gerada por IA da imagem.

“softwareAgent” – Este campo tem o valor “Azure OpenAI DALL-E” para todas as imagens geradas por modelos da série DALL-E no Azure OpenAI Service.

“when” – O momento em que as ‘Credenciais de Conteúdo’ foram criadas.

Este não é o primeiro serviço baseado em IA em que a Microsoft está a incorporar marcas de água. No ano passado, a empresa introduziu marcas de água para vozes criadas com a funcionalidade de voz pessoal Azure AI Speech. Isso permite que os utilizadores identifiquem se a fala foi sintetizada usando o Azure AI Speech ou não.

A Microsoft também está a trabalhar com outras grandes empresas no mercado da IA, incluindo a Adobe, Truepic e a BBC, para garantir que as marcas de água, metadados criptográficos e outros mecanismos de detecção funcionem em todas as plataformas.