Google disponibiliza "marca d’água" para identificar conteúdo gerado por IA

O Google utiliza uma "marca d’água" invisível para identificar o conteúdo gerado pelas ferramentas de inteligência artificial da empresa e tornar mais fácil distinguir textos gerados pelo Gemini, por exemplo, de textos escritos por humanos.

A ferramenta, chamada de SynthID, também serve para identificar vídeos ou imagens geradas por IA e pode ajudar a impedir o uso de conteúdos de IA para fins prejudiciais, como propagar desinformação.

No final de outubro, o Google DeepMind - divisão da empresa responsável por pesquisa de inteligência artificial - disponibilizou uma versão de código aberto do SynthID, para que outros desenvolvedores de IA generativa possam aplicar marcas d’água em seus próprios modelos.

Em um artigo publicado na Nature em 23 de outubro, a empresa demonstrou como o SynthID superou outras técnicas utilizadas para identificar conteúdo gerado por IA. No entanto, os pesquisadores destacam que a "marca d’água" funciona melhor com respostas mais longas e menos factuais - como a criação de um e-mail ou de um texto.

cnnbrasil