Tudo o que precisa de saber sobre a marca de água nos conteúdos gerados por IA

A Europa impõe, as empresas cumprem. Com base nisto, tal como já se verificou com as plataformas digitais (na sua maioria, norte-americanas) obrigadas a respeitar as normas do RGPD em matéria de privacidade, verificou-se uma reviravolta importante no que diz respeito aos conteúdos produzidos pelos assistentes de IA. A marcar o caminho está a entrada em vigor do AI Act, o regulamento europeu sobre inteligência artificial, que, desde 2 de agosto, entrou na fase final de aprovação (após um processo iniciado há 12 meses).

O que diz a Lei da IA em matéria de transparência?

O que chama a atenção é o artigo 50º, que impõe às empresas do setor a obrigação de identificar e tornar reconhecíveis os conteúdos gerados ou alterados com IA: textos, áudio, imagens e vídeos serão, portanto, assinalados — tal como indicado na norma — “num formato legível por máquina e identificáveis como gerados ou manipulados artificialmente”. Além disso, os fornecedores desses conteúdos devem garantir “soluções técnicas eficazes, interoperáveis, sólidas e fiáveis, na medida em que tal seja tecnicamente possível, tendo em conta as especificidades e os limites dos vários tipos de conteúdos, os custos de implementação e o estado da técnica geralmente reconhecido”.

A marca de água de IA segundo a Anthropic

Esta novidade, obrigatória para evitar sanções — ou seja, multas até 15 milhões de euros ou 3% do volume de negócios global anual —, acompanha a assinatura do Código de Conduta para a Transparência pela Anthropic e pela OpenAI, embora, neste momento, as soluções previstas para a identificação de conteúdos gerados por máquinas ainda sejam pouco claras. Necessária para tentar travar a onda de textos homogéneos em estilo e estrutura (incluindo as imagens estereotipadas, com um design horrível, que povoam as contas de muitas empresas no Instagram), a novidade anunciada pela Anthropic prevê uma marca de água nos conteúdos textuais produzidos pelo Claude, enquanto a OpenAI recorrerá a sistemas legíveis por máquinas, sobre cujo funcionamento, no entanto, não forneceu detalhes.

Fala-se no futuro porque a legislação da União Europeia obriga os modelos de inteligência artificial lançados no mercado após 2 de agosto de 2026 a respeitar a transparência. Para os que já estavam disponíveis anteriormente, haverá um período de transição de quatro meses (até 2 de dezembro de 2026), após o qual terão de se submeter às mesmas regras.

A premissa da Anthropic é que a watermark — termo inglês que designa a marca de água, visível ou invisível, aplicada aos conteúdos gerados por IA — ainda se encontra em fase de desenvolvimento. A empresa liderada pelos irmãos Dario e Daniela Amodei acrescentou, no entanto, que, no que diz respeito aos textos, apostará em marcadores incorporados e impercetíveis, úteis para identificar o conteúdo sem alterar o significado nem a legibilidade do texto.

Smith Collection/Gado / Getty Images

Os limites da solução

O essencial é que, com esta medida, o copiar e colar deixará de existir, pois, quando se utilizar um conteúdo gerado pela IA, haverá uma marca incorporada a indicar a sua origem. De acordo com o que se sabe até ao momento, a marca de água poderá permanecer mesmo após algumas alterações ao texto, mas a Anthropic não exclui a possibilidade de esta poder ser removida. Com uma revisão aprofundada e inúmeras alterações, os textos e ficheiros poderão deixar de ser identificados como um produto da IA.

Esta não é a única limitação potencial da solução, uma vez que a própria empresa especificou que um texto poderá ser identificado como gerado pelo Claude, mesmo que, na realidade, tenha origem numa fonte diferente. É o caso das contribuições que passaram pelo chatbot da Anthropic para efetuar correções, traduções ou sínteses. Resta ainda ver como a ferramenta se comportaria perante textos gerados ou modificados por outra inteligência artificial, especialmente por sistemas que possam não possuir marca de água. Quanto aos ficheiros, por outro lado, os metadados podem desaparecer na sequência de capturas de ecrã ou da conversão do documento para um formato diferente.

O que fará a OpenAI

Se a Anthropic se manteve cautelosa quanto ao funcionamento das suas marcas de água, sabemos muito menos sobre as intenções da OpenAI, signatária da secção 1 do Código de Conduta para a Transparência. De acordo com o que foi divulgado pela empresa de Sam Altman, a ideia é marcar tanto os textos como as imagens produzidos pelo ChatGPT, mas, por enquanto, não há informações sobre as soluções identificadas para o conseguir.

Traduzido do original, disponível aqui.