Desde o dia 2 de agosto deste ano passou a ser obrigatório identificar o conteúdo feito com IA nos países da União Europeia. Isto acontece sobretudo com imagens, mas a Anthropic já apresentou uma proposta para texto. Mas será que uma marca de água resolve o problema de ilusão que a IA nos trouxe?
Corria o ano 2020, e havia um entusiasmo em torno da blockchain, quando Miguel Sousa Tavares sugeriu, num programa de entretenimento da TVI, que a tecnologia podia servir para acabar com a desinformação. Para o escritor e comentador, a block(bloquear)-chain (cadeia) teria a capacidade de neutralizar as fakes news na sua fonte original e seria um antídoto contra a pandemia de desinformação. O momento em que o explicava à apresentadora Cristina Ferreira tornou-se uma piada na internet e, entretanto, 6 anos passaram e o hype da blockchain desceu substancialmente — em parte vítima de fake news e scams em nome da tecnologia que ninguém conseguiu evitar.
Agora o hype é outro: a inteligência artificial. As fake news evoluíram, muito por culpa da popularização das aplicações de IA generativa que permitem a criação de imagens e vídeos de elevada verossimilhança. E pela facilidade com que tantas outras ferramentas, com base na mesma tecnologia, permitem automatizar processos de criação e publicação das notícias falsas em sites de aspeto fidedigno. Tornou-se banal ler em caixas de comentários de jornais de referência “isto é IA”, até em vídeos e fotografias com autoria devidamente identificada; como se tornou banal ver pessoas a acreditar nos vídeos mais obviamente manipulados. Ainda assim, perante a complexidade deste desafio, as soluções propostas não diferem assim tanto da profecia de Sousa Tavares.
Em 2024, a União Europeia aprovou o primeiro documento que procurava criar algumas linhas vermelhas para a utilização de IA: o Regulamento Europeu da Inteligência Artificial, mais conhecido por AI Act. Entre as medidas do AI Act, que tiveram de começar a ser implementadas no dia 2 de agosto deste ano, uma das que mais tem sido celebrada, pela sua visibilidade, passa pela necessidade de identificação de todos os conteúdos criados com inteligência artificial — textos incluídos. A medida, com efeitos imediatos desde a entrada em vigor do AI Act, já é visível, por exemplo em anúncios televisivos onde uma marca de água (diferente em cada anúncio) com as siglas AI ou IA surge em tom ténue num dos cantos do ecrã. Mas se neste contexto esta pequena marca permite identificar as empresas que utilizam alguma tecnologia de IA na criação de recursos audiovisuais (para além das animações estranhas e das caras deformadas no fundo do plano), dificilmente esta solução mitigará a desinformação criada com IA. E os danos colaterais podem ser ainda mais nefastos para o espaço público.
De um modo análogo a outro tipo de mecanismos propostos pelos reguladores europeus, como o famigerado ChatControl, a solução proposta peca por partilhar com os mais entusiastas da IA um certo fascínio tecnológico. Isto não significa que o respaldo na lei pode circunstancialmente servir para punir um punhado de infratores apanhados em flagrante delito. Mas a falsa sensação de segurança que promove pode acabar por intensificar ainda mais a distopia informativa em que vivemos. E a lógica da sinalização pode desencadear um espírito persecutório e acabar por fazer vítimas indesejadas.
Neste contexto, a Anthropic, empresa criadora do Claude e uma das várias signatárias do código de conduta da IA, a par de Google, Meta, Microsoft, Mistral, e OpenAI, foi a primeira a anunciar a implementação global das marcas de água em todo o conteúdo. E este exemplo, para além de propôr um padrão, e dar mais oportunidades à empresa de aparecer em todas as notícias, dá-nos contexto suficiente para perceber as evidentes lacunas de uma implementação de larga escala destes sistemas.
Como funcionam as marcas de água
As marcas de água são um clássico da internet. Já todos vimos imagens de bancos de imagem, como a Getty ou a iStock, onde um retângulo com o logótipo da distribuidora ocupa partes da imagem. Ou, mais recentemente, o pequeno logótipo do Gemini que os mais descuidados produtores de imagens falsas se esquecem de apagar. No que toca à Inteligência Artificial, contudo, a capacidade dos modelos para gerar conteúdo em diferentes suportes — imagem, vídeo ou texto — multiplica os desafios. Tal como se pode ler na própria descrição dos métodos propostos pela Anthropic, as limitações são evidentes. E demonstram que dificilmente resolverão o problema.
No que toca às imagens, em casos anteriores propôs-se a criação de um padrão invisível a olho humano, mas que podia ser legível por máquinas (por exemplo a alteração de uma sequência de pixels numa dada coordenada da imagem, detetável apenas por outra máquina). Neste caso, a solução proposta é ainda menos robusta. A proposta da Anthropic passa por criar uma assinatura de proveniência nos metadados dos ficheiros gerados em .svg, .png, ou .jpg. Isto é: registar nas informações do próprio ficheiro uma referência à geração artificial da imagem. Na teoria, isto parece uma solução simples, o problema complica-se se pensarmos na forma como as imagens circulam online. E na facilidade com que os metadados se perdem.
Pensemos no quotidiano. No Instagram já todos vimos imagens marcadas com a indicação “Made with AI” (e pessoas a serem enganadas mesmo perante esta evidência). Esta sinalização resulta, na maioria das vezes, da leitura de metadados semelhantes aos anunciados pelo Claude, já antes usados por plataformas como a OpenAI para imagens e vídeos. Mas é também nessa sinalização que o caso se complica. Por um lado, a forma como o Instagram processa as imagens não permite que descarreguemos as imagens de forma simples e que quem descarregue as imagens tenha acesso aos metadados originais — o que entrega às plataformas o ónus total da verificação. Por outro, a falsa sensação de segurança que se instala perante a ubiquidade desta sinalização pode levar a uma maior credulidade nos conteúdos sem o mesmo registo. E isso não significa que esses conteúdos não tenham sido modificados ou criados artificialmente.
Para retirar a assinatura dos metadados basta que, como vimos, a imagem seja descarregada das redes sociais (que na maioria não preservam esta informação no ficheiro descarregável); que a imagem depois de gerada tenha sido gravada através de uma captura de ecrã; modificada num qualquer programa de edição que tenha a funcionalidade de remover estes sinais. Ou que, pura e simplesmente, para a sua geração tenha sido utilizado outro modelo que não subscreveu o código de conduta da EU — como por exemplo os modelos open-weights (grátis de utilizar localmente), como o Qwen-Image, que tanto sucesso têm feito. Em qualquer dos casos, não é preciso mais que um par de cliques, o que dificilmente deterá agentes (humanos) mal intencionados.
Já no caso do texto, o método proposto é diferente. Sem metadados associados ao texto, a Anthropic anunciou que os seus modelos vão deixar uma pista invisível no texto: sem entrar em explicações demasiado técnicas, a ideia de implementação é criar um padrão estatístico no texto que seja imperceptível ao leitor mas detetável por quem conhece o código. Pensemos, por absurdo: um ‘e’ na 2ª posição a cada duas palavras, ou um ‘2’ na 2ª posição a cada dois tokens. Se este processo é mais engenhoso, é igualmente falível. Como admite a empresa, textos demasiado curtos podem nem sequer ser assinaláveis com este padrão estatístico e qualquer re-escrita do texto com pequenas mudanças poderá remover o sinal. O que pode até ser feito com recursos a outro modelo de IA, com o simples prompt: “re-escreve este texto com outras palavras”. Ou nem isso.
Poucas horas depois do anúncio da Anthropic, uma pesquisa simples por “Claude Watermark Remove” mostra a celeridade com que surgem métodos, sites e aplicações para contornar esta medida. Neste ponto é possível que estejas a pensar que essa alteração é um desrespeito pelo regulamento (e é), o problema é que prová-lo leva-nos de volta ao ponto de partida de toda esta discussão. Com a agravante de que, ao criar estes mecanismos de verificação, rapidamente colonizados pelas big tech estamos, mais uma vez, a entregar o ónus da verificação a empresas norte-americanas, que não são alvo do escrutínio e que já mostraram por mais que uma vez alinhar com as intenções do seu país de origem.
As questões dúbias não se ficam por aqui. Pegando em exemplos concretos: se formos até à página de Instagram do videocast “Na Saúde e na Doença”, de Margarida Santos e Guilherme Geirinhas, um dos seus últimos vídeos surge sinalizado com “Informações de IA”. A acompanhar este sinal está a descrição que indica que esta marca serve para conteúdos que foram gerados na totalidade por IA. Neste caso, é fácil de perceber que se trata de um falso positivo — vendo o vídeo atentamente, podemos pôr a hipótese de uma das imagens ter sido modificada por IA. Ao mesmo tempo, um vídeo de promoção da próxima edição do festival Iminente, recentemente publicado por Vhils, onde é evidente o uso de IA para gerar vídeo (ver por exemplo a última cena onde o cobertor se mexe sozinho), e inclusive está taggado um software de criação com IA, não tem qualquer marca. Isto deve-se provavelmente ao software que foi usado para fazer a última exportação do ficheiro, mas exemplifica de forma paradigmática como os falsos positivos se podem tornar prevalentes, e as utilizações mais evidentes podem ficar de fora da sinalização. (Ainda que, faça-se a ressalva, ambos os casos pudessem estar sob a excepção prevista para os trabalhos artísticos)
Cenários semelhantes podem imaginar-se no texto, em que um que seja escrito por um humano e depois passado por um modelo de IA para corrigir erros gramaticais ou ortográficos possa ser sinalizado com IA, ao passo que um texto gerado por IA, mas alterado por outra IA, pode passar sem qualquer sinal.
Por que as marcas de água não funcionam
A discussão em torno das marcas de água digitais e dos sinais legíveis por máquinas é antiga. Pelo menos desde que o saudoso Tumblr prometeu o lançamento de um algoritmo capaz de detetar imagens pornográficas que esta discussão se vai repetindo com diferentes tecnologias… mas as mesmas questões. À medida que os desafios crescem de complexidade, que instituições migram para plataformas proprietárias legitimando-as, este tipo de soluções vão adiando uma admissão fundamental: a de que a tecnologia não resolverá assim tão simplesmente problemas sociais. Mesmo que, em parte, tenha sido responsável por criá-lo ou aumentá-lo.
Numa altura em que a tecnologia parece ser a solução para tudo, é tentador acreditar que pequenos ajustes podem servir para resolver os problemas. Mas se pensarmos como estes problemas realmente ocorrem, rapidamente esta ideia desvanece.
Focando no caso da desinformação, por exemplo, não é difícil percorrermos as redes sociais e encontrarmos dezenas de exemplos em que o uso de Inteligência Artificial ou de qualquer outra tecnologia de manipulação é evidente, mas mesmo assim dezenas de pessoas acreditam. Isto acontece porque a desinformação não tem simplesmente a ver com a verificação, e o problema não é só existirem notícias falsas. O problema é todo o desenho do espaço público digital privado.
Nomeadamente: os algoritmos que procuram a maximização do engajamento recorrendo a estratégicas preditivas e aditivas; a micro-segmentação dos feeds que promove uma relação menos social e mais individualizada com a informação; e, em última instância, a constante diminuição dos moderadores humanos com capacidade para moderar a quantidade de conteúdo que circula.
Focar a questão da desinformação num sinal visível pelo leitor é uma forma de individualizar uma questão que é sistémica. E é apontar para um comportamento individual um problema que é infraestrutural — até porque acreditar não é tanto uma questão intencional e de dolo, é muitas vezes uma questão de pertença ou afirmação. Ou até sinónimo de uma relação problemática com as redes sociais (antes das psicoses de IA, os algoritmos de redes sociais e o seu viés confirmatório já estavam a alienar muita gente).
Para além disso, acreditar neste tipo de soluções parte do pressuposto de que a maioria da desinformação é criada e disseminada por via de utilizadores comuns. Algo que, como já vimos em casos como o Cambridge Analytica,— ou até na recente crise de migração de Ceuta — não é assim tão claro. O espaço digital tornou-se um espaço não só para a sociabilização, mas também para campanhas políticas em diversas escalas (autênticas guerras híbridas) onde os utilizadores são vítimas. Achar que isso se resolve com marcas de água é menosprezar a escala do problema.
A existência desta lei pode servir para, no futuro, punir eventuais criadores de fake news (desde que sejam localizáveis e operem na jurisdição europeia). Nesse ponto, a discussão deve migrar portanto para outras questões mais profundas, como: “para que queremos a lei?” e “para que serve a política europeia?”. Se o objetivo da lei e da política for a punição e a correção à posteriori, talvez medidas desta natureza tenham algum sucesso. Se acreditarmos que a política pode servir para muito mais — para equipar a sociedade para lidar com os desafios que vão surgindo — então é evidente que a resposta tem de ser muito mais proativa.
A solução não é tão tecnológica, mas não é assim tão complicada: investir fortemente em literacia, em projetos que não dependem do cumprimento de critérios burocráticos kafkianos; regular as big tech com mão pesada, obrigando a uma maior transparência sobre os algoritmos e maior moderação humana; e financiar os agentes que tentam voltar a tecer o tecido social que tem sido rasgado pelo atrito provocado pela aceleração tecnológica.
A sinalização do conteúdo de IA desta forma parecer uma importante medida para medida em que alimenta o espírito das redes sociais onde é frequente tentar identificar qualquer uso da tecnologia, à procura de travessões no meio de um texto que o denunciem. Como se o uso de IA a nível individual fosse o problema real, e como se a caça aos sinais de IA nos fosse livrar das consequências nefastas que esta tecnologia tem acelerado. Mas não trará proveitos sociais concretos se não for acompanhada por outras medidas — nem no que toca a desinformação, nem no que toca aos problemas ambientais ou de desigualdade que tecnologias como esta podem exacerbar. Nem sequer nos vai livrar do AI Slop. Cada vez mais, a verdadeira disputa é pela infraestrutura. E nesse particular as big tech vão continuando a amealhar os lucros que resultam desta confusão e a manter os utilizadores agarrados: agora não só aos chatbots, mas também aos mecanismos que verificam se um texto ou imagem foi gerado por Inteligência Artificial.
(Shifter)