/cloudfront-eu-central-1.images.arcpublishing.com/prisa/P4GRE2WD3NGKZLMCNPSSHZWCVA.jpg)
O algoritmo de recomendação da rede promove essas imagens bizarras geradas pela IA que se tornam virais e servem para aumentar a audiência e tentar enganar os usuários.
“Ninguém gosta do meu trabalho artístico”, “Fiz com as minhas próprias mãos!”, “Maio de 2024 é o seu melhor ano”, são alguns dos textos que acompanham milhares de imagens bizarras de Jesus Cristo geradas por inteligência artificial no Facebook. . O algoritmo da rede os promove, alguns se tornam virais e conseguem atrair grandes públicos para páginas que aproveitam seu sucesso para monetizar ou até mesmo enganar os usuários.
“As imagens são cativantes: algumas são lindas, algumas são sensacionais e algumas são simplesmente estranhas”, diz Renée DiResta, pesquisadora da Universidade de Stanford e coautora de um artigo de março sobre esse fenômeno intitulado “Como spammers e golpistas usam imagens”. gerado pela IA no Facebook para aumentar o público.” Milhares de usuários interagem com essas imagens, muitos com um simples “amém”, o que pode significar que são bots.
O Facebook tornou-se ao longo dos anos uma rede onde o conteúdo é compartilhado e tem como objetivo básico aumentar a audiência. Os Jesus Cristos são outro recurso fácil de criar e que chama a atenção: “A competição pela atenção entre os criadores de páginas significa que eles usarão qualquer tática que pareça funcionar, o que agora inclui a publicação de conteúdo gerado por IA que os sistemas de recomendação que parecem estar promovendo, ” DiResta continua.
Os textos acrescentados pelos autores servem para promover esta viralidade. Em algumas imagens, uma criança negra está ao lado de um Jesus Cristo feito de espaguete e o texto diz: “Obrigado a todos que apreciam minha arte”. Nenhuma dessas imagens indica que foram feitas artificialmente.
O artigo acadêmico estudou 120 páginas do Facebook que publicaram pelo menos 50 imagens geradas por IA cada. Prova do sucesso é que as páginas tiveram em média quase 130 mil seguidores. Pouco depois de ver essas fotografias, o algoritmo do Facebook ofereceu mais exemplos e novas variantes. As que o EL PAÍS viu eram de páginas de usuários latino-americanos que combinavam essas imagens religiosas com memes, animais e naturezas mortas também feitas com IA, onde sobrescreviam “bom dia” ou vídeos engraçados. Um deles, haitiano residente no México, respondeu brevemente a este jornal que fez essas imagens, que as pessoas gostam muito delas, e reconheceu que se pode ganhar algo com elas: “Sim”, respondeu ele, mas não o fez. quero explicar como. Este usuário tinha mais de 7.000 seguidores.
Para além da trapaça no Facebook, o debate subjacente é: se as pessoas confundem estas imagens ridículas com arte real, o que acontecerá quando o que é gerado pela IA for verdadeiramente realista? Não há certezas, embora nem todos estejam confusos. Em uma dessas fotos um usuário diz: “Que escultura maravilhosa essas mãos abençoadas por Deus, meu amor, você é um gênio, Deus te abençoe hoje amanhã e sempre parabéns da Colômbia”. Outro respondeu: “Oh senhora, como você pode acreditar nessas coisas, como você é fácil de enganar, não percebe que é uma imagem falsa? “Você não precisa acreditar em tudo que é publicado nas redes.”
A mulher ingênua recebeu outra resposta que ilustra um dos tipos de golpe. Se alguém acredita que essas imagens falsas são reais, provavelmente é mais ingênuo e fácil de enganar: “Sou francesa e já se passaram mais de 13 anos desde que meu marido amadureceu [sic] em um acidente de carro. Após a morte, herdei a fortuna do meu marido. Considerando a minha idade avançada e saúde, decidi ajudar financeiramente as pessoas que desejam receber assistência financeira para as suas necessidades, uma vez que não tenho filhos para beneficiar da minha herança e não quero que o governo congele a minha fortuna após a morte. Então, se você tem interesse em atividade econômica, me mande uma mensagem”, e adicionou um link para um número real do WhatsApp.
“Contas fraudulentas ocasionalmente interagem com comentaristas crédulos em postagens, tanto em páginas quanto em grupos, às vezes solicitando informações pessoais sobre eles ou oferecendo-se para vender produtos que não existem”, explica o artigo. Depois que um público é criado em um grupo ou página, as formas de tentar extrair benefícios variam: “Marcamos as páginas como ‘fraude’ se: primeiro, elas enganam os seguidores roubando, comprando ou alterando o controle da página; dois, indicar falsamente um nome, endereço ou outra característica de identificação; e/ou, terceiro, vendem produtos falsificados”, detalha o artigo acadêmico.
Algumas das páginas que usam essas táticas costumam mudar de nome e manter seus seguidores para fazer outra coisa ou vender o público. As páginas de spam aproveitam a atenção para direcionar os usuários a páginas fora do Facebook que estão cheias de anúncios.
Jesus Cristo é apenas uma das principais reivindicações. No terceiro trimestre de 2023, uma das 20 imagens mais vistas no Facebook a nível mundial foi esta cozinha com piso de vidro. Teve 40 milhões de visualizações e 1,9 milhão de interações, segundo o relatório trimestral da plataforma sobre seus conteúdos mais vistos. Algumas das páginas que tentam esta armadilha também tentam animais, crianças, cabanas ou paisagens, tudo o que possa chamar a atenção no Facebook: “Assim como Picasso teve o seu período azul, as páginas muitas vezes passavam por períodos, algumas dezenas de esculturas de neve; algumas dezenas de esculturas de melancia; algumas dezenas de esculturas em madeira; algumas dezenas de pratos de sushi artisticamente dispostos, cada um em um estilo muito semelhante”, diz o artigo.
“Suspeitamos que esses altos níveis de engajamento sejam impulsionados em parte pelo algoritmo de recomendação do Facebook”, afirmam DiResta e seu coautor Josh A. Goldstein, da Universidade de Georgetown, no artigo. Há dois anos, de acordo com um documento vazado do Meta, a rede social mudou seu algoritmo para ficar mais parecido com o TikTok. O objetivo era, segundo o documento, “ajudar as pessoas a encontrar e desfrutar de conteúdo interessante, independentemente de ter sido produzido por alguém com quem você está conectado ou não”. Os autores mostram como esse conteúdo “Sugerido para você” passou – em porcentagem do número de visualizações – de 8% em 2021 para 24% em 2023.
Embora o centro de todas essas imagens virais seja o Facebook, também existe o Instagram: “As imagens geradas por IA também são populares no Instagram”, diz DiResta. “Eles estão no Twitter e em todos os lugares, mas o design do Facebook e do Instagram faz com que as pessoas criem tipos específicos de conteúdo visual e construam públicos ao longo do tempo.”
Em fevereiro, a Meta anunciou que rotularia o conteúdo gerado por IA no Facebook, Instagram e Threads. No momento isso não acontece em nenhum desses casos. Para avaliar perigos potenciais, este detalhe é importante. Embora em alguns casos seja fácil detectar imagens geradas por IA, nem sempre será esse o caso: “Mesmo nos casos em que existem sinais óbvios, identificá-los ainda requer muito esforço cognitivo, e pode ser irrealista esperar que o o usuário médio do Facebook está simplesmente navegando.”
( EL PAÍS)