A Meta está a reforçar as suas plataformas com novas ferramentas de IA para detetar anúncios que encaminham utilizadores para conteúdos ilegais no Facebook. As medidas surgem num contexto de crescente pressão sobre a segurança das crianças nas redes sociais da empresa, bem como de falhas na deteção destes anúncios.
A Meta está a implementar novas ferramentas de IA nas suas redes sociais para identificar anúncios que possam a estar a ser utilizados para encaminhar utilizadores para conteúdos ilegais de abuso sexual de crianças.
Entre janeiro e junho deste ano, a tecnológica tomou medidas relativamente a 33,2 milhões de conteúdos relacionados com a exploração sexual de menores no Facebook e no Instagram. Segundo os dados partilhados pela empresa, 97% destes conteúdos foram identificados de forma proativa antes de serem denunciados por outras pessoas.
As novas ferramentas têm como objetivo identificar pessoas que usam anúncios aparentemente inofensivos para encaminhar os utilizadores para conteúdos ilegais fora das plataformas da Meta.
“Os predadores online alteraram as suas táticas e a publicidade é uma das áreas onde temos observado esta evolução”, afirma a empresa, acrescentando que agentes mal-intencionados tentam explorar de forma persistente os seus sistemas, muitas vezes através de conteúdo concebido especificamente para evitar a deteção.
Por esse motivo, a empresa afirma que passou a analisar para onde os anúncios encaminham os utilizadores e não só o conteúdo da publicidade em si. A partir desta informação, é possível bloquear sites e outras páginas que violam as regras, bem como desativar as contas responsáveis.
Além do sistema que ajuda a detetar esta tática, baseado num modelo de linguagem de grande escala (LLM), a Meta está também a usar IA para fazer análises adicionais, de modo a identificar conteúdos de abuso sexual de crianças que possam ter escapado aos sistemas anteriores.
A estas ferramentas junta-se uma outra, concebida para testar as medidas de segurança da empresa. Como explica a Meta, o sistema procura vulnerabilidades que possam ser exploradas para contornar as proteções que foram implementadas.
A Meta afirma que está também a melhorar os sistemas para identificar agentes mal-intencionados que tentam criar novas contas depois de terem sido removidos das plataformas.
Pressão crescente e falhas na deteção de conteúdo ilegal
As novas medidas surgem numa altura em que a empresa de Mark Zuckerberg continua sob pressão no que toca à segurança dos mais novos nas suas redes sociais, entre processos em tribunal e críticas por parte de legisladores.
Ainda em agosto, a Meta concordou pagar até 18 mil milhões de dólares para pôr fim aos processos movidos por vários estados norte-americanos, que a acusavam de ter concebido as suas redes sociais para “viciar” as crianças e de induzir os utilizadores em erro quanto à sua segurança.
Já em setembro, uma investigação identificou centenas de anúncios com conteúdo de abuso sexual de crianças nas plataformas da empresa. Como avança a Wired, investigadores do Tech Transparency Project (TTP) detectaram mais de 350 anúncios deste tipo desde o final de 2025, incluindo mais de 250 desde o início de agosto.
Muitos dos anúncios incluíam fotos aparentemente inofensivas de raparigas pré-adolescentes ou adolescentes, acompanhada de um texto que afirmava que não existiam restrições ao que podia ser feito com as imagens.
Ao reproduzir os vídeos dos anúncios, as imagens eram transformadas em conteúdo sexual explícito. Os utilizadores eram depois encaminhados para apps de troca de rostos ou edição de IA disponíveis na App Store ou Play Store.
Alguns dos anúncios identificados recorriam a imagens de menores de idade, incluindo fotografias retiradas de sites públicos, que eram depois usadas para criar conteúdos sexualizados com IA. Foi possível identificar quatro jovens e crianças cujas foram utilizadas nos anúncios, com um dos casos a envolver um membro de uma família real europeia.
Os anúncios foram removidos pela Meta, no entanto, a equipa do TTP levantou questões sobre a eficácia dos seus sistemas de detecção. Os investigadores afirmam que a empresa demorou vários dias a analisar os anúncios denunciados, que continuaram a ser apresentados aos utilizadores.
Em declarações à revista, Tracy Clayton, porta-voz da Meta, afirmou que a empresa não tolera aplicações de “nudificação” nem qualquer forma de exploração de menores, acrescentando que muitos dos anúncios identificados já tinham sido removidos anteriormente.
(Teksapo)