Centenas de mulheres e adolescentes francesas denunciaram que fotografias suas publicadas nas redes sociais tinham sido “despidas” pelo Grok, a plataforma de IA de Elon Musk, e publicadas no X, a rede social de… Elon Musk. Eram “menores com pouca roupa”, diz o Grok.
As autoridades francesas vão investigar a proliferação de deepfakes de cariz sexual gerados pela plataforma de inteligência artificial Grok na rede social X, confirmou o Ministério Público de Paris ao Politico.
Nesta sexta-feira, os deputados franceses Arthur Delaporte e Eric Bothorel contactaram o Ministério Público, após milhares de deepfakes sexuais não consentidos terem sido criados pelo Grok e publicados no X. Os dois deputados confirmaram ao Politico que apresentaram queixa junto das autoridades.
“Estes factos foram integrados no inquérito já em curso sobre o X,” afirmou o Ministério Público, acrescentando que este crime é punível com até dois anos de prisão e uma multa de 60 mil euros.
Nos últimos dois dias, centenas de mulheres e adolescentes denunciaram que as suas fotografias, partilhadas nas redes sociais, tinham sido “despidas” pelo Grok, a inteligência artificial da xIA de Elon Musk, integrada no X (antigo Twitter), a pedido de utilizadores.
Estes fotomontagens criadas por IA “violam a dignidade das pessoas retratadas”, defende Delaporte, numa carta dirigida ao Ministério Público, a que o Politico teve acesso.
Três ministros do governo francês — Roland Lescure, ministro da economia e indústria; Anne Le Hénanff, secretária de Estado da inteligência artificial e assuntos digitais; e Aurore Bergé, ministra da igualdade — denunciaram ao Ministério Público francês e à plataforma governamental de vigilância online Pharos a existência de “conteúdos manifestamente ilegais”, e requereram “a sua remoção imediata”.
A Alta Comissária francesa para a Infância, Sarah El Haïry, afirmou estar “indignada” com estas práticas.
O caso vem reforçar a investigação já aberta pela unidade de cibercrime francesa contra o X, alargada em novembro para abranger declarações antissemitas e de negação do Holocausto divulgadas pelo Grok.
Contactadas pelo Politico, a rede social adquirida em 2022 por Elon Musk e a a Comissão Europeia não responderam de imediato a um pedido de comentário.
Numa publicação no X, em resposta às preocupações sobre imagens “extremamente impróprias” de menores, o Grok afirmou: “Existem casos isolados em que utilizadores pediram e receberam imagens geradas por IA que representavam menores com pouca roupa”.
“A xAI possui mecanismos de segurança, mas estão a ser feitos melhoramentos para bloquear por completo este tipo de pedidos,” garantiu o Grok.
(ZAP)