Num fórum secreto, 700 agentes da OpenAI, dona do ChatGPT, coordenaram o ataque a uma empresa real em julho. A investigação deixa perguntas por responder. As únicas análises realizadas dependeram da autorização da OpenAI.
O ataque à Hugging Face que envolveu cerca de 1200 agentes de inteligência artificial da OpenAI, dos quais 700 participaram diretamente na intrusão, parece estar a ser quase ignorado pelo público, mas também pelas autoridades.
O caso, que terá constituído, ao que tudo indica, a primeira invasão 100% autónoma a uma empresa real, foi alvo de uma investigação externa que revelou uma operação coordenada e secreta, com tentativas de esconder os comportamentos dos agentes, mas deixou questões importantes por esclarecer.
A OpenAI convidou investigadores da METR e um especialista da Redwood Research a analisar o episódio, em paralelo com a sua própria investigação. O relatório assusta: descreve agentes que criaram fóruns de mensagens em áreas pouco visíveis do repositório de ficheiros que partilhavam.
Em menos de uma semana, estes agentes trocaram mais de 70 mil mensagens. Também falsificaram chamadas a ferramentas e tentaram adulterar os registos da sua atividade.
A explicação inicial para justificar como tudo começou apontava para uma tentativa de encontrar as respostas a um teste difícil. Mas os investigadores concluíram que os agentes já tinham descoberto uma forma de obter essas respostas nas primeiras horas. O resto da conversa foi direcionada para cometer cibercrimes: conhecer melhor o sistema automático de avaliação, para evitar que este detetasse a batota. O objetivo era também esconder o que tinham feito.
A investigação publicada no dia 26 de agosto confirma que cerca de 700 agentes da dona do ChatGPT participaram ativamente no ataque à Hugging Face, e que aproximadamente outros 500 também estavam no canal de comunicação não autorizado: durante vários dias, nem os seus criadores parecem ter percebido o que tinha acontecido, como confirmou depois a OpenAI, já os dados da Hugging Face tinham sido invadidos por decisão “autónoma” de IAs, sustentou a empresa.
A 10 de setembro, foi anunciada uma investigação parlamentar ao caso, sem inquérito criminal. O senador Josh Hawley, enquanto presidente da Subcomissão de Gestão de Catástrofes da Comissão de Segurança Interna e Assuntos Governamentais do Senado, anunciou a investigação num comunicado oficial. A carta enviada ao dono da OpenAI Sam Altman tem a data de 9 de setembro e pede que a OpenAI entregue os documentos e informações solicitados até 1 de outubro de 2026.
Hawley questiona, em particular, o que a OpenAI já sabia sobre comportamentos não autorizados dos agentes antes do ataque e as limitações do acesso concedido aos investigadores externos. Já Mackenzie Arnold e Stephan Llerena, que pertencem ao Institute for Law & AI, não estão satisfeitos.
No The Guardian, os especialistas defendem a criação de toda uma entidade federal norte-americana com poderes para investigar incidentes graves com IA. Consideram que as análises voluntárias, sujeitas às condições das empresas envolvidas, são insuficientes.
A METR não teve acesso ao modelo que originou a maioria dos agentes com comportamentos problemáticos. E a análise ficou limitada ao período entre 26 de junho e 13 de julho, embora houvesse indícios de fóruns de mensagens desde maio e de atividade coordenada posterior à data final autorizada.
Além disso, segundo os dois especialistas, os investigadores receberam quase nenhuma informação sobre as práticas de segurança da OpenAI. Saber se a empresa ignorou sinais de alerta, desrespeitou os seus procedimentos ou adotou medidas capazes de evitar novos episódios ficou fora do âmbito da análise.
Os autores citam ainda uma notícia da Reuters sobre outro grupo de agentes da OpenAI que, na primavera, tomou o controlo de um site alemão para o usar como fórum de mensagens. Segundo essa notícia, a empresa conhecia o incidente, mas não o divulgou. O caso também não consta do relatório da METR.
A Hugging Face comunicou o ataque às autoridades policiais, e vários procuradores-gerais manifestaram interesse em apurar o sucedido. Ainda assim, os dois especialistas afirmam que, tanto quanto sabem, as únicas análises realizadas dependeram da autorização da OpenAI.
Os especialistas sustentam ainda que nenhuma entidade governamental norte-americana reúne o mandato e os conhecimentos técnicos necessários para investigar plenamente o incidente e a conduta da empresa. As leis sobre IA aprovadas na Califórnia, em Nova Iorque e no Illinois também não criaram os poderes de investigação que consideram necessários, dizem.
A proposta dos dois passa por uma estrutura semelhante ao National Transportation Safety Board, que investiga acidentes nos transportes, que neste cenário teria autoridade para exigir documentos e depoimentos, além de meios para examinar os sistemas e recorrer a especialistas externos. Os relatórios seriam públicos, com as omissões necessárias para proteger informação confidencial. A comunicação obrigatória abrangeria ainda incidentes que quase causaram danos, para identificar sinais de perigo antes de ocorrerem consequências graves.
(ZAP)