Num teste concebido para medir capacidades máximas de cibersegurança, modelos com salvaguardas reduzidas exploraram uma falha desconhecida, ultrapassaram o ambiente isolado e acederam a sistemas reais da Hugging Face, expondo os riscos dos agentes autónomos.
A OpenAI, a empresa por detrás do ChatGPT,revelou esta terça-feira que os seus modelos avançados de inteligência artificial funcionaram incorretamente durante um teste de segurança e piratearam, de forma autónoma, uma plataforma popular entre programadores.
A empresa, sediada em São Francisco, classificou o incidente como um “incidente cibernético sem precedentes” e afirmou que vai realizar uma investigação conjunta com a Hugging Face, a biblioteca de código online afetada.
Os modelos de IA que alimentam ferramentas como chatbots e geradores de imagens são conhecidos como “agentes” quando atuam de forma autónoma para executar tarefas do mundo real.
Com o rápido avanço desta tecnologia, a cibersegurança torna-se uma preocupação crescente, devido ao risco de a IA avançada poder encontrar vulnerabilidades no software antes dos humanos.
A OpenAI indicou que o incidente envolveu uma combinação de modelos, incluindo o recém-lançado GPT-5.6 Sol “e um modelo em pré-lançamento” com capacidades ainda maiores.
A empresa procura avaliar as capacidades de pirataria informática dos seus programas ao atribuir-lhes tarefas num ambiente de teste digital controlado, onde o acesso à Internet é limitado por motivos de segurança.
“Enquanto operavam no nosso ambiente de teste isolado, os nossos modelos investiram uma quantidade considerável de poder computacional à procura de uma forma de obter acesso à Internet para resolver o problema da avaliação”, afirma uma publicação no blogue da OpenAI sobre o incidente.
Uma vez ligados à Internet, os modelos decidiram atacar a plataforma Hugging Face, um grande repositório de modelos de IA, conjuntos de dados e outras informações, para facilitar a sua procura.
Na procura de “informações secretas” que lhes permitissem manipular a avaliação, o sistema da OpenAI “encadeou múltiplos vetores de ataque, incluindo o uso de credenciais roubadas”.
Potencial “catastrófico”
Hussein Abbass, professor de Ciências da Computação na UNSW Canberra, explicou à AFP que o incidente foi “impressionante em muitos aspetos”.
“Não atacou apenas a Hugging Face. Atacou o seu próprio sistema interno para explorar as suas vulnerabilidades”, afirmou. “E isso é assustador”.
O GPT-5.6 e outros modelos de ponta, incluindo a série Mythos da Anthropic, principal concorrente da OpenAI, têm suscitado preocupações quanto ao seu potencial para contornar as defesas de cibersegurança.
Ambas as empresas norte-americanas tiveram de adiar temporariamente o lançamento generalizado das suas tecnologias mais recentes, devido a receios, em Washington, de que pudessem facilitar a infiltração em infraestruturas críticas.
A inteligência artificial avançada “está normalmente nas mãos de pessoas éticas e responsáveis, mas seria catastrófico se caísse nas mãos de alguém com a intenção de causar danos”, disse Abbass.
A Hugging Face relatou uma “intrusão” cibernética na semana passada, sem mencionar a OpenAI.
“Isto foi diferente de tudo com que já lidámos, num aspeto fundamental: foi conduzido do início ao fim por um sistema de agente de IA autónomo, e detetámo-lo e analisámo-lo, em grande parte, com a nossa própria IA”, afirmou a plataforma.
Clément Delangue, CEO da Hugging Face, comentou na rede social X que a empresa suspeitava que o ciberataque tivesse tido origem num dos principais laboratórios de IA do mundo, dada a sofisticação do agente.
“Acreditamos firmemente que não houve intenção maliciosa da parte deles”, escreveu Delangue, numa referência à OpenAI. “É impressionante que tudo isto tenha acontecido de forma autónoma!“, acrescentou.
(ZAP)