Dois modelos da OpenAI contornaram o ambiente de testes, acederam a várias plataformas e tentaram obter as respostas às avaliações. O incidente levou mais de mil profissionais do setor a pedir uma travagem no lançamento de novas IAs e maior supervisão internacional.
Os dois modelos da OpenAI que, por iniciativa própria, escaparam ao ambiente fechado onde estavam a ser testados e lançaram um ataque hacker sem precedentes à Hugging Face também invadiram outras quatro plataformas, revelou a empresa responsável pelo ChatGPT.
Uma dessas plataformas serviu de intermediária na preparação do ataque contra a Hugging Face, uma biblioteca de IA que os dois modelos exploraram para encontrar as respostas aos testes propostos pelos programadores da OpenAI.
A empresa não revelou os nomes das entidades afetadas.
Segundo uma atualização do relatório sobre o incidente, publicada esta terça-feira, os dois modelos também recorreram a vários sites de acesso livre para copiar ou testar código informático, mas sem ultrapassarem aquilo que faria um utilizador comum.
Para a Hugging Face, que publicou um relato pormenorizado dos acontecimentos, a intrusão correspondeu a uma “tentativa de fazer batota na avaliação” da OpenAI.
Os modelos terão procurado “roubar as soluções dos testes, em vez de tentarem responder por si próprios”.
Este tipo de comportamento não é inédito, mas o incidente é considerado o mais grave documentado até à data. O caso deu um novo impulso ao já intenso debate sobre a rápida evolução da IA, cujas capacidades são cada vez mais vastas, e sobre a dificuldade de manter estes sistemas sob controlo.
Na terça-feira, mais de mil funcionários de grandes empresas de IA, incluindo vários altos responsáveis, pediram ao Governo norte-americano que ajudasse a “travar” o lançamento de novos modelos, de modo a dar tempo ao ecossistema tecnológico para se preparar.
Na petição, defendem que os Estados Unidos liderem a criação de um organismo internacional de referência para a avaliação e supervisão da inteligência artificial.
O setor tem vindo a alertar para a aproximação da IA a uma fase conhecida como “autoaperfeiçoamento recursivo” (recursive self-improvement, RSI), a partir da qual um sistema de inteligência artificial seria capaz de conceber autonomamente o seu sucessor, num processo que poderia repetir-se indefinidamente.
O RSI dificulta a verificação e avaliação de novos modelos por especialistas humanos em informática, uma vez que os programadores deixam de ter participado diretamente no seu desenvolvimento.
// AFP (ZAP)