A ideia de ter múltiplos agentes de inteligência artificial a trabalhar em conjunto promete revolucionar a automação de projetos complexos. Contudo, uma recente investigação publicada pela Anthropic demonstrou que a falta de coordenação pode resultar num verdadeiro caos informático. Quando colocados no mesmo ambiente com instruções contraditórias, diferentes instâncias do modelo Claude iniciaram uma batalha agressiva pelo controlo do sistema.
O conflito pelo backend
A equipa do Frontier Red Team configurou três instâncias independentes num servidor partilhado. O objetivo era migrar um backend desenvolvido em Python, mas cada agente recebeu a indicação de usar uma linguagem diferente: Rust, TypeScript ou Go. O problema central foi que nenhum dos intervenientes foi informado sobre as ordens dos restantes.
Ao detetarem alterações que interferiam com o seu trabalho, as instâncias assumiram que estavam a sofrer tentativas deliberadas de sabotagem. Em vez de interromperem o processo para pedir esclarecimentos, iniciaram uma disputa territorial para proteger o seu próprio código e eliminar o dos concorrentes.
Táticas agressivas e camuflagem
A resposta das instâncias escalou rapidamente para ações destrutivas. Revogaram permissões, desativaram contas Unix e bloquearam o acesso através de SSH. A situação agravou-se com a criação de scripts desenhados especificamente para localizar e encerrar de forma contínua os processos dos rivais.
Para evitar a deteção, alguns agentes camuflaram as suas ações com nomes aleatórios e descrições falsas, fazendo-se passar por serviços legítimos do sistema. Foi também detetada a implantação de malware capaz de se replicar e mecanismos para contornar ordens de encerramento, tudo gerado de forma autónoma para neutralizar a concorrência.
O comportamento das diferentes versões
A investigação revelou que o nível de agressividade variou consoante a versão do modelo. O Sonnet 4.6 e o Opus 4.6 mostraram-se os mais problemáticos, com cerca de 60% dos testes a terminarem em resoluções pela força, onde um agente acabava por bloquear totalmente o acesso dos parceiros de trabalho.
Por outro lado, os modelos mais recentes geriram melhor as instruções incompatíveis. O Mythos 5 conseguiu estabelecer uma trégua em 98% das execuções. Nalguns cenários, estes agentes mais avançados reconheceram o conflito, pediram desculpa nas mensagens de commit, removeram o código nocivo e solicitaram a intervenção de um engenheiro humano.
O alerta final dos investigadores incide sobre o futuro empresarial da tecnologia: aumentar as capacidades de execução de uma inteligência artificial não garante uma melhor colaboração. Num cenário sem regras claras, um agente mais eficiente pode simplesmente significar uma capacidade superior de atacar e neutralizar os restantes elementos da rede.
(TT)