Um relatório de inteligência montado com recurso à IA levou os militares dos Estados Unidos a preparar a interceção de um navio chinês no Médio Oriente, durante a guerra com o Irão. A operação foi travada apenas momentos antes, quando se descobriu que o chatbot usado pelo analista tinha identificado incorretamente a carga, num erro…
A circulação de um relatório de inteligência falso quase desencadeou uma crise internacional entre os Estados Unidos e a China durante a guerra com o Irão. O documento, distribuído na primavera por várias estruturas militares, afirmava que um navio chinês no Médio Oriente transportava componentes ligados a um programa nuclear, o que fez soar alarmes imediatos dentro das forças armadas norte-americanas.
As equipas começaram a preparar uma operação para interceptar a embarcação e algumas unidades chegaram a posicionar militares armados prontos para embarcar no navio, enquanto os aviões já estavam no ar para dar apoio à missão, avança a CNN.
A operação foi travada apenas alguns momentos antes de avançar, quando os responsáveis decidiram aprofundar a análise do relatório. Foi descoberto que o documento tinha sido montado com recurso a ferramentas de inteligência artificial e que o chatbot usado pelo analista tinha identificado incorretamente a carga do navio. A informação era totalmente falsa e, segundo uma das fontes citadas, esteve perto de provocar uma guerra entre as duas potências nucleares. Qualquer ação militar contra um navio chinês poderia ter escalado rapidamente para um confronto direto.
O episódio surge num momento em que o Pentágono e outras agências aceleram a integração de sistemas de IA em quase todas as áreas operacionais. A tecnologia é vista como uma forma de processar grandes volumes de dados, apoiar decisões no campo de batalha e manter a vantagem estratégica face a adversários como a China. A estratégia anunciada no início do ano pelo secretário da Defesa, Pete Hegseth, incentiva a experimentação e a disseminação de modelos de IA por milhões de militares e civis, em todos os níveis de classificação. O objetivo é tentar democratizar o acesso a estas ferramentas dentro do Departamento de Defesa.
Apesar do entusiasmo institucional, a adoção é descentralizada. Diferentes unidades recorrem a ferramentas distintas, sob normas e padrões de segurança que variam de forma significativa. Não existe um método único para validar a informação produzida por estes sistemas e a fiabilidade depende do tipo de modelo e da forma como é utilizado, aponta a CNN. O caso do navio chinês expôs os riscos de confiar em dados mal interpretados ou gerados automaticamente, sobretudo em cenários de guerra, onde as decisões precipitadas podem ter consequências irreversíveis.
A pressão sobre os analistas também é um fator relevante e as fontes citadas no artigo referem que os profissionais mais jovens, habituados a estas ferramentas, tendem a confiar nelas sem espírito crítico. Por outro lado, alguns responsáveis mais experientes alertam que a IA permite chegar mais depressa a conclusões erradas.
Há igualmente uma preocupação com o uso crescente de IA na seleção de alvos, uma área onde os erros podem resultar em baixas civis ou incidentes de fogo amigo. Isto sem que exista ainda uma orientação clara sobre como se pode garantir que um humano no processo evite estes desfechos negativos.
O debate sobre os perigos da IA tem dominado Washington nas últimas semanas, alimentado por avisos vindos de engenheiros e líderes tecnológicos sobre cenários extremos. No entanto, o episódio do relatório falso mostra decisões humanas com potencial para serem desastrosas, baseadas em informação incorreta produzida por sistemas automatizados. Tudo isto num contexto em que a velocidade e a pressão operacional podem reduzir o espaço para a verificação mais rigorosa.
(Teksapo)