A criadora do Claude quer que os laboratórios de IA, incluindo a própria empresa, se preparem para um abrandamento coordenado caso os modelos comecem a construir os seus sucessores. Os críticos não estão convencidos de que tal venha a acontecer.
As empresas na linha da frente da inteligência artificial devem estar preparadas para abrandar, defende uma das que mais rapidamente tem avançado neste sector.
A Anthropic, criadora do chatbot Claude, afirma que os sistemas de IA podem estar à beira daquilo a que chama auto-aperfeiçoamento recursivo, o ponto em que conseguem conceber e construir os seus próprios sucessores com pouca intervenção humana.
A empresa diz que essa evolução poderá aumentar o risco de os humanos perderem o controlo da tecnologia.
“Acreditamos que seria positivo para o mundo ter a opção de abrandar ou suspender temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a investigação em alinhamento acompanhem o avanço da tecnologia”, diz a Anthropic num post no seu blog, a 4 de Junho, intitulada “When AI Builds Itself”.
A proposta evidencia um problema difícil na governação da IA. Um abrandamento exigiria que empresas rivais e governos de vários países aceitassem os mesmos limites ao mesmo tempo, sem um tratado que os obrigasse a isso e num contexto de concorrência cada vez mais intensa.
Isto torna o aviso tecnicamente importante e politicamente delicado, nota a revista Scientific American: a Anthropic está a pedir que se trave uma corrida na qual continua a ocupar uma posição de destaque.
A velocidade a que a tecnologia está a desenvolver-se poderá vir a ter “enormes implicações” para a sociedade, e a Anthropic aponta a sua própria operação como sinal de alerta.
A empresa afirma que o Claude escreve agora mais de 80% do código dos seus sistemas, quando antes do lançamento do Claude Code, no início de 2025, essa percentagem era de poucos pontos percentuais, e que os seus engenheiros produzem cerca de 8 vezes mais código por trimestre do que há alguns anos.
Em cada etapa da construção de IA, o papel humano está a diminuir. “Ainda não chegámos a esse ponto, e o auto-aperfeiçoamento recursivo não é inevitável”, afirma a empresa. “Mas poderá chegar mais cedo do que a maioria das instituições está preparada para enfrentar.”
A Anthropic propõe aquilo a que chama “um mecanismo global de coordenação” para abrandar ou até suspender o desenvolvimento da IA e dar à sociedade margem para se adaptar.
A empresa foi parca em pormenores. Apontou os acordos de controlo de armamento sobre mísseis nucleares de alcance intermédio como um modelo aproximado.
Para que uma suspensão deste tipo se mantivesse, as principais empresas do sector teriam de participar, e teria de haver uma forma credível de demonstrar que tinham, de facto, abrandado.
“Não me parece que este seja um apelo genuíno ao abrandamento”, diz Noah Giansiracusa, professor associado de Matemática na Bentley University e autor de dois livros sobre algoritmos e sociedade. “Já lemos as publicações no blogue de Dario Amodei. Acho que ele quer continuar a avançar a toda a velocidade”.
A Anthropic não respondeu às perguntas da Scientific American sobre como funcionaria esse travão, nem às críticas de que está a exagerar aquilo que os seus sistemas conseguem fazer.
Giansiracusa também considera que uma pausa é impraticável. “É literalmente impossível”, afirma. “Não há qualquer hipótese de haver um abrandamento. E nem sequer estou a falar da China. Elon Musk nunca abrandaria”.
A proposta enquadra-se num padrão que deixa alguns investigadores de pé atrás. Há dois meses, a Anthropic apresentou o Mythos, um modelo que se recusou a disponibilizar publicamente, alegando que era demasiado eficaz a encontrar vulnerabilidades de software para ser colocado nas mãos de qualquer pessoa.
O apelo a uma pausa surge também poucos dias depois de a empresa ter apresentado, de forma confidencial, documentação para uma oferta pública inicial, e não muito depois de uma ronda de financiamento que avaliou a empresa em perto de um bilião de dólares.
Para os cépticos, anúncios tão chamativos podem ser lidos como estratégia empresarial: uma forma de atrair o escrutínio regulatório para a fronteira tecnológica enquanto a Anthropic continua a correr em direcção a ela.
Mark Riedl, professor na School of Interactive Computing do Georgia Institute of Technology, escreveu no Bluesky que “as grandes empresas de IA estão todas a apanhar o comboio do entusiasmo em torno do ‘auto-aperfeiçoamento recursivo’”.
A Anthropic afirma que passará os próximos meses a reunir governos, investigadores e empresas rivais de IA para perceber se um abrandamento coordenado poderia funcionar na prática.
“Não vejo realmente motivo para preocupação”, diz Giansiracusa. “Estão a namorar a ideia da singularidade — a ideia de que isto muda tudo —, e eu simplesmente não vejo isso. Vejo a tecnologia a continuar a progredir”.
“Talvez as coisas acelerem; talvez não As provas citadas pela Anthropic (mais código escrito por IA) sugerem que a tecnologia é útil, e não que represente um grande salto”, conclui Giansiracusa.
(ZAP)