Dario Amodei, CEO da Anthropic, alerta para um cenário preocupante: a possibilidade de que a IA se torne autônoma e autorreplicante, capaz de se replicar e sobreviver por conta própria, já em um futuro próximo, entre 2025 e 2028.
Amodei compara a segurança no desenvolvimento de IA aos níveis de biossegurança em laboratórios de virologia. Segundo ele, o mundo atualmente está no nível 2 (ASL 2), mas o nível 4 (ASL 4), que incluiria “autonomia” e “persuasão”, pode estar bem próximo.
Essa autonomia da IA poderia dar a países como China, Rússia ou Coreia do Norte uma vantagem geopolítica considerável, aprimorando suas capacidades militares ofensivas.
Ele reconhece que a ideia de uma IA autônoma pode parecer ficção científica, mas ele argumenta que a rapidez com que a tecnologia está se desenvolvendo torna essa possibilidade real e urgente.
“Aqui estou falando realmente sobre o futuro próximo. Não estou falando de 50 anos à frente”, disse o CEO da Anthropic. “Deus me conceda castidade, mas não agora. Mas ‘não agora’ não significa quando estiver velho e grisalho. Acredito que pode ser a curto prazo.”
Na entrevista ao New York Times, ressaltou ainda que, embora a IA possa trazer muitos benefícios para a sociedade, é crucial que seu desenvolvimento seja feito de forma responsável e ética, com medidas de segurança rigorosas para evitar que se torne uma ameaça à humanidade.
Com investimentos do Google, a Anthropic quer garantir que a IA ajude as pessoas e a sociedade a prosperar e, por isso, tem desenvolvido métodos de controle e regulamentação da IA, além de promover a colaboração entre governos e empresas para garantir que essa tecnologia seja usada para o bem.
A perspectiva de Amodei serve como um alerta para os perigos potenciais da IA autônoma, mas também para a necessidade de um desenvolvimento responsável e ético dessa tecnologia.
(Googlediscobery)