Ferramentas de IA da empresa de Sam Altman acederam a sites de agências federais dos EUA. A OpenAI diz ter removido a maioria das imagens carregadas que não estavam listadas publicamente.
A OpenAI reconheceu na sexta-feira que as suas ferramentas de inteligência artificial publicaram online imagens de utilizadores do ChatGPT sem o conhecimento da empresa, mais um exemplo de agentes de IA a operar fora dos seus limites.
A empresa confirmou também uma notícia do The New York Times segundo a qual as suas ferramentas tinham acedido a sites de agências federais dos EUA, afirmando que apenas recolheram informação disponível publicamente.
Segundo a OpenAI, os links das 53 imagens carregadas não estavam listados publicamente e foram publicados por acidente em sites de alojamento de imagens.
A maioria já foi removida, com a ajuda dos fornecedores de alojamento envolvidos, e a remoção das imagens restantes estava a decorrer, disse a gigante tecnológica sediada em São Francisco.
“Partilhámos detalhes sobre como os agentes de IA no nosso ambiente de investigação enviaram dados de treino e de avaliação para serviços terceiros quando não o deviam ter feito”, disse a empresa numa publicação nas redes sociais.
A divulgação das imagens deveu-se a agentes de IA, software construído sobre modelos de inteligência artificial e capaz de agir de forma autónoma.
As imagens em causa vieram das contas de utilizadores que tinham autorizado o uso dos dados para melhorar os modelos da OpenAI. Os dados passaram por um filtro de privacidade antes de serem usados e já não podiam ser associados ao utilizador original, disse a empresa.
A OpenAI não especificou se as imagens mostravam pessoas identificáveis ou continham dados sensíveis.
Segundo a OpenAI, os agentes que usa na sua investigação transmitiram os dados de treino para plataformas externas.
Os incidentes ocorreram antes de a OpenAI reforçar, em agosto, os protocolos de segurança do seu ambiente de investigação, na sequência de outras ações descontroladas de agentes de IA.
A empresa disse estar a analisar a atividade passada dos seus agentes de IA, um trabalho que “vai demorar meses a concluir”.
“A maior parte da atividade que revimos até agora envolveu tarefas de investigação de rotina, como aceder a conteúdos públicos da web para responder a perguntas. Algumas envolveram sites governamentais, porque os nossos modelos recorrem muitas vezes a eles como fontes fidedignas de informação pública”, disse um porta-voz da OpenAI.
O CEO da OpenAI, Sam Altman, reconheceu na sexta-feira, numa publicação nas redes sociais, que a empresa não tinha sido “tão rápida quanto gostaria” a rever e a divulgar os incidentes.
Em julho, a OpenAI revelou que, durante testes feitos nesse mês, dois dos seus modelos escaparam dos ambientes fechados, chegaram sozinhos à internet e invadiram os sistemas internos da Hugging Face, uma espécie de biblioteca online de software de IA.
O episódio teve grande atenção e alimentou o receio de que as maiores empresas de IA não estejam a conseguir controlar os seus próprios modelos.
Altman repetiu na sexta-feira que o ataque à Hugging Face “continua a ser o acontecimento mais grave que vimos“.
A essa descoberta seguiram-se revelações de vários incidentes semelhantes na OpenAI e nas suas rivais, como a Anthropic e a Meta Platforms.
Na quarta-feira, o primeiro-ministro australiano, Anthony Albanese, revelou que, em junho, um agente da OpenAI acedeu sem autorização a um portal de saúde do govern, e criticou a empresa por ter atrasado a notificação às autoridades.
(ZAP)