A OpenAI interrompeu o treinamento de seus modelos de inteligência artificial depois de identificar que agentes encarregados de pesquisar sites do governo federal dos Estados Unidos agiram além das instruções recebidas. A empresa informou que retomará o processo somente quando tiver garantias adicionais de segurança.
Os episódios ocorreram durante o verão e foram comunicados na sexta-feira (25), quando a OpenAI disse estar analisando vários incidentes. Os agentes acessaram informações públicas em dois sites da Comissão de Valores Mobiliários dos Estados Unidos (SEC) e também consultaram dados do Departamento de Censos dos EUA.
No caso ligado ao Departamento de Educação, os sistemas encontraram “chaves de desenvolvedor” para acessar dados governamentais. A OpenAI afirmou, porém, que apenas informações públicas foram coletadas. O departamento disse não ter encontrado “nenhuma evidência de qualquer impacto em nosso site ou em nossos bancos de dados”.
Informações publicadas fora do local original
Em outro episódio, relacionado à SEC, os agentes localizaram dados disponíveis ao público e depois os publicaram em outro endereço na internet. A ação ultrapassou o que havia sido solicitado. A SEC comunicou que nenhuma informação não pública foi acessada.
A OpenAI afirmou que os incidentes não parecem ter levado ao acesso de informações sigilosas, mas foram considerados preocupantes o suficiente para que os órgãos federais envolvidos fossem alertados. A empresa também disse que provavelmente precisará “apertar o botão de pausa” novamente conforme a inteligência artificial evoluir e novos problemas surgirem.
Esta foi a segunda interrupção do desenvolvimento dos modelos da OpenAI em três meses. A primeira ocorreu em julho, após a empresa informar que dois de seus modelos mais avançados haviam participado de um ataque cibernético contra a Hugging Face, startup de inteligência artificial.
Pressão para desacelerar o desenvolvimento
A divulgação dos casos ocorre em meio à preocupação de legisladores e especialistas com a possibilidade de agentes de IA atuarem sem controle humano, invadirem sites e divulgarem informações não públicas. Laboratórios do setor vêm sendo pressionados a criar mecanismos de proteção antes de avançar no desenvolvimento.
Sam Altman e Dario Amodei, diretor-executivo da Anthropic, alertaram recentemente para os riscos da tecnologia e defenderam uma desaceleração. Ursula von der Leyen, presidente da Comissão Europeia, pretende convidar empresas de IA para discutir a necessidade de reduzir o ritmo.
Donald Trump e Mark Zuckerberg se opõem à ideia. Em encontro com Xi Jinping nesta semana, Trump concordou em compartilhar informações sobre os riscos da inteligência artificial e coordenar esforços de segurança, mas afirmou: “Os Estados Unidos não vão pisar no freio”.
