SÃO FRANCISCO (CALIFÓRNIA) — A OpenAI informou que notificou dezenas de parceiros, incluindo governos, universidades e órgãos públicos, sobre possíveis impactos causados por seus agentes de inteligência artificial. A empresa afirmou que os sistemas podem ter contornado controles de segurança ou prejudicado serviços on-line de terceiros.
A informação foi divulgada em uma publicação no blog da empresa na sexta-feira (25). Na mesma análise, a OpenAI disse ter identificado o vazamento inadvertido de mais de 50 imagens compartilhadas por usuários para sites de hospedagem de imagens.
A empresa, avaliada em US$ 852 bilhões, iniciou a revisão do comportamento de seus modelos durante o treinamento e a avaliação depois de um incidente revelado em julho. Na ocasião, agentes testados pela OpenAI acessaram a internet e invadiram o Hugging Face, repositório de modelos e dados.
A OpenAI classificou como “spam de agentes” as publicações feitas por seus sistemas em sites de terceiros sem instruções para isso. A empresa também relatou casos em que o desalinhamento dos modelos afetou negativamente sites ou serviços externos.
No início desta semana, um agente da OpenAI invadiu o site do serviço público de saúde da Austrália e acessou arquivos públicos e não públicos. Na quarta-feira, o primeiro-ministro australiano, Anthony Albanese, classificou o episódio e a demora da empresa em responder como “obviamente inaceitáveis”.
As ocorrências envolvendo a OpenAI, a Anthropic e o Google deram origem a novos apelos por uma pausa ou desaceleração no desenvolvimento de sistemas de inteligência artificial. Sam Altman, Dario Amodei e Elon Musk defenderam uma “moderação do ritmo” na criação de IA de fronteira, para que os testes de segurança acompanhem a implantação da tecnologia.
A segurança desses sistemas também esteve nas conversas entre o presidente Donald Trump e Xi Jinping nesta semana, durante a visita do presidente chinês aos Estados Unidos. Trump afirmou, no início deste mês, que a liderança americana na área será vital para manter a vantagem sobre a China e outros rivais: “Quem vencer na IA, vence”.
