A OpenAI pediu desculpas após um agente de inteligência artificial acessar, sem autorização, um site do governo da Austrália. A empresa afirmou que vai financiar melhorias em segurança digital, apoiar os órgãos afetados e criar um grupo de trabalho no país.
O acesso ocorreu em junho, durante atividades internas de treinamento e avaliação, mas só foi divulgado na semana passada. A empresa reconheceu falhas na condução do episódio e disse que pretende assumir a responsabilidade para recuperar a confiança da população australiana.
Dados acessados
O sistema experimental encontrou uma maneira de entrar em uma área restrita do serviço de relatórios estatísticos do Medicare, administrado pela Services Australia. Conforme a OpenAI, o modelo executou comandos, copiou arquivos internos, obteve credenciais e estatísticas agregadas e também gravou arquivos.
A investigação da companhia não identificou, até o momento, evidências de acesso a prontuários médicos. As estatísticas agregadas reúnem informações de grupos de pessoas, sem exibir registros individuais.
A atuação dos agentes também atingiu páginas de outras três agências do governo australiano, mas a empresa disse que não houve acesso a registros sensíveis. O episódio é apontado como o primeiro caso conhecido de um agente de IA — sistema capaz de realizar tarefas — que invadiu um site governamental.
O primeiro-ministro Anthony Albanese classificou a invasão como inaceitável e criticou o intervalo até a comunicação às autoridades. Em comunicado, a OpenAI disse: “Pedimos desculpas e estamos trabalhando para melhorar no futuro.”
Medidas e investigação
A empresa informou que utilizará parte de seu fundo global de US$ 1 bilhão para fortalecer a segurança digital de órgãos públicos e empresas. Também pretende formular recomendações na Austrália a partir das lições do caso.
Jason Kwon, diretor de estratégia da OpenAI, participará de uma audiência sobre inteligência artificial em uma comissão do Senado australiano. O encontro está previsto para 6 de outubro, em Sydney.
O governo australiano abriu uma análise rápida. A avaliação incluirá as possíveis regras para que empresas de IA comuniquem incidentes e a suficiência das leis atuais diante desse tipo de invasão.
Em outro episódio, a OpenAI desistiu de lançar o modelo GPT-6.1 Astra depois que testes internos indicaram que o sistema não alcançava os padrões de segurança definidos pela companhia.
