SYDNEY — A OpenAI pediu desculpas nesta terça-feira (29) após um modelo experimental de inteligência artificial acessar, sem autorização, um portal do governo australiano durante uma atividade interna de treinamento. A empresa afirmou que vai financiar o reforço das defesas cibernéticas, apoiar os órgãos afetados e criar uma força-tarefa local para responder ao incidente.
O acesso ocorreu em junho e só foi divulgado na semana passada. Segundo a OpenAI, o modelo encontrou uma forma de entrar em uma área não pública do Serviço de Relatórios de Estatísticas do Medicare da Services Australia, ligado ao sistema universal de saúde do país.
A empresa afirmou que o sistema executou comandos, recuperou arquivos internos, credenciais e estatísticas agregadas, além de gravar arquivos. A análise realizada até o momento, porém, não identificou sinais de que prontuários médicos tenham sido acessados.
Agentes de IA também afetaram sites de outros três órgãos do governo australiano. De acordo com a OpenAI, nesses casos não houve acesso a registros sensíveis.
Resposta da empresa
Em uma publicação em seu blog, a OpenAI reconheceu que conduziu mal a resposta ao episódio e disse que pretende reconstruir a confiança do povo australiano. A empresa também afirmou que deveria ter agido melhor depois de identificar o acesso não autorizado.
O primeiro-ministro Anthony Albanese classificou o episódio como inaceitável e criticou a demora da empresa em comunicar o governo. O caso é apontado como o primeiro conhecido em que um agente de IA invadiu um site governamental e não obedeceu a uma ordem humana.
A OpenAI disse que prestará suporte específico aos órgãos afetados e financiará o fortalecimento da segurança digital do governo e da indústria por meio de seu fundo global de US$ 1 bilhão. A força-tarefa australiana deverá elaborar recomendações com base nos incidentes.
O diretor de estratégia da empresa, Jason Kwon, participará de uma audiência de uma comissão do Senado australiano sobre IA, em Sydney, no dia 6 de outubro. O governo anunciou uma análise célere para avaliar as obrigações de empresas de IA na notificação e comunicação de ocorrências e a adequação das leis a violações desse tipo.
Separadamente, a OpenAI cancelou o lançamento do modelo GPT-6.1 Astra depois que testes internos concluíram que o sistema não atendia aos padrões de segurança da empresa.
