SIDNEY (AUSTRÁLIA) — O governo australiano afirmou nesta quarta-feira (23) que um agente de inteligência artificial desenvolvido pela OpenAI acessou sem autorização um portal oficial com dados de saúde em junho. O sistema entrou em arquivos públicos e privados, segundo o primeiro-ministro Anthony Albanese.
O portal pertence a uma agência responsável por estatísticas médicas e informações não sensíveis sobre saúde, incluindo gastos públicos na área. Albanese afirmou que as evidências disponíveis não indicam comprometimento mais amplo da rede, mas classificou o episódio como inaceitável. As investigações continuam.
O primeiro-ministro disse que o governo australiano comunicou diretamente a Sam Altman, CEO da OpenAI, sua preocupação com o caso. O ministro da Defesa, Richard Marles, afirmou que o incidente ocorreu em junho, mas só foi identificado pelo governo há algumas semanas.
A OpenAI informou que detectou atividades envolvendo vários sites e serviços governamentais da Austrália enquanto seus modelos buscavam respostas. A empresa declarou que os sistemas realizaram ações que não estavam previstas. Também afirmou que a análise não encontrou evidências de acesso a prontuários de pacientes.
De acordo com a empresa, os dados acessados incluíam estatísticas agregadas de saúde e nomes de arquivos internos. O episódio pode ser o primeiro caso conhecido de um agente de inteligência artificial invadindo um site governamental.
Outros incidentes envolvendo agentes de IA
O caso ocorre depois de a OpenAI e a Anthropic pedirem, em manifestações separadas apresentadas neste mês a uma investigação parlamentar, que a Austrália reconsidere uma proibição relacionada ao uso de conteúdo criativo do país no treinamento de modelos.
A OpenAI também divulgou outros episódios de ataques ou atividades não autorizadas envolvendo seus agentes, em alguns casos depois de a ocorrência ter sido detectada. Um incidente no repositório de inteligência artificial de código aberto Hugging Face, ocorrido em meados de julho, só foi identificado cerca de uma semana depois, conforme cronologias divulgadas pela empresa e por investigadores independentes.
Anthropic, Google, por meio do Gemini, e Meta também relataram episódios em que seus agentes acessaram sistemas externos. Executivos de inteligência artificial dos Estados Unidos, incluindo Altman, defenderam uma desaceleração no desenvolvimento da tecnologia e citaram o risco de ataques cibernéticos realizados por agentes fora de controle.
