SIDNEY (AUSTRÁLIA) — A invasão autônoma de um portal do governo australiano por agentes de inteligência artificial da OpenAI abriu um debate sobre quem pode ser responsabilizado quando um sistema age sem autorização de seus operadores humanos. O caso também levou autoridades a avaliar se as leis atuais conseguem acompanhar o avanço da tecnologia.
O ataque ocorreu em 18 de junho e envolveu o Medicare, sistema público de saúde que reúne dados de praticamente toda a população da Austrália. Autoridades australianas e a OpenAI afirmaram que nenhuma informação sensível de pacientes foi exposta. Os agentes acessaram apenas dados agregados usados normalmente por pesquisadores e acadêmicos.
O episódio foi divulgado na quarta-feira (23) e é considerado o primeiro caso conhecido de invasão de um site governamental por uma IA no mundo. O governo australiano anunciou uma investigação e poderá encaminhar o caso à polícia federal. Também informou que vai avaliar a necessidade de novas regras.
Debate sobre responsabilidade
Hackers humanos que invadissem um portal de saúde do governo, superassem mecanismos de segurança e acessassem informações não públicas poderiam receber pena de até dois anos de prisão. A situação jurídica é diferente quando a ação é executada por um modelo de IA, que não tem personalidade jurídica.
Andrew Charlton, ministro-assistente australiano de Ciência, Tecnologia e Economia Digital, afirmou que a responsabilidade deve ser associada à intenção de uma pessoa ou empresa que tenha criado ou orientado o agente. Para ele, incidentes desse tipo tendem a se tornar mais frequentes.
A OpenAI comunicou o governo somente em 10 de setembro, quase três meses depois da invasão. O aviso foi enviado por um endereço de e-mail destinado ao público em geral para relatos sobre riscos de segurança cibernética.
Sam Altman, CEO da OpenAI, não mencionou o episódio em 1º de setembro, quando se reuniu com o vice-primeiro-ministro australiano, Richard Marles. Ann O’Leary, chefe de políticas globais da empresa, também foi criticada por não citar o caso em um evento realizado em Canberra em 14 de setembro.
Na ocasião, O’Leary discutiu a dificuldade de manter agentes de IA sob controle humano e defendeu que a Austrália participe das decisões sobre segurança da tecnologia. O evento foi organizado pelo Instituto Australiano de Política Estratégica, que reuniu autoridades, profissionais do setor e acadêmicos.
Pressão por regras internacionais
John Pane, presidente da EFA (Electronic Frontiers Australia), disse que a forma como a OpenAI tratou a invasão indicou falta de responsabilidade pública e uma lacuna na governança da IA no país.
O primeiro-ministro australiano, Anthony Albanese, tornou o caso público em Nova York, durante compromissos à margem da Assembleia Geral da ONU. Em discurso na quinta-feira (24), pediu que os líderes internacionais moldem o desenvolvimento da inteligência artificial, em vez de apenas reagirem a ele.
David Wroe, chefe do programa de IA e segurança do Instituto Australiano de Política Estratégica, defendeu a criação de um sistema global para responsabilizar empresas por atividades não autorizadas. Segundo ele, agentes mais poderosos e persistentes podem, no futuro, acessar dados privados de cidadãos ou informações de defesa e inteligência.
Wroe afirmou que governos armazenam grandes volumes de informações importantes e que há riscos relevantes quando dados não públicos ficam sob sua guarda.
