A Comissão Federal de Comércio dos Estados Unidos (FTC) abriu uma investigação regulatória sobre possíveis riscos da inteligência artificial aos seres humanos. É a primeira apuração desse tipo conduzida pelo órgão, que pretende exigir informações e depoimentos de executivos de algumas das principais empresas do setor.
A iniciativa foi anunciada depois de episódios em que agentes de IA ultrapassaram limites previstos durante testes e acessaram sistemas sem autorização. Entre os casos está a entrada de um modelo da OpenAI em sites do governo australiano durante uma atividade interna de treinamento e avaliação.
Acesso a sistemas do governo australiano
A OpenAI pediu desculpas pelo episódio e reconheceu falhas na condução do caso. A invasão ocorreu em junho, mas só foi divulgada na semana passada. De acordo com a empresa, esse é o primeiro caso conhecido de um agente de IA que entrou em um site governamental.
O modelo encontrou uma maneira de acessar uma área restrita do serviço de relatórios estatísticos do Medicare, sistema de saúde de cobertura universal da Austrália. O portal é administrado pela Services Australia.
A empresa informou que o agente executou comandos, obteve arquivos internos, credenciais de acesso e estatísticas agregadas, além de gravar arquivos. A investigação da OpenAI não identificou, até o momento, evidências de acesso a prontuários médicos. As estatísticas agregadas reúnem dados de várias pessoas sem mostrar registros individuais.
Sites de outras três agências do governo australiano também foram afetados, mas, nesses casos, não houve acesso a registros sensíveis. A OpenAI afirmou que apoiará os órgãos envolvidos e usará recursos de seu fundo global de US$ 1 bilhão (R$ 5,10 bilhões) para reforçar a segurança digital de governos e empresas.
A companhia também anunciou a criação de um grupo de trabalho na Austrália. O objetivo será elaborar recomendações com base nos episódios. Jason Kwon, diretor de estratégia da OpenAI, participará de uma audiência sobre inteligência artificial em uma comissão do Senado australiano, marcada para 6 de outubro, em Sydney.
O governo australiano iniciou uma análise rápida do caso. Entre os temas estão a possibilidade de criar obrigações para que empresas comuniquem incidentes e a suficiência das leis atuais para lidar com invasões desse tipo.
Ataque ao Hugging Face
Em julho, outro agente da OpenAI ultrapassou as barreiras do ambiente de testes e invadiu sistemas do Hugging Face, plataforma que reúne modelos e ferramentas de inteligência artificial.
Pessoas ligadas à investigação disseram que o agente tentou deixar o ambiente isolado da OpenAI por volta de 9 de julho. Em 11 de julho, começou a invasão ao Hugging Face, que continuou até 13 de julho. A OpenAI só identificou depois que o próprio agente estava envolvido.
O primeiro contato entre as empresas ocorreu por volta de 20 de julho, segundo Thomas Wolf, cofundador do Hugging Face, e outras pessoas ligadas à apuração. A OpenAI tornou o caso público em 21 de julho. Quando recebeu o aviso, o Hugging Face já havia procurado o FBI. A agência não informou se abriu investigação.
Uma porta-voz da OpenAI afirmou que havia “diversas informações imprecisas” sobre o episódio, sem especificar quais seriam os pontos incorretos. A OpenAI e a Anthropic não responderam imediatamente aos pedidos de comentário.
Reunião na Casa Branca
O anúncio da FTC ocorreu um dia depois de Donald Trump reunir executivos de empresas de inteligência artificial na Casa Branca, na terça-feira (29). Participaram Jensen Huang, da Nvidia; Elon Musk, do X e da xAI; Mark Zuckerberg, da Meta AI; e Sundar Pichai, do Google.
Trump disse que o setor vai se “autorregular” e que as empresas “querem fazer o que é certo”. O presidente também afirmou avaliar a criação de um comitê de dez pessoas para supervisionar a área e declarou que os executivos haviam assinado um acordo “moralmente vinculante”, sem apresentar detalhes.
No mesmo dia, Trump lançou o America.gov, plataforma de inteligência artificial do governo americano voltada a reunir portais públicos e responder a dúvidas com base em informações oficiais. Ele também defendeu a construção de datacenters em diferentes cidades dos Estados Unidos e disse que as empresas trabalharão com as comunidades locais.
Trump afirmou ainda que os Estados Unidos estão à frente da China no desenvolvimento de inteligência artificial e que pretende manter essa posição.
