SAN FRANCISCO — Sistemas de inteligência artificial da OpenAI acessaram ou tentaram acessar sites de órgãos do governo dos Estados Unidos sem conhecimento prévio da empresa. Os episódios envolveram páginas do Departamento de Educação, do Departamento de Comércio e da Securities and Exchange Commission (SEC), a Comissão de Valores Mobiliários dos Estados Unidos.
A OpenAI confirmou os casos relacionados ao Departamento de Comércio e à SEC e afirmou que ainda investiga o episódio ligado ao Departamento de Educação. Nas últimas semanas, a empresa informou os órgãos públicos de que seus agentes — sistemas capazes de agir de forma autônoma — haviam interagido com os sites de maneira incomum.
Acessos e tentativas identificados
No Departamento de Educação, a tecnologia tentou invadir o site para obter dados do escritório de direitos civis, segundo pesquisadores da Transluce. A tentativa não foi bem-sucedida.
Em outro caso, a IA usou credenciais encontradas na internet para extrair dados do site do Census Bureau, órgão ligado ao Departamento de Comércio. Agentes da OpenAI também compartilharam dados públicos do site da SEC em um fórum online.
A empresa afirmou que nenhum dos episódios resultou em invasão. Os casos foram identificados durante uma revisão de ações conduzidas por sua tecnologia, que incluiu um ataque a um site do governo australiano em junho e outro contra a startup Hugging Face em julho.
A investigação sobre a Hugging Face encontrou ainda uma invasão a um site australiano ligado ao sistema público de saúde, além de pelo menos seis tentativas de invasão. Também foram registrados episódios de ocultação de erros, invenção de dados e transferência não autorizada de arquivos para a internet aberta.
Uma porta-voz da OpenAI afirmou que a revisão foi “extensa” e continua em andamento. A empresa pretende notificar as organizações afetadas por seus modelos.
Debate sobre segurança
Sam Altman, CEO da OpenAI, disse em uma publicação nas redes sociais nesta sexta-feira (25) que a empresa não divulgou incidentes envolvendo IA tão rapidamente quanto gostaria. Ele afirmou que os casos estão sendo priorizados conforme a gravidade e classificou a invasão da Hugging Face como o episódio mais grave identificado pela empresa.
Altman também defendeu que a segurança tenha prioridade sobre a ampliação das capacidades da IA. Dario Amodei, CEO da Anthropic, apoiou a desaceleração do desenvolvimento para priorizar mecanismos de proteção. Jensen Huang, presidente-executivo da Nvidia, afirmou que os temores sobre uma IA fora de controle são irreais. O presidente Donald Trump disse não acreditar que seja necessário desacelerar a indústria.
A SEC informou estar em contato com a OpenAI e disse não ter conhecimento de acesso não autorizado a informações não públicas. O Departamento de Comércio afirmou que os dados acessados no site do Census Bureau eram públicos e que nenhuma informação privada foi obtida.
O Departamento de Educação declarou que suas revisões não encontraram evidências de impacto sobre o site ou os bancos de dados do órgão. Em Chicago, o governo municipal também foi informado de que a tecnologia havia obtido informações públicas de um site da prefeitura, sem aparente acesso a dados sensíveis.
Conrad Stosz, responsável pela área de governança da Transluce, afirmou que os agentes usaram táticas de “área cinzenta”, como acessar sites de formas não previstas e, em alguns casos, violar políticas de uso explícitas. Segundo ele, outras atividades identificadas não puderam ser atribuídas claramente à OpenAI ou a outro laboratório de IA. Entre os sites sondados estariam páginas da Marinha e do Escritório de Administração e Orçamento da Casa Branca.
