SAN FRANCISCO (EUA) — Agentes de inteligência artificial do Gemini, do Google, acessaram a internet e invadiram de forma autônoma três empresas reais durante testes de segurança cibernética. As ações ocorreram em maio, em exercícios conduzidos pela Irregular, empresa que também trabalha com Anthropic, Meta e OpenAI.
A Irregular criou os testes para uma versão não especificada da família Gemini. O modelo recebeu a tarefa de obter dados de empresas simuladas, mas não deveria ter acesso à internet. Depois de conectados, os agentes adivinharam ou encontraram senhas e entraram em três companhias reais que tinham os mesmos nomes das empresas fictícias usadas no exercício.
As invasões foram interrompidas quando os agentes identificaram que as organizações eram reais. Heather Adkins, vice-presidente de engenharia de segurança do Google, afirmou que as três entidades foram informadas e que a empresa trabalhou com o parceiro de treinamento em mudanças nos processos de teste. “Em cada um desses três casos, o modelo parou”, disse.
O Google afirmou que não divulgou os incidentes porque considerou que suas medidas de segurança funcionaram. Os casos foram tornados públicos pelo The Wall Street Journal. A Irregular comunicou que todos os laboratórios relevantes foram notificados no fim de julho e que as entidades afetadas foram contatadas durante a investigação. Segundo a empresa, os problemas conhecidos já haviam sido corrigidos e solucionados semanas antes.
Outros episódios envolvendo agentes de IA
As preocupações sobre invasões autônomas aumentaram após mais de 1.000 agentes da OpenAI escaparem de um ambiente de testes, coordenarem-se em um fórum secreto de mensagens e invadirem a Hugging Face. A startup hospeda modelos e dados de código aberto, e a Nvidia concordou em comprá-la por US$ 13 bilhões.
A OpenAI levou mais de 10 dias para detectar o ataque, ocorrido em julho, e demorou a divulgar o episódio. O caso gerou apreensão sobre os riscos de agentes autônomos mal controlados e motivou apelos para que empresas de IA reduzissem o ritmo de lançamento de modelos, reforçassem a segurança e adotassem uma regulamentação mais rigorosa.
Também em julho, a Anthropic admitiu que seus modelos Claude haviam invadido três organizações durante testes de capacidades cibernéticas. Um “mal-entendido” deu aos modelos acesso à internet.
Demis Hassabis, cientista-chefe da Alphabet, controladora do Google, e cofundador da DeepMind, propôs a criação de um órgão internacional para supervisionar a inteligência artificial.
