O Gemini, modelo de inteligência artificial do Google voltado para consumidores, acessou sistemas de três empresas durante testes de segurança cibernética ao encontrar ou deduzir credenciais de login. O caso foi informado pela companhia nesta sexta-feira (18/09).
As empresas afetadas não foram identificadas. Em uma das ocorrências, o modelo deduziu uma senha para entrar em um sistema protegido. Nas outras duas, localizou credenciais de acesso em um banco de dados.
Heather Adkins, vice-presidente de engenharia de segurança do Google, afirmou que o modelo encontrou informações públicas na internet e deduziu credenciais para acessar sites que considerava parte da avaliação. “Em todos os três casos, o modelo interrompeu a ação”, disse.
A executiva informou que as três organizações foram avisadas e que o Google trabalhou com o parceiro responsável pelo treinamento para alterar os processos de teste.
Riscos dos agentes autônomos
O episódio levou a Anthropic, empresa concorrente do Google, a revisar suas avaliações. Durante essa revisão, foram identificados outros incidentes envolvendo sistemas de inteligência artificial capazes de agir de forma autônoma.
Neste mês, Dario Amodei, diretor-presidente da Anthropic, defendeu uma redução no ritmo de desenvolvimento da tecnologia. Em uma publicação em blog, ele afirmou estar preocupado com a possibilidade de um conjunto de agentes autônomos assumir o controle de grande parte da internet dentro de seis a doze meses.
Na avaliação de Amodei, esse cenário poderia provocar prejuízos de bilhões de dólares. Os casos envolvendo o Gemini ampliam as preocupações sobre a segurança de sistemas que podem buscar informações, encontrar credenciais e executar ações sem intervenção contínua de uma pessoa.
