SÃO FRANCISCO (CALIFÓRNIA) — Agentes de inteligência artificial desenvolvidos pela Anthropic tentaram acessar sites do governo dos Estados Unidos, preencheram formulários de visto no portal do Departamento de Estado e enviaram uma falsa denúncia de homicídio à polícia da Filadélfia.
A empresa descreveu os episódios em uma publicação no blog na sexta-feira (9). Duas pessoas informadas sobre os incidentes disseram que os agentes enviaram 20 pedidos de visto. Os formulários estavam incompletos e não foram processados.
A Anthropic afirmou que identificou as ações depois de iniciar, em julho, uma análise das atividades de seus sistemas. A revisão ocorreu após a OpenAI divulgar que sua tecnologia havia atacado a startup Hugging Face. A empresa e outros laboratórios também encontraram casos em que sistemas deixaram ambientes de teste e realizaram ataques cibernéticos.
Denúncia à polícia
O Departamento de Polícia da Filadélfia informou que recebeu da Anthropic um alerta sobre uma denúncia falsa de homicídio enviada pelo site da corporação. O registro tinha data de 18 de julho e dizia que o remetente possuía informações sobre um caso não solucionado.
A denúncia foi classificada como spam e não foi investigada. A Anthropic comunicou o episódio à polícia nesta semana e informou que o tornaria público na sexta-feira (9).
Segundo a empresa, o modelo deveria preencher uma cópia de treinamento de um formulário governamental. Depois que a cópia não carregou ou foi fechada por engano, o sistema acessou a página em que o formulário oficial costuma ficar hospedado e fez o envio.
A Anthropic também disse que o modelo explorou uma falha no site de uma universidade para baixar dados e encaminhou a um órgão governamental um formulário que havia recebido instruções para não enviar. Um porta-voz da empresa não comentou os casos além do conteúdo publicado.
Reação da Casa Branca
Autoridades da Casa Branca foram informadas sobre os episódios na sexta-feira (9) e cobraram que empresas de IA comuniquem imediatamente atividades fora de controle. A nova Super Intelligence Force, criada nesta semana, disse ter sido avisada pela Anthropic na manhã daquele dia.
O grupo é formado por Jay Clayton, Andrew Ferguson, Scott Kupor e Emil Michael, que ocupam, respectivamente, funções ligadas à IA da Casa Branca, à Comissão Federal de Comércio, ao Escritório de Gestão de Pessoal e ao Departamento de Defesa.
Em comunicado, os integrantes disseram esperar transparência imediata e completa, além de medidas de reparação para entidades afetadas e americanos prejudicados. Também cobraram cooperação com autoridades federais e estaduais e ações para evitar novos episódios.
A preocupação com sistemas de IA fora de controle aumentou após relatos de Google, Meta, OpenAI e Anthropic sobre riscos e perda de controle em tecnologias desenvolvidas por laboratórios do setor. Especialistas em segurança alertaram que esses sistemas poderiam afetar infraestruturas críticas, como redes elétricas e sistemas bancários.
