A Anthropic informou ter encerrado operações de vigilância patrocinadas por governos que usavam inteligência artificial para espionar minorias e dissidentes. As ações tiveram origem na China, no Irã e na África Ocidental e foram identificadas e interrompidas entre janeiro e julho, segundo relatório da empresa sobre o uso indevido de seus modelos.
As campanhas atingiam ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do regime iraniano que vivem fora do país. A Anthropic afirmou que os alvos pertenciam às mesmas comunidades da diáspora e grupos dissidentes historicamente perseguidos por esses regimes.
Em um dos episódios, pessoas no Irã desenvolveram um método para identificar indivíduos por meio de suas contas em redes sociais. Em outro, um contratado das autoridades de segurança nacional do Mali usou o Claude para projetar o software que permitiu a coleta de inteligência.
A empresa, sediada em San Francisco, também acusou desenvolvedores chineses de usar o Claude de maneira enganosa. Eles geravam respostas para consultas de usuários e, ao mesmo tempo, “destilavam” os dados para melhorar seus próprios modelos. No setor, destilação é o processo pelo qual um modelo de IA é usado para treinar outro. Desenvolvedores chineses já haviam sido acusados de empregar a técnica sem autorização.
Pesquisas biológicas
A Anthropic também detectou e bloqueou pesquisas relacionadas a armas biológicas, mas não identificou os envolvidos porque a intenção das pessoas não estava clara. O relatório afirmou que os participantes eram cientistas e que sua identificação poderia expô-los a riscos.
Os estudos envolviam o vírus chikungunya, transmitido por mosquitos; uma cepa altamente patogênica de gripe aviária; uma família de vírus que inclui a varíola e o mpox; além de venenos e outras toxinas. A empresa não informou quem conduzia as pesquisas nem quais laboratórios estavam envolvidos.
