A Anthropic afirmou ter impedido, neste ano, várias tentativas de cientistas de usar seus modelos em pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas. A empresa informou que baniu as contas envolvidas, mas não divulgou os nomes das instituições de pesquisa nem os países onde os incidentes ocorreram.
O relatório apresentado pela startup descreve cinco situações em que usuários tentaram contornar os controles de segurança ou ocultar o objetivo de seus estudos. Alguns dos casos envolveram pessoas de países cujo acesso aos modelos da Anthropic é proibido, como Rússia, China e Irã.
Um dos exemplos citados envolve um pesquisador de uma “região não atendida” que passou semanas planejando, com o Claude, modelo de inteligência artificial da empresa, experimentos relacionados à gripe aviária. Segundo a Anthropic, os filtros de segurança limitaram o trabalho aos modelos menos avançados.
A empresa afirmou que não é possível concluir que os cientistas pretendiam causar danos. As informações necessárias para criar armas biológicas também podem ser usadas no desenvolvimento de vacinas.
“Esperamos que, ao compartilhar esses exemplos, possamos estimular uma discussão no setor de IA e com os governos sobre os riscos biológicos emergentes e a melhor forma de combatê-los”, afirmou a Anthropic no relatório.
Especialistas em biossegurança e executivos do setor de inteligência artificial defendem que o uso da tecnologia em pesquisas biológicas seja protegido e regulamentado à medida que os modelos avançam. Há preocupação com a possibilidade de uso por grupos terroristas, agentes estatais ou indivíduos para desenvolver armas, criar vírus ou liberar patógenos já existentes. A produção prática e os recursos necessários, porém, ainda podem representar obstáculos.
O documento também relata casos que vão de aplicativos falsos de relacionamento usados para fraudar pessoas a sistemas de vigilância destinados a identificar e monitorar dissidentes. A Anthropic ainda detalhou alegações de que sete laboratórios sediados na China, incluindo Moonshot e DeepSeek, tentaram replicar sua tecnologia por meio de destilação.
A empresa disse ter identificado “métodos cada vez mais sofisticados para contornar nossas defesas e extrair os recursos dos modelos de fronteira dos Estados Unidos”.
