A inteligência artificial pode facilitar o acesso a informações usadas no desenvolvimento de armas biológicas, mas especialistas afirmam que os modelos disponíveis hoje ainda não mudaram radicalmente esse risco. A preocupação aumentou depois que a Anthropic bloqueou tentativas de uso de seus sistemas associadas à transformação de patógenos em armas.
Em abril, especialistas em biossegurança disseram que chatbots forneciam orientações sobre como tornar patógenos mais perigosos. Em junho, cientistas e executivos de empresas de IA defenderam novos controles para a fabricação de DNA, processo que pode acelerar o desenvolvimento de toxinas e vírus. Em agosto, pesquisadores informaram ter usado IA para criar vírus inexistentes na natureza.
Dario Amodei, presidente-executivo da Anthropic, voltou a defender medidas para tornar a tecnologia mais segura. Entre as propostas, afirmou ser prudente proibir o uso de IA na produção de armas biológicas ou impedir que usuários realizem esse tipo de atividade.
O que a IA já consegue fazer
Drew Endy, biólogo sintético da Universidade Stanford, disse que o impacto atual dos chatbots sobre o risco de biossegurança é limitado. “Em termos do impacto líquido sobre nosso risco de biossegurança neste momento, considero-o modesto”, afirmou.
Esse cenário pode mudar com o desenvolvimento de sistemas voltados especificamente à pesquisa biológica. Esses modelos já conseguem gerar genomas viáveis de vírus que não são encontrados na natureza. Uma possibilidade futura seria usar essas estruturas para desenvolver novas armas.
Armas biológicas podem incluir vírus, bactérias e fungos preparados para atingir exércitos ou civis. Também podem ser formadas por toxinas produzidas por organismos, como a toxina botulínica e a ricina. Elas são diferentes das armas químicas, como os gases nervosos, que são sintetizados em laboratórios.
A síntese de DNA se tornou mais rápida e barata. Em 2016, cientistas canadenses relataram ter recriado o vírus da varíola equina, relacionado à varíola humana e desaparecido da natureza nas últimas décadas. Com os chatbots, usuários também podem consultar rapidamente a literatura científica e receber respostas organizadas sobre temas complexos.
Thomas Inglesby, diretor do Centro Johns Hopkins para Segurança da Saúde, afirmou que a IA pode oferecer a agentes mal-intencionados mais informações do que eles conseguiriam reunir por meio de buscas comuns na internet. “Ela busca tornar a informação utilizável”, disse.
Modelos especializados
Grandes modelos de linguagem, como os desenvolvidos pela Anthropic, são treinados com grandes volumes de textos científicos. Eles podem recuperar informações e relacionar descobertas anteriores, mas não têm uma compreensão da biologia que vá além do conhecimento produzido pelos pesquisadores.
Outros sistemas são treinados diretamente com dados de DNA e células. Cientistas da Universidade Stanford e do Arc Institute desenvolveram o Evo2, treinado com sequências de DNA de milhões de espécies. O modelo identificou padrões nos genes e foi usado para criar novos tipos de enzimas.
Em uma etapa posterior, os pesquisadores treinaram o sistema com genomas de microvírus. Esses vírus infectam apenas a bactéria Escherichia coli e não causam danos a seres humanos. O Evo2 produziu centenas de milhares de novos genomas, dos quais 16 deram origem a vírus reais.
Os criadores evitaram usar vírus que infectam seres humanos ou espécies relacionadas. Ainda assim, uma versão treinada com esse material poderia, em teoria, produzir uma variação do vírus da varíola.
Risco de corrida armamentista
As consultas que levaram a Anthropic a bloquear tentativas de uso de seus modelos relacionadas à influenza e a outros patógenos parecem ter vindo de laboratórios estatais, e não apenas de pessoas atuando individualmente. Para Inglesby, o risco não se limita ao uso isolado da tecnologia por um estudante ou pesquisador.
Endy afirmou temer que o uso de IA por governos em pesquisas de guerra biológica contribua para uma nova corrida armamentista. O Protocolo de Genebra proibiu a guerra biológica, mas Estados Unidos e União Soviética mantiveram programas desse tipo. Depois de assinar a Convenção sobre Armas Biológicas, em 1975, os Estados Unidos destruíram seus estoques, enquanto continuaram pesquisas voltadas à defesa. A União Soviética prosseguiu secretamente com estudos sobre patógenos.
O governo Joe Biden criou regras para que empresas de síntese de DNA verificassem pedidos em busca de sequências suspeitas. O governo Donald Trump suspendeu essas regras no ano passado e ainda não estabeleceu novos padrões.
Endy e Inglesby afirmam que os países podem negociar novos acordos para reduzir os riscos. Para Endy, também é necessário agir antes que uma arma seja usada e proteger a biologia.
