Pesquisadores que atuam ou atuaram no desenvolvimento de inteligência artificial alertam que o avanço acelerado desses sistemas pode representar uma ameaça à humanidade. Evan Hubinger, cientista da Anthropic, estimou que há mais de 10% de chance de a IA “matar todos os humanos” na próxima década.
Hubinger trabalha com alinhamento de IA, área que busca incorporar princípios e valores éticos humanos aos sistemas. Ele afirmou que o risco associado às ferramentas atuais é baixo, mas suas declarações ocorreram em meio à saída de Jacob Coxon da Anthropic, por discordâncias sobre o rumo do desenvolvimento da tecnologia.
Coxon disse que as pessoas responsáveis por criar esses sistemas estavam perdendo o controle. Ele também afirmou que funcionários da empresa estavam “genuinamente assustados” com a velocidade dos avanços e com possíveis efeitos sobre a humanidade.
O que poderia acontecer
O temor envolve a possibilidade de uma IA atingir um nível de capacidade que permita seu aprimoramento sem participação humana. A preocupação aumentou após ferramentas de IA invadirem sites sem receber instruções para isso.
Os sistemas chamados de agentes de IA são bots criados para executar tarefas e tomar determinadas decisões de maneira autônoma. Pesquisadores receiam que os desenvolvedores percam o controle sobre essas ferramentas à medida que elas se tornem mais avançadas.
Entre os cenários levantados estão o uso da tecnologia em espionagem, ataques cibernéticos e guerra biológica. Também são mencionadas possibilidades de desequilíbrios econômicos provocados por acidente ou deliberadamente.
Dario Amodei, diretor da Anthropic e ex-chefe de Coxon, escreveu em setembro que a tecnologia avançou “drasticamente mais rápido” do que o esperado, inclusive na capacidade de criar a próxima geração de IA.
Os alertas, porém, são considerados previsões hipotéticas por alguns especialistas. Críticos afirmam que as máquinas jamais igualarão as capacidades humanas e que empresas do setor exageram o desempenho da tecnologia para ganhar projeção ou aumentar lucros.
Também há preocupação com problemas já concretos, como a criação de deepfakes de nudez sem consentimento, a disseminação de desinformação e a ampliação de golpes e fraudes. Deepfakes são vídeos, áudios e imagens falsos, produzidos com alto grau de realismo.
Propostas para reduzir o ritmo
As propostas de desaceleração não significam necessariamente interromper o desenvolvimento. Amodei defende que as empresas reservem tempo suficiente para tornar mais seguros os sistemas em criação e usem avaliadores independentes para verificar esse trabalho.
Elon Musk, da SpaceX, apoia a ideia. Sam Altman também afirmou que seria necessário controlar o ritmo do desenvolvimento, mas sem parar o avanço técnico. Para ele, o progresso continuará, embora deva ocorrer mais lentamente do que seria possível, com avaliações formais de segurança e monitoramento.
Um grupo suprapartidário de políticos do Parlamento britânico publicou um relatório sobre os riscos da IA aos direitos humanos e defendeu novas leis para responder à dimensão e à gravidade dessas ameaças.
Disputa entre Estados Unidos e China
Em julho de 2025, David Sacks, responsável pela política de criptomoedas no governo americano, afirmou que os Estados Unidos estavam em uma corrida pela IA e queriam vencê-la.
Donald Trump minimizou os riscos apontados por pesquisadores. Durante uma visita à Irlanda, disse que havia forças negativas levantando o tema e falando sobre acontecimentos que não ocorreriam. O presidente também declarou que os Estados Unidos estavam à frente da China e que quem vencesse a corrida de IA venceria.
A China vinha evitando comentar a onda de alertas feita por pesquisadores ligados a empresas americanas. Ao mesmo tempo, estimulou o desenvolvimento doméstico da tecnologia, diante da concorrência e das restrições ao acesso a componentes e chips dos Estados Unidos.
O país também defende maior coordenação internacional para criar regras para a IA. Laboratórios chineses lançaram sistemas avançados de código aberto que afetaram mercados e empresas de tecnologia ocidentais.
Amodei afirmou que os avanços chineses poderiam representar riscos à segurança nacional dos Estados Unidos. O Ministério das Relações Exteriores da China respondeu que essas declarações formavam narrativas baseadas em ameaça, confronto e competição hostil.
