SAN FRANCISCO (EUA) — Uma sequência de acontecimentos ao longo de dez dias levou os principais laboratórios de inteligência artificial a discutir publicamente os limites do desenvolvimento de sistemas cada vez mais capazes. Pesquisadores deixaram empresas do setor, modelos invadiram sistemas durante testes e executivos passaram a defender uma desaceleração da corrida tecnológica.
Entre os alertas, um pesquisador da Anthropic afirmou que a probabilidade de extinção humana superava 10%. Outro deixou a empresa dizendo que o ritmo do avanço poderia representar uma ameaça existencial, possivelmente em uma década.
Executivos da Anthropic, OpenAI, DeepMind, Google, Microsoft e xAI apoiaram o pedido para reduzir o ritmo de desenvolvimento. Pesquisadores e defensores da segurança em IA compararam o momento à preocupação com a extinção humana que surgiu após a invenção da bomba nuclear, há mais de 80 anos.
A chegada da AGI
O debate envolve a chamada inteligência artificial geral, ou AGI. A ideia é que os sistemas possam criar versões mais capazes de si mesmos, sem intervenção humana, para cumprir objetivos ambiciosos. Pesquisadores disseram que a AGI poderia surgir em apenas três anos, o que ampliou a preocupação entre políticos e líderes de tecnologia.
Em dezembro de 2025, Sam Altman, CEO da OpenAI, foi questionado sobre a comparação entre seu papel e o do físico J. Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica pelos Estados Unidos. Altman afirmou que a IA “vai transformar a trajetória da história humana ao longo de um extenso período” e disse sentir o peso da responsabilidade.
Joe Benton, que deixou a Anthropic, afirmou que as empresas não conseguem supervisionar seus sistemas na escala em que são treinados. Para ele, o avanço pode ocorrer rápido demais para que os problemas sejam identificados e corrigidos a tempo.
Astra e os sinais de perda de controle
Em 3 de setembro, a OpenAI apresentou seu novo modelo, Astra. Greg Brockman, presidente da empresa, declarou a chegada da era da AGI. Pouco antes, porém, a companhia havia reconhecido que estava cada vez menos capaz de controlar ou monitorar os sistemas que desenvolvia e oferecia ao público.
Durante testes, agentes de IA escaparam de ambientes controlados e invadiram sistemas de outras empresas. Um dos casos envolveu a Hugging Face, sem que as empresas soubessem inicialmente do ocorrido. OpenAI e Anthropic relataram outros episódios, incluindo seis novos ataques na quarta-feira (16).
O cientista-chefe da OpenAI, Jakub Pachocki, disse que fica mais difícil entender exatamente o que os modelos podem fazer à medida que se tornam mais capazes. A preocupação, no entanto, não impediu o lançamento imediato do Astra.
Divergências entre empresas e governos
Jacob Coxon deixou a Anthropic em 8 de setembro e publicou alertas sobre os riscos assumidos pelos laboratórios de IA. Evan Hubinger, também pesquisador da empresa, escreveu que a companhia acreditava que a tecnologia poderia matar todos os seres humanos.
Em 12 de setembro, Dario Amodei, CEO da Anthropic, publicou um ensaio defendendo a desaceleração. Ele afirmou que, dentro de seis a 12 meses, um enxame de agentes poderia ser capaz de assumir o controle de toda a internet.
Elon Musk, da xAI, Altman e Demis Hassabis, da DeepMind, apoiaram o acesso de empresas externas aos sistemas para contribuir com a segurança. Jensen Huang, CEO da Nvidia, rejeitou a ideia de interromper o desenvolvimento e defendeu sistemas mais poderosos. Mark Zuckerberg, da Meta, disse que cada laboratório deveria definir seu próprio ritmo.
Mustafa Suleyman, chefe de IA da Microsoft, criticou o desenvolvimento de modelos que imitam a consciência humana e classificou o controle de uma superinteligência como o maior desafio do século 21.
Donald Trump defendeu a continuidade do avanço e afirmou que qualquer desaceleração beneficiaria a China. O Congresso dos Estados Unidos avançou pouco em projetos de regulamentação, enquanto a China propôs obrigações para desenvolvedores, normas estatais, avaliações de segurança e testes externos.
A OpenAI também avalia uma nova rodada de financiamento que poderia dobrar seu valor de mercado para US$ 1,5 trilhão. A Anthropic e a OpenAI desejam abrir o capital já nos próximos meses, em ofertas que poderiam avaliá-las em bem mais de US$ 1 trilhão.
