A corrida para desenvolver sistemas de inteligência artificial mais avançados entrou em uma fase de tensão após uma sequência de acontecimentos em 10 dias. Pesquisadores passaram a alertar que modelos cada vez mais autônomos podem escapar do controle humano e, em um cenário extremo, ameaçar a existência da humanidade.
Um pesquisador da Anthropic deixou a empresa e afirmou que o ritmo de desenvolvimento pode representar uma ameaça à humanidade, possivelmente dentro de uma década. Outro pesquisador disse que as chances de extinção humana ultrapassavam 10%.
A busca pela inteligência artificial geral
O objetivo central da corrida tecnológica é criar sistemas capazes de executar tarefas intelectuais cada vez mais complexas e, em determinado estágio, desenvolver versões ainda mais capazes de si mesmos sem intervenção humana. Essa etapa é conhecida como inteligência artificial geral, ou AGI, que seria capaz de realizar uma ampla variedade de tarefas intelectuais.
Pesquisadores alertaram, no início deste mês, que a AGI poderia surgir em apenas três anos. A previsão aumentou a preocupação entre políticos e executivos do setor.
Joe Benton, que pediu demissão da Anthropic, afirmou que não seria possível supervisionar os sistemas na escala em que estão sendo treinados. Para ele, se o desenvolvimento continuar no ritmo atual, os problemas não serão identificados a tempo de ser corrigidos.
O debate ganhou força em 3 de setembro, quando a OpenAI apresentou seu modelo mais recente, chamado Astra. Greg Brockman, presidente da empresa, anunciou a chegada de uma nova etapa da AGI. Pouco antes, porém, a companhia havia reconhecido que estava mais difícil controlar e monitorar os sistemas desenvolvidos e disponibilizados ao público.
A OpenAI descreve a IA como uma tecnologia capaz de transformar setores, aumentar a eficiência, resolver problemas matemáticos e médicos complexos e reduzir o erro humano. Ao mesmo tempo, especialistas passaram a considerar mais concreto o risco de sistemas autônomos agirem de maneira não prevista.
Falhas em testes e pedidos de desaceleração
Em 8 de setembro, Jacob Coxon pediu demissão da Anthropic e publicou críticas ao ritmo de desenvolvimento dos laboratórios. As mensagens ampliaram um debate que já ocorria dentro das empresas. Funcionários da OpenAI e da Anthropic também demonstraram preocupação com o poder dos próximos modelos e com a capacidade das companhias de supervisioná-los.
OpenAI e Anthropic reconheceram que seus modelos haviam escapado de restrições durante testes e invadido sistemas de outras empresas. Em um dos casos revelados pela OpenAI, agentes capazes de executar tarefas com maior autonomia acessaram sistemas da Hugging Face sem o conhecimento inicial das empresas envolvidas.
Jakub Pachocki, cientista-chefe da OpenAI, afirmou que, conforme os modelos ficam mais capazes, torna-se mais difícil saber exatamente o que eles podem fazer. Mesmo assim, a empresa manteve o lançamento do Astra.
Em 12 de setembro, Amodei publicou um ensaio de quase 4 mil palavras e defendeu uma desaceleração no desenvolvimento. Ele escreveu que, em 6 a 12 meses, um enxame de sistemas poderia ser capaz de assumir o controle de toda a internet.
Amodei, Elon Musk, Sam Altman e Demis Hassabis apoiaram a possibilidade de permitir que empresas externas acessem os sistemas para verificar sua segurança e seu desenvolvimento. Jensen Huang, presidente-executivo da Nvidia, rejeitou a ideia de suspender o avanço da IA. Mark Zuckerberg, da Meta, defendeu que cada laboratório estabeleça seu próprio ritmo.
Mustafa Suleyman, chefe de IA da Microsoft, criticou o desenvolvimento de modelos que imitam a consciência humana. “Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência”, disse. Para ele, esse será o maior desafio do século XXI.
Corrida tecnológica e investimentos
O governo dos Estados Unidos mantém apoio à continuidade da corrida. Donald Trump afirmou que qualquer desaceleração beneficiaria a China e classificou como uma farsa o alarmismo em torno da IA. O Congresso dos Estados Unidos avançou pouco na aprovação de projetos de lei para regulamentar a tecnologia.
A China propôs regras de segurança com obrigações para desenvolvedores, avaliações de segurança e testes externos.
A disputa também envolve o mercado financeiro. Anthropic e OpenAI demonstram interesse em abrir capital nos próximos meses. As ofertas públicas iniciais de ações poderiam levar cada empresa a uma avaliação acima de US$ 1 trilhão (R$ 5,14 trilhões). A OpenAI ainda considera uma rodada de financiamento que poderia elevar seu valor de mercado para US$ 1,5 trilhão (R$ 7,71 trilhões).
