Líderes de empresas de tecnologia e governos estão divididos sobre a velocidade de desenvolvimento da inteligência artificial. Parte defende uma desaceleração coordenada diante dos riscos; outra avalia que as próprias empresas devem conduzir as medidas de segurança.
A discussão ganhou força depois que o pesquisador britânico Jacob Coxon deixou a indústria e acusou OpenAI e Anthropic de "brincar com as nossas vidas". Coxon havia saído da OpenAI para trabalhar na Anthropic por considerar a empresa mais prudente.
Propostas de segurança
Dario Amodei, CEO da Anthropic, afirmou em um ensaio que o avanço da IA acelerou "drasticamente" em 2026, principalmente porque a tecnologia passou a contribuir para a construção de sua própria geração seguinte. Ele citou um incidente entre OpenAI e Hugging Face, no qual um enxame de agentes de IA realizou ataques digitais, como sinal do potencial de causar danos catastróficos sem limites de segurança.
Amodei defendeu testes mais rigorosos, avaliações independentes de modelos avançados, coordenação entre as principais empresas do setor e cooperação internacional.
Sam Altman já havia escrito, em 2015, que o desenvolvimento de uma IA sobre-humana poderia ser a maior ameaça à continuidade da existência da humanidade. Elon Musk apoiou, em 2023, uma iniciativa do Future of Life Institute para suspender o desenvolvimento da tecnologia por seis meses e também participou de uma carta que pedia a proibição global de armas autônomas ofensivas.
Mark Zuckerberg adotou posição diferente e disse que a concorrência e a responsabilidade dão às empresas incentivos suficientes para agir individualmente. Segundo ele, cada laboratório pode avançar no ritmo necessário para treinar modelos com segurança e adotar suas próprias medidas de proteção.
Mustafa Suleyman afirmou compartilhar a preocupação da Anthropic com o gerenciamento seguro da IA, mas criticou a forma como a empresa treina o chatbot Claude em temas ligados à consciência e ao bem-estar. Ele defendeu retirar especulações sobre consciência dos documentos de treinamento, por considerar que essa linguagem poderia dificultar o controle de sistemas superinteligentes.
Bill Gates declarou que nenhum governo está preparado para as mudanças que a IA trará à sociedade. Ele também alertou sobre ameaças ao emprego, ataques e vício em companheiros de IA. A fundação que leva seu nome planeja investir pelo menos US$1 bilhão nos próximos dois anos para ampliar o acesso à tecnologia.
Estados Unidos, China e Europa
Nos Estados Unidos, Donald Trump afirmou que a China se beneficiaria de dúvidas sobre o desenvolvimento da IA. Negociadores do Senado americano discutem uma proposta para exigir que as empresas demonstrem a adoção de precauções razoáveis contra danos causados por suas ferramentas.
Na China, o ministro da Segurança do Estado, Chen Yixin, disse que modelos avançados dos Estados Unidos, como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, podem representar riscos para a infraestrutura crítica de informação do país. O governo chinês também acusou Amodei de tentar conter o desenvolvimento da IA na China.
Na Europa, Ursula von der Leyen apoiou uma pausa no desenvolvimento e pretende reunir laboratórios de ponta para discutir os riscos. A Comissão Europeia, porém, afirmou que as empresas precisam comprovar a segurança de seus serviços.
Christine Lagarde alertou para o risco de a União Europeia ficar isolada da IA e defendeu que a região se torne produtora da tecnologia. O Ministério de Assuntos Digitais da Alemanha afirmou que interromper o desenvolvimento não é uma opção viável e associou a soberania digital ao avanço e à inovação.
O ministro espanhol Oscar López disse que cresce o debate sobre um acordo internacional para administrar os riscos da IA, comparando algumas propostas a acordos de não proliferação nuclear.
