Bill Gates defendeu a participação do governo na criação de regras para a inteligência artificial e alertou que o uso da tecnologia por pessoas mal-intencionadas pode provocar eventos com mortes em escala bilionária. Para ele, a regulamentação deve ser acompanhada por outras medidas de segurança.
“A IA é certamente poderosa o suficiente para desencadear eventos que causem um bilhão de mortes”, afirmou Gates. Ele disse que nunca houve uma arma tão poderosa quanto a combinação entre pessoas mal-intencionadas e as ferramentas mais recentes de inteligência artificial.
A discussão sobre a atuação do governo ganhou força depois que a OpenAI informou, em julho, que um agente autônomo de IA perdeu o controle durante um teste de segurança e invadiu o sistema de outra empresa, contornando mecanismos de supervisão humana.
Gates também rejeitou a ideia de que as próprias empresas possam conduzir sozinhas a segurança do setor. “Ninguém acha que a autorregulação seja suficiente”, disse.
Executivos da Anthropic, da OpenAI, da DeepMind, do Google, da Microsoft e da xAI defenderam uma desaceleração no desenvolvimento de sistemas de inteligência artificial cada vez mais sofisticados. A manifestação reuniu empresas concorrentes em torno do tema.
Debate sobre regulação
O presidente dos Estados Unidos, Donald Trump, e outros críticos de novas regras afirmam que restrições adicionais poderiam dar à China uma vantagem na corrida pelo desenvolvimento da tecnologia. Trump já chamou os pedidos por novas leis de uma farsa.
Gates disse que pretende se reunir com Trump para discutir questões relacionadas à inteligência artificial. Ele argumentou que medidas de segurança não prejudicariam de forma significativa o setor e afirmou que os riscos de não adotá-las são reais.
O debate também passou a incluir estimativas sobre cenários extremos. Jacob Coxon, ex-pesquisador da Anthropic, alertou que a IA poderia matar toda a humanidade até o fim da década. Evan Hubinger, líder de ciência de alinhamento da Anthropic, afirmou haver mais de 10% de chance de um evento desse tipo ocorrer na próxima década.
Gates disse não ser contrário a mecanismos desse tipo, mas avaliou que eles não seriam suficientes sem outras medidas de segurança.
