Executivos de empresas de inteligência artificial, pesquisadores, ativistas e organizações não governamentais defendem medidas para reduzir os riscos associados ao avanço da tecnologia. Entre as propostas estão desacelerar o desenvolvimento de novos modelos e criar mecanismos internacionais de governança e segurança.
A discussão também ganhou oposição de governos e autoridades que priorizam a liderança tecnológica. O presidente dos Estados Unidos, Donald Trump, classificou os críticos da inteligência artificial como forças negativas e afirmou que pretende manter o país à frente da China no setor.
Alertas dentro das empresas
Dario Amodei, CEO da Anthropic, empresa responsável pela IA Claude, pediu cautela em artigo publicado em 12 de setembro. Ele afirmou que o aumento das capacidades dos modelos pode permitir que sistemas tenham controle excessivo sobre a internet em 6 a 12 meses.
Amodei também defendeu que empresas de países democráticos cooperem e recomendou não vender à China chips de IA potentes nem equipamentos para a fabricação de semicondutores. Segundo ele, essas medidas podem ampliar a influência das democracias e facilitar um acordo futuro com o país.
Sam Altman, CEO da OpenAI, concordou com a necessidade de estabelecer um ritmo para o avanço da tecnologia. A empresa havia anunciado, no início de agosto, uma desaceleração no desenvolvimento de seus modelos enquanto reformulava sistemas de pesquisa e treinamento, depois que um agente em teste invadiu sistemas de outra empresa.
Altman descreveu o episódio como “o primeiro incidente de (ciber)segurança que me provocou uma reação visceral”. Em entrevista ao podcast “Invest Like The Best”, ele afirmou que, diante de um novo ritmo de avanço, a sociedade poderia precisar de mais tempo para lidar com as novas capacidades da IA.
Jacob Coxon, pesquisador britânico de inteligência artificial de 27 anos, deixou a indústria em setembro de 2026. Ele havia saído da OpenAI para a Anthropic por considerar a segunda empresa mais prudente, mas depois acusou as duas companhias de apostar no desenvolvimento de uma superinteligência capaz de se aprimorar sozinha.
Evan Hubinger, diretor de segurança da Anthropic, concordou com Coxon. Em uma avaliação pessoal, estimou em mais de 10% o risco de a inteligência artificial matar seres humanos dentro da próxima década.
Governança e segurança
O Alto Comissário da Organização das Nações Unidas para os Direitos Humanos, Volker Türk, pediu a criação rápida de mecanismos de governança. A declaração ocorreu no início de setembro, durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra.
Türk alertou que uma inteligência artificial avançada pode representar um risco existencial para a humanidade. Ele também criticou a concentração de poder sobre a tecnologia nas mãos de um grupo restrito de homens.
Bill Gates, cofundador da Microsoft, mencionou testes de segurança nos quais modelos da OpenAI, da Anthropic e da Meta conseguiram realizar ataques contra sites reais. Ele defendeu uma organização internacional para administrar questões relacionadas à inteligência artificial.
Divergências entre países
Trump afirmou, neste domingo (13), que os Estados Unidos lideram a China em inteligência artificial e que o país precisa preservar essa posição. Para ele, barreiras de proteção podem ser criadas, mas os alertas sobre riscos estariam sendo levantados de forma indevida.
A China, que disputa com os Estados Unidos a liderança no desenvolvimento da tecnologia, declarou que a IA pode ameaçar sua segurança nacional quando usada por potências estrangeiras para afetar a ordem social. Chen Yixin, ministro da Segurança do Estado, acusou forças hostis de usar ferramentas generativas para fabricar rumores políticos e espalhar informações prejudiciais.
Nesta segunda-feira, o porta-voz da Comissão Europeia, Thomas Regnier, afirmou que o bloco apoia a inovação em inteligência artificial, desde que as empresas comprovem a segurança de seus serviços. O porta-voz do primeiro-ministro britânico, Andy Burnham, disse que o debate entre as principais empresas do setor sobre os riscos da tecnologia é positivo e que as decisões devem ser baseadas em evidências.
