PEQUIM (CHINA) — Especialistas em segurança dos Estados Unidos e da China recomendaram que os dois governos estabeleçam limites para o uso militar autônomo da inteligência artificial (IA), especialmente em sistemas nucleares e ataques digitais de grande impacto. A preocupação é que uma ação automatizada deixe os países com poucos minutos para determinar se houve um ataque deliberado, um acidente ou uma falha técnica.
As propostas foram apresentadas por participantes de um diálogo entre os dois países e publicadas na semana passada, antes de negociações governamentais sobre IA e de um encontro marcado para 24 de setembro, em Washington, entre Donald Trump e Xi Jinping.
O grupo é organizado desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua. Entre os autores das recomendações estão Melanie Sisson, pesquisadora sênior da Brookings, e Tianjiao Jiang, professor associado da Universidade de Fudan.
Limites para decisões militares
Sisson defende que apenas seres humanos possam autorizar ataques digitais baseados em IA contra sistemas de comando, controle e comunicação nucleares de outro país ou contra infraestruturas consideradas estrategicamente importantes. Segundo a pesquisadora, um sistema autônomo pode falhar, ultrapassar suas instruções ou ser comprometido.
Jiang propôs que os governos impeçam a IA de decidir sozinha pelo uso de armas nucleares ou de atacar sistemas de comando nuclear. Ele também recomendou proteções para infraestruturas críticas dos setores de energia, finanças e saúde.
O professor defendeu ainda uma definição comum para a expressão “controle humano significativo”. A ideia é evitar que Estados Unidos e China usem o mesmo termo para justificar níveis diferentes de autonomia das máquinas.
O princípio tem como referência um compromisso apoiado por Joe Biden, então presidente dos Estados Unidos, e Xi em novembro de 2024. A proposta estabelece que as decisões sobre o uso de armas nucleares devem permanecer sob controle humano.
Lora Saalman, do Instituto Internacional de Pesquisa para a Paz de Estocolmo, escreveu em fevereiro que esse ponto era uma convergência entre os dois países. Ao mesmo tempo, ela afirmou que ambos davam sinais de ampliar a integração da IA a sistemas nucleares e ligados à energia nuclear.
Linha direta para incidentes
Jiang também sugeriu uma linha direta militar exclusiva entre Washington e Pequim para tratar de ocorrências envolvendo IA autônoma. A avaliação é que trocas digitais automatizadas podem se desenvolver em velocidade superior à capacidade de intervenção humana.
Um sistema defensivo poderia reagir automaticamente a uma atividade considerada suspeita. O outro país, porém, poderia interpretar essa resposta como um ataque e retaliar antes de compreender a origem do episódio. A comunicação direta permitiria informar que uma operação foi acidental, não autorizada ou ainda estava sendo investigada.
A utilidade da linha direta já existente entre Estados Unidos e China foi questionada por especialistas, entre eles Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins. Ela citou a recusa de autoridades chinesas em atender ligações de representantes norte-americanos sobre o incidente do balão espião em fevereiro de 2023.
Freeman também escreveu, em janeiro, que a hierarquia da burocracia chinesa dificulta iniciativas de oficiais de baixo escalão em contatos com seus pares dos Estados Unidos. “Ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança” decida uma resposta, afirmou.
Posições dos governos
Nenhum dos dois governos aprovou publicamente as recomendações do diálogo entre a Brookings e a Universidade de Tsinghua. A China, no entanto, incorporou a IA à atuação do Departamento de Controle de Armas do Ministério das Relações Exteriores, responsável também por temas como armas nucleares, não proliferação e mísseis.
Shen Jian, embaixador chinês para assuntos de desarmamento, afirmou em uma reunião da Organização das Nações Unidas em Genebra, em junho, que a IA militar pode afetar a estabilidade estratégica e elevar os riscos de erros de cálculo e escalada de conflitos. Ele também defendeu que as armas permaneçam sob controle humano.
A China sustenta que a segurança da IA não deve ser usada como justificativa para barreiras tecnológicas. Nos Estados Unidos, não há um órgão único equivalente para tratar do controle de armas relacionado à IA. A política é distribuída entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências.
Os dois governos seguem cautelosos quanto a medidas que possam desacelerar seu próprio desenvolvimento tecnológico. Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos controles tecnológicos norte-americanos tentativas de preservar a liderança dos Estados Unidos.
