Especialistas dos Estados Unidos e da China recomendaram que os dois países estabeleçam limites para o uso militar da inteligência artificial, especialmente em sistemas relacionados a armas nucleares e infraestruturas estratégicas. A preocupação é que uma ação autônoma contra redes de comando nuclear ou uma operação militar digital deixe os governos com poucos minutos para avaliar se houve um ataque deliberado.
As propostas foram apresentadas por participantes do diálogo EUA-China sobre IA e segurança nacional, promovido desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua. O documento foi publicado antes de negociações governamentais sobre IA e de uma reunião prevista para 24 de setembro, em Washington, entre Donald Trump e Xi Jinping.
Melanie Sisson, pesquisadora sênior da Brookings Institution, defendeu que somente seres humanos possam autorizar ataques digitais de grande impacto contra sistemas de comando, controle e comunicação nucleares de outro país ou contra infraestruturas estratégicas. Um sistema autônomo pode falhar, ultrapassar suas instruções ou ser comprometido, enquanto o país atingido pode não conseguir distinguir uma ação acidental de uma operação ordenada pelo governo rival.
Tianjiao Jiang, professor associado da Universidade de Fudan, propôs regras explícitas para impedir que a IA decida sozinha sobre o uso de armas nucleares ou ataque sistemas de comando nuclear. Ele também recomendou proteções para setores como energia, finanças e saúde, além de uma definição comum para controle humano significativo.
Comunicação em crises
Jiang sugeriu ainda uma linha direta militar exclusiva entre Washington e Pequim para tratar de incidentes envolvendo IA autônoma. A ideia é permitir que um governo informe ao outro quando uma operação incomum foi acidental, não autorizada ou ainda está sendo investigada.
A preocupação é que sistemas defensivos reajam automaticamente a atividades suspeitas. O outro país poderia interpretar essa resposta como um ataque e retaliar antes de compreender o ocorrido. Para os especialistas, a velocidade das trocas automatizadas pode reduzir o tempo disponível para a intervenção humana.
Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionou a utilidade de uma linha direta para crises militares. Ela citou a recusa de autoridades chinesas em atender ligações de representantes dos Estados Unidos durante o incidente do balão espião, em fevereiro de 2023. Freeman também escreveu que a hierarquia da burocracia chinesa dificulta iniciativas de oficiais de escalões inferiores.
Posições dos governos
Nenhum dos dois governos endossou publicamente as propostas. Na China, a inteligência artificial já integra a atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores, que trata de temas como armas nucleares, não proliferação, mísseis e segurança internacional.
Em uma reunião da ONU em Genebra, em junho, Shen Jian, embaixador chinês para assuntos de desarmamento, afirmou que a IA militar pode afetar a estabilidade estratégica, elevar o risco de erros de cálculo e ampliar a possibilidade de escalada de conflitos. Ele defendeu que as armas permaneçam sob controle humano.
A China também sustenta que a segurança da IA não deve ser usada para criar barreiras tecnológicas. Nos Estados Unidos, as responsabilidades relacionadas ao controle de armas e à IA estão distribuídas entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências.
Os dois governos permanecem cautelosos quanto a medidas que possam desacelerar o desenvolvimento tecnológico. Trump afirmou que restrições amplas poderiam favorecer a China, enquanto Pequim considera parte dos controles tecnológicos norte-americanos uma tentativa de preservar a liderança dos Estados Unidos.
