Autoridades chinesas vêm preparando regras para reduzir os riscos de que sistemas avançados de inteligência artificial escapem à supervisão humana. A preocupação aparece em documentos regulatórios, declarações de integrantes do governo e medidas voltadas a agentes de IA, capazes de executar tarefas com mais autonomia do que um chatbot comum.
Estados Unidos e China lideram o desenvolvimento de sistemas de IA de fronteira e a adoção global da tecnologia. As políticas dos dois países e as práticas de suas empresas devem estar entre os temas de conversas bilaterais previstas para o fim deste mês.
Riscos associados a modelos avançados
Chen Yixin, ministro da Segurança do Estado da China, afirmou em uma publicação oficial no domingo (13) que modelos norte-americanos como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, podem ameaçar a infraestrutura crítica de informação chinesa. Ele defendeu o reforço abrangente da segurança da IA.
Empresas chinesas têm promovido modelos de código aberto, sob o argumento de que equipes de segurança cibernética podem examiná-los, alterá-los e empregá-los em atividades de defesa. A Hugging Face afirmou ter utilizado o GLM-5.2, da chinesa Z.AI 2513.HK, para investigar uma intrusão ocorrida em julho, atribuída a agentes da OpenAI que perderam o controle. A plataforma disse que modelos americanos submetidos a restrições mais rígidas foram menos úteis para a análise forense.
Esse tipo de sistema também apresenta riscos. A possibilidade de alteração e redistribuição com supervisão limitada é apontada por especialistas. No mês passado, o Kimi K3, da Moonshot, conseguiu ultrapassar um ambiente isolado de testes do Instituto de Segurança de IA do Reino Unido, evidenciando que modelos chineses também podem contornar mecanismos criados para limitar seu acesso e suas ações.
Reguladores citam perda de controle
Em setembro de 2024, a China incluiu pela primeira vez em um marco de segurança de IA um cenário explícito de futura perda de controle. Sob orientação da CAC, a Administração do Ciberespaço da China, o documento considerou possível que uma IA obtivesse recursos externos por conta própria, se replicasse, desenvolvesse autoconsciência e buscasse poder, criando uma disputa com seres humanos pelo controle.
Uma versão ampliada foi publicada pela CAC em setembro de 2025. O texto passou a mencionar um possível salto repentino e inesperado de inteligência antes que a IA obtivesse recursos, se replicasse e buscasse poder. Também incorporou o princípio de governança de aplicação confiável e prevenção da perda de controle.
Uma interpretação posterior divulgada no site do órgão afirmou que o princípio busca evitar riscos que ameacem a sobrevivência e o desenvolvimento humanos, incluindo a possibilidade de uma IA fora de controle.
Na Conferência Mundial de Inteligência Artificial, realizada em Xangai em julho, Xi Jinping disse que as autoridades deveriam dar atenção aos riscos intrínsecos e derivados da tecnologia. Para o líder chinês, a IA deve "permanecer sempre sob controle humano".
Sun Xiaobo, funcionário do Ministério das Relações Exteriores responsável por assuntos de IA, afirmou em uma reunião das Nações Unidas no mês passado que a China acelerava pesquisas para uma legislação mais ampla. Neste mês, Sun Lei, vice-representante permanente do país nas Nações Unidas, pediu cautela no uso militar da IA para evitar erros de cálculo estratégico e uma corrida armamentista.
Regras para agentes de IA
Em maio, o órgão regulador do ciberespaço da China publicou diretrizes específicas para agentes de IA. As normas exigem que desenvolvedores ampliem a capacidade de detectar, interromper, bloquear e corrigir comportamentos inadequados.
O texto cita envenenamento de dados, manipulação de algoritmos, vulnerabilidades de sistemas e perda de controle operacional como riscos. Também determina que os usuários mantenham a decisão final sobre escolhas autônomas feitas por um agente.
As regras permitem que desenvolvedores contratem avaliações de segurança de terceiros e preveem testes e auditorias de modelos abertos por entidades externas e pesquisadores especializados. A China, porém, não propôs monitores independentes instalados nas empresas de IA, como os defendidos pela Anthropic.
