A China ampliou as restrições ao uso da inteligência artificial depois que casos de dependência e confiança excessiva na tecnologia passaram a provocar preocupação no país. O governo busca disseminar a IA, mas também tenta evitar efeitos que possam afetar as relações humanas, o mercado de trabalho e a ordem social.
A imprensa estatal relatou episódios de pessoas prejudicadas por orientações geradas por sistemas de IA. Entre eles estão um agricultor que perdeu 101.171 m² de gergelim após seguir recomendações sobre pesticidas, um excursionista que ficou preso no topo de uma montanha e pessoas que passaram mal depois de consumir cogumelos identificados incorretamente pela tecnologia.
O agricultor, de 67 anos e identificado apenas como Wu, perdeu 150 mil yuans (R$ 114,9 mil) depois que um assistente recomendou um herbicida inadequado. O caso ocorreu em julho, na província de Anhui. O Diário do Povo defendeu que sistemas usados na agricultura recorram a informações de fontes autorizadas e que os agricultores recebam treinamento para avaliar as sugestões da IA.
Regras para companheiros virtuais
A expansão de aplicativos que oferecem parceiros românticos, tutores e avatares de familiares também despertou preocupação. A questão ganhou peso em um país com população em declínio e taxa de natalidade historicamente baixa, diante do receio de que esses serviços substituam relações humanas.
Uma pesquisa de 2025 do Centro de Pesquisa sobre Juventude e Infância da China, com mais de 8.500 menores, indicou que mais de 20% queriam conversar apenas com a IA e não desejavam falar com pessoas reais.
Em Hangzhou, Vivian Lyu apresentou o Doubao, assistente criado pela ByteDance, à filha Polly, então com cinco anos, dois anos atrás. A criança passou a conversar quase todos os dias com o sistema e a procurar menos atividades como brincar com outras crianças e desenhar. Lyu limitou o uso do chatbot a uma hora por dia.
Em julho, o governo determinou que as plataformas intervenham quando usuários apresentarem sinais de dependência prejudicial ou automutilação. As regras também proibiram relacionamentos virtuais entre chatbots e menores de idade. Com isso, a ByteDance encerrou no Doubao a função de criação de companheiros virtuais.
Pressão sobre conteúdo gerado por IA
A tecnologia também se espalhou pelas miniséries exibidas em celulares. O governo informou, no fim de setembro, que mais de 90% das 430 mil produções lançadas na China nos primeiros oito meses do ano foram geradas por IA.
Essas obras podem ser produzidas em poucos minutos, sem câmeras, equipes ou atores humanos. O modelo, porém, passou a receber críticas pela baixa qualidade e pela redução de oportunidades para profissionais. Em agosto, o Beijing Youth Daily afirmou que produtoras estavam lançando histórias com personagens entediantes e muito semelhantes entre si.
Scott Singer, pesquisador e codiretor da China AI Initiative, do Carnegie Endowment for International Peace, disse que o Partido Comunista reconhece que o avanço da tecnologia traz novos desafios sociais. Para ele, a maior sensibilidade do partido está em mudanças capazes de desestabilizar a sociedade, incluindo transformações nas relações humanas e no emprego.
