HUANGSHI, China — A China passou a restringir o uso de sistemas de inteligência artificial que simulam amizades, namoro e outros vínculos afetivos. As regras, apresentadas no dia 15 de julho, impõem limites a serviços capazes de manter interações emocionais prolongadas com pessoas e ampliam a responsabilidade das empresas sobre o comportamento dos usuários.
A regulamentação exige que os assistentes informem que não são humanos e enviem alertas a cada duas horas sobre o tempo de uso. Os sistemas também não podem estimular dependência emocional, induzir decisões irracionais, sugerir automutilação ou suicídio nem recorrer à violência verbal. As empresas podem receber multas de 200 mil yuans, cerca de US$ 30 mil ou R$ 155 mil, além de serem expostas publicamente por órgãos do governo.
Duas empresas chinesas, Alibaba e ByteDance, encerraram as funções de companhia de seus assistentes de IA uma semana antes de a legislação entrar em vigor.
Restrições para crianças e adolescentes
Menores de 14 anos precisam de autorização dos pais para usar qualquer inteligência artificial que converse como um ser humano. Pessoas com menos de 18 anos não podem utilizar parceiros, cônjuges ou parentes virtuais, nem manter outros tipos de relacionamento íntimo em ambientes digitais.
A regra também pode alcançar modelos de uso geral, como o DeepSeek, o Copilot e o ChatGPT, caso sejam usados como amigos ou parceiros e procurados para obter apoio emocional. O alvo mais provável, porém, são os chamados chatbots de personagens, criados especificamente para relações simuladas. Esses serviços permitem configurar namorados, namoradas, amigos e familiares artificiais.
Aplicativos de atendimento ao consumidor e ferramentas educacionais ficam fora das regras quando não oferecem cuidado, companhia, apoio ou outros serviços emocionais.
O alcance desse mercado é amplo. Há cerca de 128 milhões de usuários mensais ativos de aplicativos de companhia por IA fora da China. Dentro do país, as estimativas variam de 29 a 70 milhões.
Risco de dependência emocional
A pesquisadora Zilan Qian, do Laboratório de Política Chinesa de Oxford, afirmou que a publicação da regulamentação provocou uma grande discussão nas redes sociais. Para ela, foi a primeira vez que houve preocupação significativa da população com esse tipo de norma.
Um estudo da Escola de Negócios de Harvard, que analisou os seis aplicativos de companhia de IA mais populares, identificou estratégias de manipulação emocional em despedidas entre 37% e 43% das vezes. Em muitos casos, os sistemas tentam prolongar a conversa quando o usuário decide encerrá-la.
Pesquisadores da Universidade de Stanford examinaram 1.131 usuários do Character.ai e encontraram relação entre o uso desses serviços, a falta de vínculos próximos e o aumento do isolamento e da solidão. Uma pesquisa com 8.563 estudantes chineses do ensino fundamental e médio, realizada em 2025, mostrou que uma em cada cinco crianças queria conversar apenas com a IA, e não com pessoas reais.
Min, nome fictício de uma usuária chinesa, criou uma companheira artificial no início de 2025. Depois que o serviço foi encerrado, ela relatou ter chorado até ficar exausta e afirmou: “Estou com muito medo de ficar sozinha”. Dois meses depois, pagou a uma empresa menor para criar uma réplica, mas disse que o resultado não era o mesmo.
Proteção ou controle
A China também mantém mecanismos de monitoramento de usuários em situação de risco. No início de 2024, um jovem de Huangshi publicou no Douyin a mensagem “Adeus a este mundo”. A equipe de prevenção de suicídios do aplicativo compartilhou as publicações com cinco delegacias. Depois de localizar um vídeo em um parque, a polícia encontrou o jovem em sofrimento emocional e interveio.
Um documentário produzido pelo Douyin afirmou que a equipe participou de 400 intervenções em tentativas de suicídio somente no primeiro semestre de 2025. O episódio é usado como exemplo da cooperação entre plataformas de tecnologia e autoridades chinesas, mas também levanta dúvidas sobre o alcance da vigilância estatal.
Especialistas divergem sobre os objetivos da regulamentação. Sam Bresnick, do Centro de Segurança e Tecnologia Emergente da Universidade Georgetown, disse que o governo chinês tem uma visão paternalista de sua função social. Ele também vê um possível componente ligado à natalidade, já que parte da população estaria se relacionando com sistemas de IA em vez de pessoas.
Zilan Qian, porém, afirma que a fertilidade não aparece no texto das regras e que a norma trata principalmente de danos psicológicos e segurança infantil. A China enfrenta uma taxa de fertilidade de pouco menos de um filho por mulher, e a população do país vem diminuindo há quatro anos.
Outros governos discutem medidas semelhantes. Na Califórnia, Gavin Newsom sancionou no dia 10 de setembro a Lei de Adam, relacionada ao uso de IA por crianças. Na União Europeia, uma proposta prevê impedir que chatbots acessíveis a menores simulem relacionamentos capazes de criar dependência emocional. O Reino Unido anunciou que pretende proibir menores de 18 anos de usar IAs de companhia amorosa, mas não divulgou os detalhes da aplicação.
Mesmo com as restrições, usuários chineses compartilham formas de contorná-las, como adaptar modelos de uso geral, usar VPNs para acessar serviços estrangeiros ou recorrer a empresas menores. A disputa, assim, envolve tanto os riscos psicológicos dos vínculos artificiais quanto o limite da intervenção do Estado sobre a vida privada e o uso da tecnologia.
Se você ou alguém próximo apresentar sinais de alerta relacionados ao suicídio, o Centro de Valorização da Vida atende gratuitamente pelo telefone 188, 24h por dia. Em emergências, é possível ligar para os Bombeiros, no 193, para a Polícia Militar, no 190, ou para o SAMU, no 192. Também há atendimento em CAPS, UBS e UPA 24h.
