O Ministério da Justiça e Segurança Pública recomendou nesta segunda-feira (21) que a Agência Nacional de Proteção de Dados investigue os riscos de serviços de inteligência artificial que simulam amizade, companheirismo e relacionamentos amorosos.
A sugestão está em nota técnica da Secretaria Nacional de Direitos Digitais, ligada ao ministério. O documento propõe que a ANPD avalie as plataformas com base no Estatuto Digital da Criança e do Adolescente (ECA Digital) e nas atribuições de fiscalização da agência.
A análise preliminar examinou 13 serviços: Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI. A nota não conclui que houve infrações, mas identifica possíveis desconformidades que, na avaliação do governo, devem ser investigadas.
Entre os temas estão os mecanismos de verificação de idade, o risco de uso excessivo ou compulsivo, a exposição a conteúdo inadequado e a utilização de dados para formar perfis emocionais e comportamentais dos usuários.
“Os achados técnicos indicam que a maior parte dos serviços analisados adota a autodeclaração como único mecanismo de aferição de idade”, afirmou a Secretaria Nacional de Direitos Digitais. Segundo a pasta, a facilidade para contornar esse procedimento pode indicar acesso por crianças e adolescentes e sujeitar os serviços às obrigações previstas no ECA Digital.
A avaliação faz parte das medidas do governo para implementar a lei, que estabelece deveres de proteção e segurança para plataformas e outros serviços digitais usados por esse público.
Os personagens de IA analisados podem armazenar o histórico das conversas, adaptar as respostas, simular personalidade e emoções e oferecer, dependendo do serviço, amizade, romance e conteúdo adulto.
