Personagens criados por inteligência artificial (IA) passaram a ser usados nas redes sociais para atrair seguidores e gerar receita. Mesmo sem existir no mundo real, esses avatares simulam pessoas em vídeos, transmissões ao vivo e anúncios no TikTok, no YouTube e no Instagram.
A remuneração pode vir da monetização de vídeos, de comissões por vendas em marketplaces, da divulgação de produtos digitais e da negociação de perfis com alto engajamento. Alguns canais também são direcionados a novos temas depois de conquistar audiência.
Fernando Ferreira, pesquisador do NetLab da Universidade Federal do Rio de Janeiro (UFRJ) e doutor em IA, afirma que o modelo converte a atenção do público em dinheiro. Algoritmos ajudam a entregar os conteúdos a pessoas interessadas em assuntos específicos ou que procuram respostas para determinados problemas.
A produção ganhou escala com ferramentas de automação mais acessíveis. Segundo Ferreira, esses recursos passaram de ações simples, como curtir e compartilhar, para a criação de imagens e vozes que tornam mais difícil perceber que um conteúdo pode ser uma campanha.
Conteúdo em escala e riscos na saúde
Levantamentos da organização Ctrl Z identificaram avatares em temas históricos, infantis e em narrativas apelativas, como a de um fazendeiro viúvo que procura uma esposa. A exploração de emoções básicas aparece como elemento comum entre os diferentes formatos.
De acordo com Cruz, um mesmo roteiro pode ser traduzido e interpretado por 20 avatares para alcançar países e públicos distintos. No YouTube, vídeos genéricos produzidos por IA, conhecidos como slop, também são usados para tentar cumprir as exigências de monetização da plataforma: 4 mil horas de exibição e mil inscritos.
Depois de atingir essa meta, o canal pode ser transferido para outros assuntos, usado na venda de infoprodutos ou negociado para campanhas políticas. Entre os exemplos estão ebooks de receitas apresentados como capazes de curar doenças.
A saúde é uma das áreas de maior preocupação. Cruz relata que há pessoas dizendo ter seguido tratamentos sugeridos por avatares e abandonado o acompanhamento tradicional. Para ele, esses conteúdos podem conter erros históricos, desinformação e material sensacionalista direcionado a públicos vulneráveis.
As falhas técnicas que antes denunciavam vídeos sintéticos, como mãos deformadas, vozes artificiais e cenários distorcidos, ficaram menos evidentes. Em telas pequenas, especialistas consideram inviável deixar apenas com o usuário a tarefa de verificar a autenticidade do material.
Responsabilidade das plataformas
Os especialistas defendem que conteúdos gerados por IA tenham identificação obrigatória e destacada. Também pedem que as plataformas reforcem a moderação de materiais monetizados para reduzir manipulações e evitar crimes.
Atualmente, a maioria das redes depende de uma declaração do próprio criador sobre o uso de IA. Ferreira afirma que a plataforma não deveria transferir toda a responsabilidade ao usuário, já que também recomenda e distribui o conteúdo.
O YouTube informou que materiais gerados por IA devem seguir as diretrizes da comunidade, incluindo as regras contra desinformação médica. A empresa disse exigir a identificação de mídias alteradas ou sintéticas fotorrealistas e aplicar rótulos aos vídeos.
A plataforma afirmou que, embora dependa da autodeclaração, usa tecnologia e análise humana para localizar conteúdos que deveriam ter sido identificados. Publicações que violam as regras podem ser removidas, e a reincidência pode levar à suspensão do canal do programa de parcerias.
O TikTok também declarou exigir a sinalização de conteúdos produzidos por IA e proibir vídeos que enganem o público. A rede informou que oferece rótulos para indicar o uso da tecnologia. Perfis que descumprirem as regras podem ser retirados do Programa de Recompensas do Criador, de forma temporária ou permanente, conforme a gravidade.
Responsabilidade criminal e efeitos sociais
A advogada Gisele Kauer, especialista em cibersegurança, afirma que o uso de ferramentas avançadas não elimina a responsabilidade por crimes previstos no Código Penal Brasileiro. Entre os possíveis enquadramentos estão estelionato, fraude, exercício ilegal da medicina e falsidade ideológica. “O crime continua sendo crime independente do meio utilizado”, disse.
Diogo Cortiz, professor da PUC-SP e líder de um grupo que pesquisa intimidade artificial, avalia que os avatares também alteram a percepção da realidade. Para ele, padrões estéticos inalcançáveis e relações afetivas simuladas podem ampliar a insegurança de quem consome e de quem produz esse conteúdo.
A advogada diferencia o uso comercial de personagens de IA da utilização dessas figuras para induzir pessoas ao erro e obter vantagens financeiras ilícitas.
