Publicações criadas por inteligência artificial (IA) estão em franca ascensão no TikTok. Pesquisadores constataram que centenas de contas dedicadas a vídeos gerados por IA acumularam bilhões de visualizações em um único mês.
O levantamento, destacado pelo jornal The Guardian, levanta sérias preocupações sobre a desinformação e manipulação na plataforma, já que parte desse conteúdo inclui material sexualizado, vídeos com narrativas anti-imigração e até falsificações de trechos de telejornais.
O Impacto Massivo do Conteúdo de IA
Segundo o relatório da AI Forensics, uma organização sem fins lucrativos de Paris, 354 contas focadas em IA publicaram aproximadamente 43 mil posts criados por ferramentas generativas, alcançando um total de 4,5 bilhões de visualizações em apenas um mês.
Os pesquisadores sugerem que muitas dessas contas utilizam a publicação de um volume massivo de vídeos, chegando a 70 posts por dia, para tentar manipular o algoritmo do TikTok, o que aponta para um uso de automação. A maioria dessas contas foi criada no início de 2025, indicando uma rápida expansão dessa tendência.
“A linha tênue entre conteúdo humano autêntico e conteúdo sintético gerado por IA na plataforma sinaliza uma nova tendência em direção a mais conteúdo gerado por IA nos feeds dos usuários”, afirmaram os pesquisadores.
Apesar da viralização, o TikTok informou recentemente que, das mais de 100 milhões de publicações diárias, os 1,3 bilhão de posts rotulados como IA ainda representam uma parcela pequena do catálogo geral.
O Que é Publicado e o Problema da Rotulagem
Entre as contas mais ativas, metade delas se concentra em conteúdo relacionado ao corpo feminino, com “mulheres geradas por IA [que] são sempre atraentes, com roupas sexualizadas ou com decotes”. A análise identificou outros problemas:
- Rotulagem Deficiente: Metade dos posts não estava rotulada como conteúdo de IA, e menos de 2% usavam o selo oficial do TikTok para material gerado artificialmente.
- Desinformação: Vários vídeos simulavam telejornais para veicular narrativas anti-imigração.
- Conteúdo Sensível: Algumas publicações continham sexualização de corpos de meninas que pareciam ser menores de idade.
Após a divulgação do relatório, diversas contas analisadas foram removidas da plataforma.
Resposta do TikTok e o Debate sobre Moderação
O TikTok rebateu as conclusões do relatório, chamando as alegações de “infundadas”. A plataforma defendeu seus investimentos em moderação e controle, afirmando que o problema não é exclusivo do seu serviço.
Um porta-voz da empresa declarou que o “conteúdo prejudicial gerado por inteligência artificial” é removido, e que “centenas de milhões de contas de bots” são bloqueadas, reforçando o investimento em “tecnologias de rotulagem de IA líderes do setor”. A empresa também passou a oferecer a opção para que usuários visualizem menos conteúdo gerado artificialmente.
Os pesquisadores, no entanto, argumentam que a plataforma precisa ir além dos rótulos, sugerindo que “as plataformas precisam ir além de rótulos fracos ou opcionais de ‘conteúdo de IA’ e considerar a segregação do conteúdo gerado por IA do material criado por humanos”.
Conteúdo “Fofo” e a Realidade do Ecossistema
Apesar dos problemas, nem todo o conteúdo de IA é perigoso. Parte das publicações mais populares é composta por vídeos “absurdos” e “fofos”, como animais em competições olímpicas ou bebês falantes, classificados como “irrelevantes” pelos pesquisadores.
Em conclusão, a investigação aponta que a presença massiva da IA no TikTok já é parte de um ecossistema maior de viralização, e a distinção entre conteúdo autêntico e sintético tende a se tornar ainda mais difícil no futuro.