Se andas no TikTok, de certeza que já esbarraste neles: vídeos estranhos, meio absurdos, com vozes robóticas e imagens claramente feitas por inteligência artificial, publicados às dezenas por contas que não fazem mais nada. Pois a própria plataforma está farta e acaba de anunciar que vai começar a caçá-los.
O que o TikTok vai fazer em relação à IA
Esta sexta-feira, o TikTok anunciou que vai reforçar os sistemas de deteção para identificar contas dedicadas exclusivamente a publicar aquilo a que chama “spam gerado por IA”. Nas próximas semanas, a plataforma vai testar melhorias que apontam sobretudo às contas que despejam conteúdo automático sobre temas sensíveis.
E quais são esses temas? Precisamente os mais perigosos quando a informação é falsa ou de baixa qualidade: política, atualidade, saúde e conselhos financeiros. Ou seja, as áreas onde um vídeo enganador feito por IA pode fazer estragos reais, desde desinformação política a maus conselhos de dinheiro ou saúde.
Afinal, o que é o “AI slop”?
O fenómeno tem nome e tudo: chama-se “AI slop”, algo como “lixo de IA”. Descreve aquele conteúdo produzido em massa por inteligência artificial, de baixíssima qualidade e muitas vezes sem pés nem cabeça, cujo único objetivo é gerar visualizações a custo quase zero.
A lógica de quem faz isto é simples e cínica. Com ferramentas de IA generativa, uma pessoa consegue produzir dezenas de vídeos por dia sem esforço, atirá-los ao algoritmo e ver o que “cola”. O problema é que este dilúvio de conteúdo automático rouba visibilidade aos criadores reais. Aqueles que passam horas a fazer vídeos genuínos ficam soterrados por baixo da enxurrada de lixo.
Como o TikTok identifica uma conta “de spam”
Segundo a plataforma, uma conta entra na mira quando junta vários destes sinais: produz conteúdos de IA “de baixa qualidade e muito padronizados”, concentra-se em temas de alto risco que podem abalar a confiança pública, e detalhe revelador compra ou vende seguidores. É o retrato-robô da fábrica de conteúdo automático montada só para explorar o algoritmo.
O TikTok não deu pormenores técnicos sobre como vai detetar estas contas, o que é normal, revelar o método seria dar o mapa a quem tenta contorná-lo.
Não é só o TikTok
Vale a pena notar que isto não é um caso isolado. O TikTok anunciou também uma funcionalidade de denúncia automática de conteúdo gerado por IA. Entretanto não está sozinho nesta luta: outras redes, como o Pinterest, já estão a implementar medidas parecidas para filtrar o dilúvio de conteúdo artificial.
No fundo, estamos a assistir ao início de uma batalha que vai marcar os próximos anos: as redes sociais construíram-se a incentivar quem publica mais, e agora veem-se obrigadas a distinguir o que é feito por pessoas do que é cuspido por máquinas.
