Os Reels do Instagram mostram normalmente coisas engraçadas que não têm outro propósito senão o de nos entreter. Encontramos danças, memes, vídeos de animais e muito mais. No entanto, por vezes, tudo muda e é exatamente o que se está a passar agora. É que os Reels do Instagram que chegaram a muitas pessoas estão subitamente cheios de conteúdo violento, gráfico e sangrento. Mas afinal o que se passa?
Os reels do Instagram mudaram para conteúdos violentos
Os utilizadores do Instagram inundaram as redes sociais com queixas sobre o facto de os Reels estarem subitamente cheios de conteúdo gráfico. Alguns utilizadores afirmam que, apesar de o “Controlo de conteúdo sensível” do Instagram estar ativado na sua definição mais elevada, continuaram a deparar-se com este tipo de conteúdo violento.
O sistema de moderação do Meta não conseguiu detetar estes vídeos, permitindo que aparecessem no Reels. De acordo com a política do Meta, este tipo de conteúdo inclui “vídeos com desmembramentos, vísceras visíveis ou corpos carbonizados”, bem como “comentários sádicos em relação a imagens que retratam o sofrimento de humanos e animais”.
É por isso que, ocasionalmente, pode ver Reels com um aviso de conteúdo sensível. O Instagram bloqueia automaticamente a sua reprodução. Os utilizadores podem escolher se querem ver. Então, porque é que a Meta permite que os utilizadores vejam estes vídeos? A empresa acredita que alguns conteúdos gráficos podem ajudar a aumentar a consciencialização sobre determinados assuntos.
Entretanto a Meta pediu desculpa e resolveu o problema. “Corrigimos um erro que fez com que alguns utilizadores vissem conteúdo no seu feed do Instagram Reels que não deveria ter sido recomendado. Pedimos desculpa pelo erro”.
A responsabilidade do Instagram perante os utilizadores
O Meta pode ter corrigido o problema dos Reels, mas este incidente realça um problema muito maior. As plataformas de redes sociais continuam a ter dificuldades em controlar o conteúdo que aparece nos feeds dos utilizadores. O Instagram não está sozinho nesta situação. Outras plataformas de redes sociais, como o TikTok, o Twitter/X, o Facebook e até o YouTube, já enfrentaram reacções negativas no passado devido a conteúdos inadequados, violentos ou enganadores que passaram pelos seus sistemas de moderação.
No passado, as empresas confiavam fortemente em moderadores humanos para apanhar e remover esses conteúdos antes de chegarem às massas. No entanto, isto não é eficiente, já para não falar da ética subjacente ao facto de sujeitar outra pessoa a ver este tipo de vídeos. É aqui que entra a utilização da IA. Mas todos sabemos que a IA não é perfeita – ainda. Então, o que é que estas empresas podem fazer? Talvez seja altura de estas empresas deixarem de agir como se soubessem o que queremos.
