O serviço de vídeos curtos do Instagram, Reels, projetado para apresentar aos usuários streams de vídeos sobre temas de interesse, como esportes, cinema ou humor, foi recentemente submetido a testes pelo The Wall Street Journal. Os resultados revelaram que o algoritmo do Reels pode direcionar conteúdo sexualizado e inadequado para usuários que demonstram interesse em jovens.
Os testes conduzidos pelo jornal americano envolveram a criação de contas de teste que seguiram exclusivamente jovens influenciadores, e o Reels respondeu expondo essas contas a conteúdos explícitos, incluindo vídeos de crianças e adultos em situações sexuais, além de anúncios de grandes marcas dos Estados Unidos.
A investigação também revelou que a presença significativa de adultos do sexo masculino entre os seguidores dessas contas de jovens levantou preocupações adicionais. Mesmo quando as contas de teste começaram a seguir usuários que demonstraram interesse em conteúdo sexual relacionado a crianças e adultos, o algoritmo continuou a recomendar conteúdo perturbador.
Em um dos casos relatados, um anúncio do aplicativo de namoro Bumble apareceu entre um vídeo de alguém acariciando o rosto de uma boneca de látex em tamanho real e uma gravação de uma menina jovem levantando a camiseta para expor o abdômen. Grandes empresas como Disney, Walmart e outras também tiveram anúncios veiculados ao lado de conteúdo inadequado.
Resposta da Meta e de anunciantes
- A Meta Platforms, proprietária do Instagram, afirmou ao The Wall Street Journal que os testes criaram uma experiência artificial que não representa o que bilhões de usuários veem.
- A empresa se recusou a comentar por que os algoritmos compilaram streams de vídeos separados mostrando crianças, sexo e anúncios.
- No entanto, um porta-voz destacou que, em outubro, foram introduzidas novas ferramentas de segurança de marca que proporcionam aos anunciantes maior controle sobre onde seus anúncios aparecem.
- Empresas cujos anúncios apareceram ao lado de conteúdo inadequado nos testes do Journal, incluindo Disney e Walmart, exigiram explicações da Meta e, em alguns casos, cancelaram a publicidade.
- A Match Group, por exemplo, interrompeu completamente a publicidade no Reels e em outras plataformas da Meta.
- O WSJ disse ter informado a Meta sobre os resultados dos testes em agosto, e desde então, novos testes mostram que a plataforma continuou a recomendar vídeos inapropriados.
- Até meados de novembro, o Instagram ainda estava recomendando o que foi descrito pela organização Canadian Centre for Child Protection como “adultos e crianças fazendo poses sexuais”.