‘Clone’ de Taylor Swift promete panelas de graça em novo golpe

Golpistas usam inteligência artificial (IA) para criar deepfake da cantora Taylor Swift. Desta vez, o golpe espalha anúncios falsos de produtos da marca Le Creuset, com a qual a artista tem afinidade (a ponto de ter uma vasta coleção de panelas), pelas redes sociais.

Para quem tem pressa:

• Criminosos usaram IA para criar deepfake da cantora Taylor Swift; em anúncios falsos, “clone” prometia distribuir produtos da Le Creuset de graça;
• Especialistas explicaram que a IA ajudou a criar uma versão sintética da voz da cantora; depois, os criminosos a juntaram a imagens da artista e das panelas holandesas Le Creuset;
• As vítimas que clicavam nos anúncios falsos eram induzidas a pagar uma taxa de “entrega” de US$ 9,96 (aproximadamente R$ 50), que resultava em cobranças mensais, sem nunca receberem os produtos prometidos;
• A Le Creuset negou qualquer envolvimento com os anúncios e alertou os usuários a verificar a autenticidade dos anúncios antes de interagir com eles. A equipe de Taylor Swift não comentou sobre o caso.
• A Meta (dona do Facebook, Instagram e WhatsApp) e o TikTok informaram terem tomado medidas contra os anúncios fraudulentos.

Os criminosos usaram IA para replicar movimentos faciais e a voz da cantora. Nos anúncios falsos, o “clone” de Taylor Swift faz uma chamada aos fãs para distribuição gratuita de conjuntos da Le Creuset, segundo o jornal New York Times.

Golpe com deepfake de Taylor Swift

Ao clicar nos anúncios falsos, os usuários pagavam US$ 9,96 (aproximadamente R$ 50) pela “entrega”, que nunca aconteceria. E pior: o pagamento levava a cobranças mensais. Sem os produtos.

Especialistas ouvidos pelo jornal disseram que a IA ajudou a criar uma versão sintética da voz da cantora, juntada a imagens dela e das panelas holandesas Le Creuset. Em vários anúncios, a voz clonada de Taylor Swift dizia estar “entusiasmada” em distribuir conjuntos gratuitos.

Os avanços significativos em inteligência artificial facilitaram a produção de réplicas digitais não autorizadas de pessoas reais. Spoofs de áudio têm sido especialmente fáceis de produzir e difíceis de identificar, disse Siwei Lyu, professor de ciência da computação que dirige o Laboratório de Mídia Forense da Universidade de Buffalo, em entrevista ao jornal.

A campanha de golpe da Le Creuset foi provavelmente criada usando um serviço de texto para fala, disse o Dr. Lyu. Tais ferramentas geralmente traduzem scripts em vozes geradas por IA, que pode então ser incorporada em filmagens existentes por meio de programas de sincronização labial.

Dezenas de anúncios de golpes da Le Creuset separados, mas semelhantes, com Taylor Swift estavam visíveis até o final da semana passada na Biblioteca de Anúncios Pública da Meta, dona do Facebook, Instagram e WhatsApp. Os golpes também circularam pelo TikTok.

Outro lado

A Le Creuset negou envolvimento com o golpe e aconselhou aos usuários verificarem a autenticidade de anúncios antes de clicar. Já os representantes de Taylor Swift não responderam aos pedidos de comentário do jornal.

Um porta-voz do TikTok disse que a política de anúncios do aplicativo exige que os anunciantes obtenham consentimento para “qualquer mídia sintética que contenha uma figura pública”, acrescentando que os padrões da comunidade do TikTok exigem que os criadores divulguem “mídia sintética ou manipulada mostrando cenas realistas.”

A Meta disse que tomou medidas contra os anúncios que violaram suas políticas, que proíbem conteúdo que usa figuras públicas de maneira enganosa para tentar enganar os usuários e tirar dinheiro deles. A empresa acrescentou que tomou medidas legais contra alguns perpetradores desses esquemas, mas acrescentou que anúncios maliciosos muitas vezes conseguem evadir seus sistemas de revisão ao ocultar seu conteúdo.