Deepfakes em alta: entenda golpe financeiro que usa imagem de Elon Musk

Vídeos que se valem de deepfakes de figuras públicas, ou seja, que inserem os rostos e/ou vozes de pessoas como CEOs, jornalistas e funcionários de alto escalão de governos em vídeos falsos, se tornaram parte do modus operandi de grupos criminosos virtuais. O número de golpes e campanhas fraudulentas desse tipo já ocorrem em diferentes idiomas e divulgam esquemas de investimentos falsos, bem como ofertas enganosas.

O alerta foi feito recentemente por pesquisadores da Unit 42 da Palo Alto Networks. Eles descobriram dezenas de campanhas de golpes usando vídeos manipulados por IA em países como Canadá, México, França, Itália, Turquia, República Tcheca, Singapura, Cazaquistão e Uzbequistão. Devido às semelhanças “táticas e de infraestrutura”, a empresa estima que muitas dessas ações sejam originadas de um único grupo cibercriminoso.

A empresa diz ter descoberto, em junho de 2024, centenas de domínios utilizados para promover esses golpes. Cada domínio foi acessado, em média, 114 mil vezes no mundo todo desde que foram ativados, conforme a telemetria de DNS passivo (pDNS) da Unit 42.

Como funcionam as deepfKES?

Os primeiros vídeos disseminaram uma campanha promovendo um esquema de investimento chamado Quantum AI. Por meio da infraestrutura utilizada, várias outras campanhas foram reveladas em diferentes partes do mundo.

Os criminosos aplicaram temas diferentes em várias tentativas de golpe, desenvolvidas em diversos idiomas, utilizando imagem de figuras públicas e líderes empresariais. Segundo a Unit42, isso sugere que cada campanha foi projetada para afetar um público-alvo diferente.

Eleições em SP: o que os candidatos propõem para a tecnologia na gestão pública

Na maioria dos casos, um áudio gerado por IA era adicionado a um vídeo legítimo. Finalmente, foi utilizada tecnologia de sincronização labial para modificar os movimentos do orador, ajustando-os ao áudio manipulado. Parte considerável dos conteúdos usa a imagem de Elon Musk, embora outras personalidades públicas também tenham sido identificadas.

Os grupos que criam esses golpes geralmente usam anúncios em redes sociais ou notícias falsas para direcionar os usuários a páginas web que solicitam informações de contato das vítimas. Após o usuário visitar a página enganosa e preencher um formulário, um dos golpistas liga e informa a necessidade de pagar um valor inicial para obter acesso à plataforma.

Posteriormente, o atacante instrui as vítimas a baixarem um aplicativo para que possam “investir” mais dinheiro. Os criminosos continuam a persuasão para que sejam depositados valores maiores, e podem até permitir pequenas retiradas para conquistar a confiança do alvo.

Por fim, quando as pessoas lesadas tentam sacar os fundos, são solicitadas taxas de saque ou informados outros motivos pelos quais o dinheiro não pode ser retirado. Neste ponto, os criminosos bloqueiam a conta, retendo o restante dos fundos, levando as vítimas a perderem grande parte do que investiram.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!