Avanço de deepfake pode moldar a opinião pública, alerta especialista

A tecnologia deepfake, que permite a criação de conteúdo audiovisual falso de alta qualidade, está sendo cada vez mais utilizada para enganar e desacreditar, levantando sérias preocupações sobre a integridade dos processos eleitorais. 

Uma análise da Check Point Software revela a expansão da disponibilidade de serviços deepfake na Darknet e no Telegram, indicando um aumento significativo no desenvolvimento e na distribuição dessas ferramentas. Com preços acessíveis e uma ampla gama de recursos, os deepfakes estão se tornando uma ameaça cada vez mais real para a transparência eleitoral. 

Leia mais: Nova Hampshire investiga chamadas de IA que se passam por Biden  

O uso predominante da clonagem de voz demonstra a eficácia dessas técnicas na disseminação de desinformação, como evidenciado por incidentes recentes nos Estados Unidos. A proliferação de deepfakes levanta preocupações sobre a confiança pública nos processos democráticos e a necessidade urgente de medidas preventivas. 

Em entrevista ao IT Forum, Fernando de Falchi, gerente de Engenharia de Segurança da Check Point Software Brasil, explica que essa interferência nas eleições pelo cibercrime e por atacantes movimentará também a oferta e procura dos serviços que estão disponíveis na Deep Web, que conseguem oferecer, entre outros recursos, vídeos falsos que utilizam imagens de pessoas e em diferentes locais. “Há ainda mensagens de voz disponíveis que são, praticamente, uma clonagem da voz. Um dos usos em deepfake, por exemplo, seria imitar uma pessoa alvo de um áudio falso reagindo a uma pergunta sobre algum tema polêmico.”  

Em janeiro deste ano foi distribuída uma chamada automática na qual se ouvia a voz falsa de Joe Biden, atual presidente dos Estados Unidos e novamente candidato às eleições, incitando os moradores de New Hampshire a não votarem. Os Estados Unidos proibiram as chamadas automáticas geradas por IA, refletindo as preocupações crescentes sobre a manipulação digital e o seu impacto na opinião pública. 

Para além das eleições, Falchi afirma que a sofisticação da tecnologia também pode contribuir com crimes de estelionato e ‘falsos sequestros’, já que vídeos ultrarrealistas de pessoas podem ser feitos em minutos com o auxílio da Inteligência Artificial.  

Outro problema apontado pelo gerente é que as pessoas já postam o que recebem sem antes fazer uma avaliação do que está vendo, lendo ou ouvindo. É sabido que, depois de algo ser publicado, é praticamente impossível apagar esses vídeos e outras mensagens na Internet. “Esse prejuízo à imagem de uma pessoa pode ser muito danoso e bem complexo para a pessoa alvo se desvencilhar”, diz Falchi. 

Por isso, o especialista reforça as dicas básicas para se atentar, como verificar a origem do conteúdo, de onde a pessoa recebe suas mensagens, quem está enviando as mensagens.  

“Ou seja, deve-se verificar origem, quem está enviando, verificar data do que foi dito, se há veículos de comunicação comentando ou noticiando o assunto abordado no vídeo, na mensagem e no áudio. Às vezes você pode receber um vídeo que aparenta ser real, mas ninguém está comentando o assunto ou notícia abordada nele. Precisa checar, não confiar e, principalmente, não passar para frente, não contribuir para a disseminação de fake news, deepfakes e golpes”, alerta. 

Em relação aos impactos das deepfakes, Falchi alertou para o potencial de uso malicioso, incluindo golpes de phishing e manipulação de informações. Ele destacou a preocupação com a possível aplicação dessas tecnologias em ataques de ransomware e na disseminação de malwares, evidenciando a necessidade de vigilância e proteção por parte das empresas e usuários.  

“Tudo isso é similar ao cenário dos golpes, que se utilizam de phishing e engenharia social ao enviarem esses vídeos e áudios. É preciso muita atenção, como disse antes, para não cair em golpes. Os cibercriminosos se utilizarão do momento de um grande evento como as eleições para distribuir deepfakes, desinformação e conteúdo falso para roubar credenciais, identidade e outros dados, bem como obter lucro financeiro e realizar ataques de ransomware com esse conteúdo. Pois, o ransomware é outro ponto a ser explorado pelo cibercrime com mensagens de voz e vídeo de deepfake”, finaliza. 

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!