ByteDance revela IA que cria deepfakes ultrarrealistas e levanta alertas globais

Pesquisadores da ByteDance, empresa responsável pelo TikTok, apresentaram um novo sistema de inteligência artificial chamado OmniHuman-1, capaz de gerar vídeos deepfake com um realismo sem precedentes.

Ferramentas de manipulação digital não são novidade. Há uma infinidade de aplicativos que permitem inserir um rosto em uma imagem ou fazer alguém parecer dizer algo que nunca disse. No entanto, a maioria dos deepfakes apresenta falhas perceptíveis, detalhes que denunciam a intervenção da inteligência artificial.

Os exemplos divulgados pela ByteDance, no entanto, sugerem que o OmniHuman-1 reduziu essa margem de erro. Em vídeos demonstrativos, a tecnologia recriou apresentações e performances fictícias com alto grau de fidelidade.

Leia também: “As empresas não sabem que podem financiar inovação com recursos disponíveis”, afirma diretor da Gröwnt

Segundo os pesquisadores, o sistema precisa apenas de uma imagem de referência e um áudio – falado ou cantado – para gerar um vídeo de qualquer duração. A proporção da tela e a composição do corpo do personagem também podem ser ajustadas.

O treinamento do OmniHuman-1 foi feito com 19 mil horas de vídeos de fontes não reveladas. O sistema é capaz de editar gravações preexistentes e até modificar os movimentos dos membros de uma pessoa.

Ainda assim, a tecnologia não é infalível. Imagens de baixa qualidade comprometem o resultado final, e certas poses desafiam o modelo, levando a gestos estranhos ou movimentos artificiais.

Os impactos dessa tecnologia são significativos. No último ano, vídeos deepfake de figuras políticas foram utilizados para espalhar desinformação em processos eleitorais pelo mundo. Em Taiwan, uma gravação gerada por inteligência artificial mostrava um político apoiando um candidato pró-China. Na Moldávia, um vídeo falso retratava a renúncia da presidente Maia Sandu. Na África do Sul, uma gravação atribuída ao rapper Eminem sugeria apoio a um partido opositor.

No Brasil, um deepfake amplamente compartilhado mostrava o ministro da Fazenda, Fernando Haddad, supostamente anunciando novas taxas de imposto, incluindo a chamada ‘taxa do cachorrinho’, voltada para donos de animais domésticos, e uma taxa para transações via PIX.

Deepfakes também são utilizados em fraudes financeiras. Celebridades têm sido falsamente associadas a esquemas de investimento, e empresas já perderam milhões para golpistas que usaram inteligência artificial para se passar por executivos. A Deloitte estima que, em 2023, conteúdos gerados por IA foram responsáveis por mais de 12 bilhões de dólares em prejuízos causados por fraudes.

*Com informações do TechCrunch

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!