Governos devem aumentar estruturas de TrustOps para enfrentar deepfakes e desinformação

O avanço dos deepfakes e das campanhas de desinformação impulsionadas por inteligência artificial deve levar governos de diferentes países a reforçar suas estruturas de segurança digital nos próximos anos. Segundo projeção do Gartner, 40% das instituições públicas estabelecerão funções dedicadas de TrustOps até 2028 para enfrentar ameaças ligadas à falsificação de identidade digital e à chamada desinformação como serviço (DaaS).

De acordo com a consultoria, o crescimento do uso de conteúdos sintéticos produzidos por IA amplia riscos tanto para a comunicação pública quanto para os sistemas internos das instituições. Entre os cenários apontados estão campanhas de desinformação envolvendo falsificação de pronunciamentos de autoridades, além de ataques voltados à manipulação de funcionários por meio de engenharia social e clonagem de voz ou imagem.

“Os deepfakes podem minar ou até mesmo transformar em arma as noções de identidade digital, atacando a credibilidade do próprio Estado”, diz Daniel Nieto, Diretor Analista Sênior do Gartner. “Se os cidadãos não conseguirem distinguir um anúncio legítimo do primeiro-ministro ou um portal seguro da agência tributária de uma réplica, a arquitetura fundamental da verdade entra em colapso.”

Segundo o Gartner, o aumento da sofisticação das ferramentas de IA generativa exige uma mudança de postura das áreas de tecnologia do setor público. A recomendação é que os Chief Information Officers (CIOs) deixem de atuar apenas de forma reativa na verificação de informações falsas e passem a construir estruturas permanentes de confiança digital e autenticação.

Leia mais: Anthropic alerta autoridades globais sobre falhas cibernéticas expostas por IA

Para a consultoria, o impacto dos deepfakes em larga escala pode comprometer parte dos avanços obtidos com a transformação digital nos últimos anos, especialmente em serviços públicos que migraram para canais online e processos automatizados.

“O fenômeno do deepfake ameaça provocar uma regressão digital, revertendo o retorno sobre o investimento (ROI) da transformação digital ao forçar uma volta para interações presenciais e em papel, que geram grande atrito”, afirma Nieto.

O Gartner avalia que o combate à desinformação não deve ser tratado apenas como uma questão técnica ou restrita às equipes de TI. A consultoria defende uma abordagem integrada, envolvendo áreas jurídicas, comunicação institucional, recursos humanos e segurança da informação.

Entre as medidas recomendadas para o curto prazo está a criação de conselhos de confiança digital responsáveis por supervisionar políticas relacionadas à identidade digital e monitorar atividades de desinformação internas e externas.

A consultoria também orienta governos a revisar fluxos administrativos considerados críticos, especialmente aqueles ligados a transferências financeiras e aprovações sensíveis, adotando múltiplos níveis de autenticação e validação para reduzir vulnerabilidades exploradas por ataques com IA.

Outra recomendação envolve o desenvolvimento de procedimentos específicos para identificação de deepfakes e conteúdos sintéticos, utilizando ferramentas tecnológicas e protocolos operacionais capazes de validar interações digitais suspeitas.