Espanha investiga X, Meta e TikTok por suspeita de uso de IA em abuso infantil

A Espanha determinou que o Ministério Público investigue as plataformas X, Meta e TikTok por suposta circulação de material de abuso sexual infantil produzido com o uso de inteligência artificial (IA), de acordo com a Reuters.

O anúncio foi feito pelo primeiro-ministro Pedro Sánchez, que vem defendendo uma agenda mais rigorosa de controle sobre plataformas digitais. Segundo o governo, a iniciativa se baseia em um relatório técnico elaborado por três ministérios, que aponta indícios de que ferramentas de IA estariam sendo utilizadas para criar e espalhar conteúdos ilegais envolvendo menores.

A medida integra um pacote mais amplo de propostas regulatórias apresentado por Sánchez em um encontro internacional realizado em Dubai neste mês. Entre as ações anunciadas está também a intenção de restringir o acesso de adolescentes às redes sociais, com proposta de proibição para menores de 16 anos, ainda dependente de aprovação parlamentar.

Pressão sobre algoritmos e responsabilidade das plataformas

A porta-voz do governo, Elma Saiz, afirmou que as autoridades não podem permitir que sistemas algorítmicos ampliem ou encubram crimes dessa natureza. O entendimento do Executivo é que a segurança, a privacidade e a dignidade de crianças e adolescentes estariam em risco diante da capacidade das ferramentas de IA de produzir imagens e vídeos manipulados.

Dados citados pelo governo, com base em levantamento da organização Save the Children, indicam que um em cada cinco jovens na Espanha, principalmente meninas, relatou que imagens falsas de nudez, criadas por inteligência artificial, foram produzidas e compartilhadas enquanto ainda eram menores de idade.

Em manifestação pública, Sánchez afirmou que o Estado não pode tolerar a impunidade de grandes empresas diante de conteúdos que afetem direitos fundamentais de crianças. O Ministério da Justiça deverá solicitar aos promotores que apurem se houve crime por meio da criação e disseminação desse tipo de material com apoio de ferramentas de IA.

Leia mais: Meta, TikTok e YouTube vão a julgamento nos EUA por acusações de dependência digital entre jovens

Respostas das empresas e investigações paralelas

A única empresa a se pronunciar imediatamente foi o TikTok, que declarou que conteúdos de abuso infantil são proibidos na plataforma e que mantém sistemas voltados à prevenção de exploração de menores, incluindo investimentos em tecnologias de detecção.

Até o momento da publicação original da reportagem, X e Meta não haviam se manifestado.

Paralelamente, a Comissão de Proteção de Dados da Irlanda abriu investigação formal envolvendo o chatbot Grok, desenvolvido pela xAI e integrado ao X. A apuração busca avaliar o processamento de dados pessoais e o potencial de geração de imagens e vídeos sexualizados, inclusive envolvendo crianças. A autoridade irlandesa atua como principal reguladora da União Europeia para a empresa de Elon Musk, já que as operações europeias da companhia estão sediadas no país.

Movimento global de endurecimento regulatório

A iniciativa espanhola ocorre em um cenário de crescente escrutínio internacional sobre plataformas digitais. A Comissão Europeia conduz investigações contra Meta, TikTok e também contra o Grok com base na Lei de Serviços Digitais da União Europeia, que estabelece obrigações mais rígidas para combate a conteúdos ilegais e proteção de usuários.

Outros países também avançam em medidas semelhantes. França, Brasil e Canadá registraram queixas relacionadas à distribuição de conteúdos considerados ilegais por sistemas automatizados. No Reino Unido, a Internet Watch Foundation informou que identificou milhares de vídeos de abuso infantil gerados por IA no último ano, número significativamente superior ao registrado anteriormente.

Na Espanha, além da investigação atual, o Parlamento já havia sinalizado apurações sobre possíveis violações de privacidade envolvendo usuários do Facebook e Instagram. A nova frente amplia o foco para o uso de inteligência artificial como instrumento de produção de material ilícito.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!