Idec pede suspensão do Grok por violação de direitos de crianças, adolescentes e mulheres

O Instituto de Defesa de Consumidores (Idec) pediu nesta segunda-feira (12) a suspensão do Grok, ferramenta de inteligência artificial (IA) do bilionário Elon Musk. O requerimento foi feito após usuários do X passarem a utilizar a plataforma para imagens falsas de nudez de mulheres e crianças, sem consentimento.

De acordo com o pedido, os ocorridos são “um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários.”

Além disso, o Idec afirma que a ação viola a Lei Geral de Proteção de Dados (LGPD), o Marco Civil da Internet, o Estatuto da Criança e do Adolescente (ECA) e o recém-aprovado ECA Digital.

Leia mais: Meta entra no radar regulatório da China após compra de startup de agentes de IA

O ofício também ressalta que o caso da Grok já gerou reações internacionais relevantes, com investigações e exigências de retirada de conteúdo. Na semana passada, a deputada federal Erika Hilton (PSOL) já havia protocolado uma ação no MPF (Ministério Público Federal) após as primeiras imagens surgirem na internet.

Autoridades do Reino Unido intensificaram a pressão sobre a plataforma X para que medidas seja tomadas contra a disseminação deste tipo de imagem. A cobrança se soma a reações de outros países como França e Índia.

“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, conclui o Idec.

*com informações do G1