Meta vai rotular imagens geradas por IA em suas redes sociais

A Meta – dona de WhatsApp, Facebook, Instagram e Threads – anunciou na terça-feira (6) que vai passar a identificar, em suas redes sociais, todo conteúdo que for gerado por inteligência artificial (IA). O recurso será aplicado às três principais redes da empresa (mas não ao app de mensageria) durante os próximos meses, e é basicamente um “rótulo” que facilita essa identificação por parte do usuário.

Em comunicado publicado no site institucional da empresa e assinado por Nick Clegg, presidente de assuntos globais, a Meta diz que está trabalhando com parceiros do setor para criar “padrões técnicos comuns para identificar conteúdo de IA, inclusive vídeo e áudio”. Ou seja, essa identificação de conteúdo deve ser feita de forma automatizada.

O objetivo, segundo o executivo, é “que as pessoas saibam quando essas imagens são imaginadas com IA”.

“À medida que a diferença entre conteúdo humano e sintético fica confusa, as pessoas querem saber onde está o limite. Muitas vezes elas encontram conteúdo gerado por IA pela primeira vez, e nossos usuários nos disseram que gostam da transparência em torno da nova tecnologia”, escreveu Clegg.

O texto diz que esses rótulos serão aplicados em todos os idiomas suportados pelas redes sociais da Meta ao longo dos próximos meses. E cita que o recurso será particularmente importante conforme as eleições se aproximam em uma série de países durante 2024 – o tema, aliás, já preocupa autoridades brasileiras.

Novos padrões técnicos

Segundo o executivo da Meta, as imagens geradas usando IA a partir de ferramentas da própria empresa – rotuladas com o Meta AI – já são identificadas conforme melhores práticas definidas em fóruns do setor. O objetivo agora é criar padrões para identificar imagens geradas por outras IAs generativas. Cregg cita fóruns como o Partnership on AI (PAI).

“Estamos construindo ferramentas líderes do setor que podem identificar marcadores invisíveis em escala – especificamente, as informações ‘geradas por IA’ nos padrões técnicos C2PA e IPTC – para que possamos rotular imagens do Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock à medida que implementam planos para adicionar metadados às imagens criadas por suas ferramentas”, escreve.

O anúncio da Meta também coincide com a notícia, divulgada há poucos dias, de que a cantora pop Taylor Swift foi vítima de uma onda de imagens geradas por IA de cunho sexual, depois disseminados nas redes sociais.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!