Empresas de tecnologia apostam em inteligência artificial para moderar conteúdos

Empresas de tecnologia da área de conteúdo estão investindo no uso de inteligência artificial para substituir o trabalho dos moderadores de conteúdo, que nesta semana foram enviados para casa como forma de diminuir a incidência do novo coronavírus (Covid-19). 

Em destaque desde o ano passado, o serviço de moderação de conteúdo empregado por firmas como Facebook e Twitter é realizado por funcionários contratados por essas empresas por meio de firmas como Accenture e Cognizant, para revisar conteúdos classificados pelo algoritmo como violentos ou com exposição à nudez.  

À parte das questões já levantadas sobre o nível de segurança mental desse trabalho, outra questão delicada diz respeito à privacidade desses dados: os locais de trabalho dos verificadores têm um esquema de segurança bastante rigoroso, com crachás que liberam acesso apenas para locais onde o funcionário precisa realmente entrar e com políticas de segurança como a proibição do suo de dispositivos móveis durante o trabalho. 

Por conta dessas questões (e medo de um potencial vazamento de dados de usuários), as empresas de tecnologia optaram por enviar todos os funcionários terceirizados para casa, remunerando-os pelo período em que deveriam trabalhar. Porém, fica a questão: como continuar o trabalho de moderação se os funcionários não podem ir ao escritório? 

Parte desse trabalho foi absorvida por funcionários internos, mas não é possível dar conta de todas as revisões necessárias. Tentando contornar esse problema, as empresas estão investindo na combinação entre inteligência artificial e machine learning para criar modelos capazes de realizar pelo menos as tarefas mais automáticas de censura. 

O YouTube, por exemplo, é um exemplo de empresa que está adotando IA em boa parte do seu sistema de revisão.  Porém, a companhia já prevê erros de julgamento da tecnologia e avisou que todas as punições apresentadas por esse sistema durante o período de quarentena não gerarão a desativação de um canal. 

Facebook e Twitter também informaram que pretendem aumentar de forma significativa o uso de inteligência artificial para remover conteúdos ofensivos, já prevendo um crescimento de erros e tomando medidas para que as ações mais graves sejam avaliadas por humanos antes de executadas. 

 A decisão surpreende, pois em entrevistas ainda recentes boa parte dessas empresas afirmaram que a aplicação de IA para esse uso ainda era um sonho distante. A hipótese mais provável, contudo, é a de que as marcas aproveitaram o momento (e o quase certo crescimento de uso de suas plataformas), como uma oportunidade para “errar” de forma mais justificada.  

 * Com informações do The Interface