Como mitigar o viés racial na IA?

Os riscos de viés racial na inteligência artificial são uma preocupação crescente, à medida que essa tecnologia se torna mais influente em diversas áreas, como segurança pública, finanças e saúde. 

Para entender melhor esse problema, conversamos com André dos Santos Souza, coordenador de pesquisas e estatísticas no Pacto de Promoção da Equidade Racial, que destacou a importância de um compromisso ético na implementação de IA e a necessidade de uma comunicação antirracista. 

Leia também: Celso Kleber, da Conta Black: ‘Queremos mostrar que é possível fazer negócios com impacto social positivo’ 

O viés racial na IA

De acordo com o coordenador, esse problema não é novo, tendo em vista que os sistemas de IA refletem preconceitos e discriminações existentes na sociedade. “Os algoritmos são treinados com dados históricos que, por si só, podem conter desigualdades raciais. Se esses dados não forem analisados criticamente, corremos o risco de perpetuar e até amplificar esses preconceitos”, explica. 

Um exemplo claro é o uso de IA em processos de recrutamento, onde algoritmos podem favorecer candidatos de grupos majoritários se forem treinados com dados que refletem práticas discriminatórias passadas.  

Além disso, segundo estudo da USP, tecnologias de reconhecimento facial podem mostrar taxas de erro significativamente mais altas para indivíduos de pele negra, resultando em riscos de discriminação em aplicações de segurança. 

Importância da transparência e diversidade

Souza enfatiza que a transparência nos processos de desenvolvimento de IA é crucial para identificar e mitigar vieses. “As empresas e desenvolvedores devem ser abertos sobre como seus algoritmos são treinados e quais dados são utilizados. Além disso, é fundamental que equipes diversas estejam envolvidas no design e implementação dessas tecnologias para trazer perspectivas variadas e diminuir o risco de preconceito”. 

A diversidade não só na equipe de desenvolvimento, mas também nos dados utilizados, é essencial para criar sistemas de IA mais justos. “Devemos buscar dados representativos e garantir que todas as vozes sejam ouvidas e consideradas no desenvolvimento de novas tecnologias”, afirma. 

Comunicação antirracista

Além da tecnologia, o coordenador ressalta a importância de uma comunicação antirracista como parte do compromisso ético com a IA. “As empresas devem adotar práticas de comunicação que desafiem narrativas racistas e promovam a equidade. Isso inclui desde a maneira como se referem a diferentes grupos raciais até a representação nas campanhas de marketing”. 

O Pacto de Promoção da Equidade Racial trabalha para promover essas práticas, incentivando organizações a adotarem compromissos claros com a diversidade e a inclusão. “Precisamos de um esforço conjunto para combater o racismo estrutural e garantir que a tecnologia trabalhe a favor de todos, e não apenas de uma minoria privilegiada”. 

Para Souza, o caminho a seguir envolve uma combinação de regulação, educação e inovação responsável. “É essencial que governos, empresas e sociedade civil trabalhem juntos para criar diretrizes que garantam o uso ético da IA. A educação também desempenha um papel crucial, capacitando desenvolvedores e usuários a reconhecer e desafiar o viés racial”. 

Nesse sentido, o coordenador acredita que o compromisso ético com a IA e a comunicação antirracista são fundamentais para construir um futuro em que a tecnologia sirva como uma ferramenta para a equidade, ao invés de perpetuar desigualdades. “Temos a oportunidade de reimaginar o que a tecnologia pode fazer pela sociedade. Vamos garantir que ela trabalhe a favor da justiça e igualdade para todos”, conclui. 

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!