Plataformas de inteligência artificial (AI) foram alvos de críticas negativas recentemente. Algumas das piores histórias são sobre sistemas que exibem preconceito racial ou de gênero em aplicações de reconhecimento facial ou na avaliação de empregos, empréstimos ou outras considerações. Um programa rotineiramente recomendava sentenças de prisão mais longas para negros do que para brancos com base no uso incorreto de dados de reincidência.
Mas e se em vez de perpetuar vieses prejudiciais, se a AI ajudasse a tomar decisões mais justas? Isso poderia eventualmente resultar em um mundo mais diversificado e inclusivo. E se, por exemplo, as máquinas inteligentes pudessem ajudar as organizações a reconhecer todos os candidatos dignos, evitando os costumeiros preconceitos ocultos que inviabilizam os candidatos que não se parecem ou soam como os que estão no poder ou que não têm as instituições “certas” listadas? Ou pudessem explicar as desigualdades que limitaram o acesso de minorias a hipotecas e outros empréstimos? Em outras palavras, e se os sistemas fossem ensinados a ignorar dados sobre raça, sexo, orientação sexual e outras características que não são relevantes para as decisões em mãos?
A AI pode fazer tudo isso, revelam Paul R. Daugherty, H. James Wilson e Rumman Chowdhury, na MIT Sloan. Segundo eles, isso é possível com a orientação de especialistas humanos que criam, treinam e refinam seus sistemas. Especificamente, as pessoas que trabalham com a tecnologia devem fazer um trabalho muito melhor de criar inclusão e diversidade no design de IA, usando os dados certos para treinar sistemas de inteligência artificial para serem inclusivos e pensando em papéis de gênero e diversidade ao desenvolver bots e outras aplicações que envolvem o público.
O desenvolvimento de software continua a ser de propriedade masculina – apenas cerca de um quarto dos cientistas da computação nos Estados Unidos são mulheres – e grupos raciais minoritários, incluindo negros e hispânicos, também estão sub-representados no trabalho de tecnologia. Grupos como Girls Who Code e AI4ALL foram fundados para ajudar a fechar essas lacunas. O Girls Who Code atingiu quase 90 mil meninas de várias origens em todos os 50 estados americanos e o AI4ALL visa especificamente meninas em comunidades minoritárias.
A pressão por controle de custos vem alterando a dinâmica das áreas de tecnologia nas…
O mercado brasileiro de fintechs passou por uma transformação no perfil dos investimentos em 2025.…
O avanço da inteligência artificial e o uso estratégico de dados vêm transformando a forma…
Por Ramon Ribeiro Quase metade do código produzido por assistentes de inteligência artificial contém vulnerabilidades…
Peça a um modelo de inteligência artificial que gere a imagem de uma cidade, sem…
O IT Forum apresenta, semanalmente, os novos executivos e os principais anúncios de contratações, promoções e mudanças…