IA cresce, mas 65% não sabem explicar decisões tomadas pela tecnologia

Apesar do aumento da adoção de ferramentas de inteligência artificial (IA), quase dois terços (65%) das organizações não conseguem explicar como as decisões ou previsões dos modelos que utilizam são feitas. O dado faz parte de um estudo produzido pela FICO, especialista em tecnologias preditivas, e tem como objetivo descobrir como a IA está sendo usada, e se de forma responsável.

O estudo – chamado “O estado da IA responsável: 2021” – foi feito com base em entrevistas com 100 líderes de grandes empresas globais, incluindo companhias brasileiras. E ela indicou que 39% dos membros de conselho (e 33% das equipes executivas) tem entendimento incompleto sobre ética da IA.

A maioria dos entrevistados (73%) afirmam que têm enfrentado dificuldades para obter suporte executivo para priorizar a ética e as práticas responsáveis de IA.

“[As empresas] não elevaram a importância de sua governança e da IA responsável para o nível da diretoria”, diz em comunicado Scott Zoldi, Chief Analytics Officer da FICO. “A liderança deve compreender essa questão e monitorar os modelos utilizados, de forma a garantir que as decisões sejam justas, transparentes e responsáveis”.

Critérios difusos

Cerca de metade (49%) dos executivos entrevistados relatou aumento nos recursos investidos em projetos de IA nos último ano. E apenas 39% afirmam que estão investindo em governança durante o processo de desenvolvimento, enquanto 33% dizem que estão prestando pouca atenção ao monitoramento e manutenção dos modelos em produção.

Não há consenso entre os executivos sobre quais devem ser as responsabilidades de uma empresa quando se trata de IA, de acordo com o estudo. A maioria dos entrevistados (55%) concorda que os sistemas de IA para ingestão de dados devem atender aos padrões éticos básicos e que os sistemas usados para operações de back-office também devem ser explicáveis.

Porém, quase metade dos entrevistados (43%) dizem que não têm responsabilidades além de cumprir a conformidade regulamentar para gerenciar eticamente os sistemas de IA. Apenas um quinto dos entrevistados (20%) monitora ativamente seus modelos de IA em termos de justiça e ética, enquanto somente 22% afirmam que sua organização tem um conselho para avaliar essas questões.

Um em cada três (33%) tem uma equipe de validação para avaliar os modelos recém-desenvolvidos e apenas 38% dizem que têm etapas de mitigação de viés de dados incorporadas aos processos de desenvolvimento.

Falta de processos

Em termos de visão de futuro, a grande maioria (90%) concorda que processos ineficientes para monitoramento de modelos representam uma barreira para a adoção de IA. E quase dois terços (63%) acreditam que a IA ética e a IA responsável se tornarão um elemento central da estratégia de sua organização dentro de dois anos.

“Líderes seniores e os conselhos precisam estar cientes dos riscos associados à tecnologia e das melhores práticas para mitigá-los de forma proativa. A IA tem o poder de transformar o mundo, mas como diz o ditado popular – quanto maior o poder, maior a responsabilidade”, diz Zoldi.

O estudo da FICO foi realizado entre fevereiro e março de 2021, com base em entrevistas com 100 líderes de empresas com receitas anuais acima de US$ 100 milhões. Todos os entrevistados possuíam cargos C-Level, incluindo vice-presidente de dados, vice-presidente de analíticos, vice-presidente de dados e analíticos e vice-presidente de IA.

É possível baixar o estudo nesse link.