IBM promete abrir a caixa-preta da Inteligência Artificial

Resultados de uma nova pesquisa do Institute for Business Value da IBM revelam que, enquanto 82% das empresas estão considerando implementações de IA, 60% ainda temem problemas de responsabilidade e compliance e 63% não possuem habilidades internamente para gerenciar com confiança a tecnologia.. Naseada nesses dados, a companhia apresentou hoje uma nova tecnologia que dá às empresas mais transparência nos modelos de Inteligência Artificial (IA). Novos controles de detecção e mitigação de vieses na nuvem respondem à necessidade de mais transparência na tomada de decisões.

O novo serviço, disponível na nuvem, com novos recursos de confiança e transparência, dá visibilidade sobre os parâmetros que a IA usa para chegar às recomendações e detecta automaticamente vieses no momento em que os sistemas estão em execução. 

Para apoiar a adoção de projetos em IA, a companhia irá disponibilizar para a comunidade open source ferramentas e materiais de educação para incentivar a colaboração global em torno do gerenciamento do viés na IA.

 “É hora de traduzir princípios em prática. Estamos dando nova transparência e controle às empresas que usam inteligência artificial e enfrentam o maior risco potencial de qualquer tomada de decisão incorreta”, Beth Smith, General Manager para Watson AI na IBM.

O serviço é executado na IBM Cloud e ajuda as organizações a gerenciar sistemas de IA de uma ampla variedade de players do setor. O IBM Services também trabalhará com as empresas para ajudá-las a aproveitar o novo serviço de software.

Como a tecnologia funciona
Os novos recursos de Confiança e Transparência da IBM trabalham com modelos construídos a partir de uma grande variedade de estruturas de Machine Learning e ambientes construídos com o sistemas como o Watson, Tensorflow, SparkML, AWS SageMaker e AzureM. Isso significa que as organizações podem aproveitar esses novos controles para a maioria dos códigos de IA e demais plataformas utilizadas por outras empresas que atuam neste mercado.

O serviço de software pode ser programado para monitorar os fatores de decisão de qualquer workflow de negócio, podendo ser personalizado para o uso específico das organizações. Além disso, ele é totalmente automatizado e explica a tomada de decisões ao longo da execução. É importante ressaltar que também recomenda automaticamente que dados sejam adicionados ao modelo para ajudar a atenuar qualquer tendência de viés detectada.

As explicações são fornecidas em termos fáceis de entender, mostrando quais fatores ajustaram a decisão em uma direção versus outra, apontando a confiança na recomendação e os fatores por trás dessa confiança. Além disso, os registros de precisão, desempenho, equidade do modelo, e a linhagem dos sistemas de inteligência artificial são rastreados e direcionados para atendimento ao cliente, por motivos regulatórios ou de conformidade – tais como o cumprimento da GDPR.

Todos esses recursos são acessados por meio de painéis de controle visuais, dando aos usuários de negócios a capacidade sem precedentes para compreender, explicar e gerenciar decisões indicadas por IA e reduzir a dependência de habilidades específicas desta tecnologia.

A IBM também está disponibilizando novos serviços de consultoria para ajudar as empresas a projetar processos de negócios e interfaces entre inteligência artificial e humanos para minimizar ainda mais o impacto do viés na tomada de decisões.

Capacitando a comunidade de código aberto para construir uma IA mais justa
Além disso, a IBM Research está disponibilizando para a comunidade de código aberto o toolkit de ferramentas AI Fairness 360, que consiste em uma biblioteca de novos algoritmos, códigos e tutoriais que fornecerá aos acadêmicos, pesquisadores e cientistas de dados ferramentas e conhecimento para integrar detecção de preconceito, enquanto constroem e implementam modelos de Machine Learning. 

Embora outros recursos de código aberto tenham se concentrado apenas na verificação de viés nos dados de treinamento, o toolkit de ferramentas IBM AI Fairness 360 criado pela IBM Research ajudará a verificar e atenuar o viés nos modelos de IA. Com isso, convidamos a comunidade global de código aberto a trabalhar em conjunto para promover a ciência e facilitar a abordagem do viés na IA. Mais detalhes sobre a tecnologia podem ser lidos neste link.

Estudo revela prioridades e obstáculos para a implementação da IA convencional
De acordo com o IBM Institute for Business Value AI 2018 Report, há uma mudança significativa na forma como os líderes de negócios analisam o potencial da IA para impulsionar o valor comercial e o crescimento da receita.

Entre as principais descobertas estão que:

– 82% das empresas e 93% das empresas de alto desempenho estão considerando ou avançando na adoção da IA com foco na geração de receita.

– 60% temem questões relacionadas a confiança e 63% não possuem as habilidades para aproveitar o potencial da IA.

– Os CEOs percebem o maior valor da adoção da IA em TI, segurança da informação, inovação, atendimento ao cliente e gerenciamento de riscos.

– A adoção da IA é maior e provavelmente acelerará mais rapidamente em setores mais digitalizados, como os serviços financeiros.

O estudo ouviu cinco mil executivos sênior de empresas de diferentes portes.