Especialista cita 5 princípios éticos de AI no mundo dos negócios

A adoção de aplicações de inteligência artificial (AI) no mundo dos negócios avança a cada dia. Ao mesmo tempo, alguns princípios que assegurem a ética e a responsabilidade no uso dessas novas tecnologias também são necessários.

O alerta é de Kriti Sharma, vice-presidente global de bots e inteligência artificial da Sage. A executiva, de apenas 29 anos de idade, recentemente foi escolhida para integrar a lista dos “30 abaixo dos 30” da revista Forbes.

Kriti e a Sage estabeleceram cinco princípios, que passam a nortear toda atuação da companhia nesse segmento. Ela explica que o estabelecimento de critérios claros nesse sentido mostra-se fundamental para proteger usuários e garantir segurança e confiabilidade dessas ferramentas. É ainda um caminho para que essas soluções sejam inclusivas e expressem a diversidade de seus usuários.

“Desenvolver chatbots e inteligência artificial que sejam úteis para os nossos clientes é a parte fácil. São muitos os questionamentos que emergem com o advento da inteligência artificial. Por isso, desenvolvemos nossa ação nesse segmento com base em uma série de valores. São esses princípios essenciais que, na nossa visão, contribuem para assegurar que nossos produtos serão seguros e éticos”, explica.

Os cinco princípios que norteiam mundialmente a estratégia da Sage para AI também guiam a atuação da companhia no Brasil. No país, a empresa criou o Sage Labs, uma equipe encarregada de pensar em maneiras de empregar novas tecnologias em software que os clientes usam todos os dias. “Alguns dos funcionários são cientistas de dados e usam várias ferramentas colaborativas para entender como podemos servir melhor nossos clientes. Esta equipe também colabora para manter os nossos colegas atualizados com novos desenvolvimentos de tecnologia e como eles podem ser aplicados em nossos negócios”, esclarece David Pereira, VP de Product Engineering na Sage Brasil.

A Ética do Código: 5 princípios éticos para desenvolver inteligência artificial no mundo dos negócios.

1. AI deve refletir a diversidade de seus usuários.
Precisamos criar inteligência artificial que seja diversa em sua origem. Como comunidade industrial e tecnológica, temos de desenvolver mecanismos efetivos para barrar o preconceito e qualquer sentimento adverso que possam ser assimilados pela AI, de forma a assegurar que ela não irá perpetuar estereótipos. A não ser que tenhamos equipes, bases de dados e design cuja natureza seja a diversidade, estamos sob risco de repetir a desigualdade que marcou revoluções passadas.

2. AI deve ser responsável, assim como seus usuários
Nós aprendemos que os usuários estabelecem um relacionamento com a AI e começam a confiar na mesma após algumas poucas interações. Com a confiança, vem a responsabilidade. A AI precisa ser responsabilizada por suas ações e decisões, como se fosse um ser humano. Não se pode permitir que a tecnologia fique inteligente ao ponto de não ser responsável. Não aceitamos esse tipo de comportamento de outras profissões especializadas. Então, por que a tecnologia deveria ser a exceção?

3. Recompense a AI por “mostrar o seu funcionamento”
Qualquer sistema de AI que aprenda com exemplos ruins pode acabar se tornando socialmente inadequado – temos que lembrar que a maior parte da IA de hoje não tem conhecimento do que está dizendo. Somente a ampla audição e a aprendizagem de diversas bases de dados resolverão isso. Uma das abordagens é desenvolver um mecanismo de recompensa ao treinar a AI. As medidas de aprendizagem de reforço devem ser desenvolvidas não apenas com base no que AI ou robôs fazem para alcançar um resultado, mas também sobre como a AI e robôs se alinham com os valores humanos para atingir esse resultado particular.

4. O jogo da AI deve ser igual para todos
Tecnologia de voz e robôs sociais fornecem novas soluções de acesso, especificamente para usuários desfavorecidos por problemas de visão, dislexia e mobilidade limitada. Nossa comunidade empresarial tecnológica deve acelerar o desenvolvimento desses recursos a fim de oferecer condições igualitárias e ampliar os talentos que temos, tanto nas profissões da área contábil quanto da tecnológica.

5. AI substitui. Mas também deve criar.
O melhor caso de uso da AI é automação – atendimento ao cliente, fluxo de trabalho e processos baseados em regras são os panoramas perfeitos nos quais a AI se revela. A AI aprende mais rápido que os humanos e é muito boa em tarefas repetitivas, do dia-a-dia. E, no longo prazo, é mais barata que os humanos. Haverá novas oportunidades criadas pela robotização de tarefas e temos que treinar as pessoas para essa perspectiva – permitindo que elas possam se concentrar naquilo em que são boas, construindo relacionamentos e cuidando dos clientes. Sem jamais esquecer a necessidade de empatia humana nas profissões centrais como aplicação da lei, cuidados, proteção e complexas tomadas de decisão.