SAS: desafios do gerenciamento de riscos na era de IA generativa

Desde o ano passado, o avanço de inteligência artificial (IA) generativa tem impactado profundamente os mais diversos segmentos da economia mundial. O mercado financeiro, em especial em suas ações cotidianas de gerenciamento de riscos, não é uma exceção.

Para discutir os novos desafios que a era da IA generativa tem trazido para esse segmento, o SAS, empresa de analytics de IA, promoveu um encontro nesta quarta-feira (06), em São Paulo, com Terisa Roberts, diretora global de Lead Risk Modeling & Decisioning da empresa.

Autora do livro “Risk Modeling: Practical Applications of Artificial Intelligence, Machine Learning, and Deep Learning”, que aborda a utilização de IA em problemas cotidianos de gerenciamento de risco, a executiva trouxe insights sobre como empresas podem navegar pelas transformações trazidas pela IA para minimizar riscos para suas organizações.

“A gestão de risco não é mais um exercício de compliance. A distância de integração entre o front office e o back office para a avaliação de risco está se tornando mais curta”, avaliou a executiva. “Por isso, uma boa gestão de risco tem se tornado um imperativo de negócio”, pontuou.

Leia também: SAS integrará ação dos Estados Unidos dedicada à segurança de IA

Segundo Terisa, a gestão de risco no setor financeiro está sendo impactada por uma “segunda onda” de transformação digital, que tem a IA como uma de suas motivadoras. Empresas de serviços financeiros estão também operando em um mercado “dinâmico” e de “alta volatilidade” – pressionadas por altos juros, ameaças de cibersegurança e novas regulamentações.

À equação de desafios, se somam ainda os clientes, que têm uma crescente demanda por hiper personalização de serviços. “Isso se resume a uma necessidade por agilidade. Clientes estão com uma tolerância muito baixa para lentidão de decisões”, explicou. “Quando tomamos decisões de risco, o que costumava levar meses ou semanas, como para uma aprovação de crédito, agora está se movendo para minutos ou segundo.”

Na avaliação da executiva, bancos asiáticos como o WeBank, subsidiária da Tencent, são bons exemplos de instituições que estão operando de forma eficiente nesse cenário. Diferente de bancos nascidos em agências, com operações relacionais e manuais, esses bancos são nativos digitais e contam com estruturas mais ágeis, escaláveis e eficientes em custos.

O caminho para atingir esse objetivo, de acordo com a executiva, passa pelos dados, mas também por uma infraestrutura capaz de armazená-los e processá-los em grandes volumes e pelo apoio de ferramentas de IA e aprendizado de máquina. “A IA generativa tem um potencial transformativo massivo. Nós vemos que ela pode ser uma multiplicadora de força no gerenciamento de riscos”, disse.
Ao lado dessas oportunidades, no entanto, estão alguns riscos e responsabilidades associados. Um deles está relacionado aos vieses históricos que podem estar presentes em grandes modelos de linguagem (LLMs), incluindo vieses problemáticos de gênero e/ou raciais. Terisa alerta para o risco destes modelos, especialmente em ofertas do tipo “caixa preta”.

“Nós precisamos gerenciar os prompts – tudo o que entra nos algoritmos e também o que sai dos algoritmos – para usar a IA generativa de forma produtiva. A privacidade de dados e violações de propriedades intelectuais são outros riscos que precisam ser gerenciados”, completou.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!