As 5 maiores dores da IA generativa a partir de agora, segundo os conselheiros da Qlik

A “próxima fase” da inteligência artificial será moldada por forças que muitas organizações ainda subestimam, especialmente a avaliação dos modelos disponíveis e a prestação de contas sobre cada decisão autônoma. Os ambientes regulatórios fragmentados e a qualidade do raciocínio dos modelos com base nos dados disponíveis também aparecem como riscos ocultos. Ao menos é o que alertam cinco membros do Conselho de IA da Qlik.

“A IA está entrando em uma fase mais difícil e com mais consequências”, alerta em comunicado Mike Capone, CEO da Qlik. “O acesso a modelos poderosos é generalizado. A questão mais difícil é se a IA consegue operar dentro das condições reais de um negócio, com dados confiáveis, raciocínio responsável, exigências regulatórias em evolução e a flexibilidade necessária para continuar se adaptando conforme o mercado muda.”

Segundo os especialistas, as empresas precisarão de sistemas que resistam ao escrutínio, operem com contexto confiável, incorporem modelos melhores conforme surjam e permaneçam úteis mesmo com mudanças nas condições de negócios, regulatórias e técnicas. A própria empresa tem considerado esses elementos para desenvolver soluções, o que no caso da Qlik significa maior esforço em “analytics agêntico”.

Leia também: Norte do Brasil aposta em infraestrutura própria para sustentar serviços públicos digitais

Cinco pontos de vista

“Muitas organizações ainda tratam a governança como um conjunto de documentos. Essa abordagem falhará sob pressão real. Conforme a IA se aproxima mais das decisões e das ações, a confiança dependerá de evidências. A avaliação precisa ocorrer de forma contínua, em condições reais, com sinais claros de quando os sistemas são confiáveis e quando não são.”

Rumman Chowdhury, líder em IA responsável, engenheira, auditora e investidora

“A próxima divisão da IA será moldada por poder, acesso e dependência. A inteligência está sendo industrializada, concentrada e contestada ao mesmo tempo. Os líderes precisam pensar além das decisões sobre ferramentas e se concentrar em saber se suas organizações foram estruturadas para se adaptar conforme a configuração da economia da IA se transforma.”

Nina Schick, autora, conselheira e fundadora de uma consultoria de IA

“A fragmentação regulatória está se tornando uma realidade operacional para empresas globais. Diferentes mercados estão avançando em velocidades distintas, com expectativas diferentes em relação à transparência, impacto no trabalho, supervisão e uso aceitável. As empresas que conseguirem escalar com eficácia tratarão coordenação e adaptabilidade como capacidades centrais desde o início.”

Kelly Forbes, cofundadora e diretora-executiva do AI Asia Pacific Institute

“Um resultado fluente ainda pode refletir um raciocínio superficial. Os sistemas que importam nos negócios serão aqueles capazes de trabalhar com estrutura, relações e restrições. É o contexto que torna a inteligência útil dentro de uma organização real.”

Michael Bronstein, professor de inteligência artificial da DeepMind na Universidade de Oxford

“A camada de modelos continuará mudando mais rápido do que a maioria dos ciclos de planejamento corporativo. As empresas devem partir do princípio de que novos modelos, novos assistentes e novos padrões de orquestração continuarão surgindo. A escolha mais duradoura é permanecer aberto, governado e pronto para adotar o que funciona sem reformular todo o sistema a cada vez.”

Mark Relph, diretor de go-to-market (GTM) de dados e IA na AWS

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!