Gartner: 5 riscos ocultos da IA generativa que os CIOs precisam resolver

Alguns riscos críticos no uso de inteligência artificial generativa pelas empresas podem estar sendo negligenciados pelos executivos de tecnologia. E os CIOs deveriam não só se preocupar, mas agir para garantir a geração de valor com a IA e evitar falhas em projetos, alerta o Gartner em comunicado divulgado recentemente.

“As tecnologias e técnicas de IA generativa estão evoluindo a um ritmo sem precedentes, acompanhado apenas pelo hype que as cerca, o que torna desafiador para os CIOs navegar nesse cenário dinâmico”, diz em comunicado Arun Chandrasekaran, vice-presidente analista emérito do Gartner.

Embora as organizações frequentemente se concentrem em desafios imediatos, como gerar valor, segurança da informação e disponibilidade de dados, elas podem estar ignorando pontos de “segunda ou terceira ordem” muitas vezes não visíveis inicialmente. Por exemplo, a chamada shadow AI, a dívida técnica, a erosão de habilidades, as demandas de soberania de dados, os problemas de interoperabilidade e as dependências de fornecedores.

O Gartner prevê que, até 2030, esses riscos ocultos criarão uma divisão entre empresas que escalam IA de forma segura e aquelas que ficam “presas, ultrapassadas ou desestabilizadas”. Os pontos de atenção, segundo o Gartner, são os seguintes:

‘Shadow AI’

Uma pesquisa do Gartner com 302 líderes em segurança cibernética, realizada entre março e maio de 2025, revelou que 69% das organizações suspeitam ou têm evidências de que os funcionários estão usando IA generativa pública não homologada. O problema é que até 2030 mais de 40% sofrerão incidentes de segurança ou conformidade relacionados à “shadow AI” não autorizada, diz a consultoria.

“Para endereçar esses riscos, os CIOs devem definir políticas claras para o uso de ferramentas de IA em toda a empresa, realizar auditorias regulares para atividades de ‘shadow AI’ e incorporar a avaliação de riscos da IA generativa em processos de avaliação de software como serviço (SaaS)”, diz Chandrasekaran.

Dívida técnica

O Gartner prevê que, até 2030, 50% das organizações enfrentarão atrasos nas atualizações de IA e/ou aumento dos custos de manutenção devido à dívida técnica não gerenciada. Segundo o VP, corrigir ou substituir artefatos gerados por IA, como código, conteúdo e design, pode ter um custo “punitivamente alto” e atrapalhar o retorno sobre o investimento da tecnologia.

“Ao estabelecer padrões claros para revisar e documentar ativos gerados por IA e rastrear métricas de dívida técnica em painéis de TI, as empresas podem tomar medidas proativas para evitar interrupções dispendiosas”, diz Chandrasekaran.

Soberania de dados e IA

O Gartner prevê que, até 2028, 65% dos governos em todo o mundo introduzirão alguns requisitos de soberania tecnológica para melhorar a independência e proteger contra interferências regulatórias extraterritoriais. As restrições podem retardar implementações de IA, aumentar o custo total de propriedade (TCO) e gerar resultados abaixo do esperado.

Os CIOs devem incorporar a soberania dos dados em suas estratégias de IA desde o início, envolvendo as equipes jurídicas e de conformidade desde o princípio e priorizando os fornecedores que atendam aos seus requisitos de soberania de dados e IA, diz o Gartner.

Redução de habilidades

A dependência excessiva da IA pode corroer a expertise, o julgamento e o conhecimento tácito críticos humanos que não são facilmente codificados ou substituíveis. Essa erosão ocorre gradualmente e muitas vezes passa despercebida, de modo que os CIOs podem não reconhecer o risco até que a organização tenha dificuldade para funcionar sem a IA.

“Para evitar a perda gradual da memória e da capacidade da empresa, as organizações devem identificar onde o julgamento e a habilidade humanas são essenciais, projetando soluções de IA para complementar, e não substituir, essas habilidades”, diz Chandrasekaran.

Dependência e interoperabilidade

Organizações ansiosas para usar IA generativa em escala geralmente escolhem um único fornecedor por questão de rapidez e simplicidade, diz o Gartner, mais isso gera uma “profunda dependência”. É uma questão que pode afetar agilidade técnica e até poder de negociação no futuro em relação a preços, termos ou níveis de serviço.

“Priorizar padrões abertos, APIs abertas e arquiteturas modulares no design de stack de IA ajuda as empresas a evitarem a dependência de fornecedores”, alerta o VP do Gartner. “Além disso, os CIOs devem tornar a interoperabilidade um padrão em pilotos e avaliações de IA generativa.”

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!