Agente de IA humanizado traz exposição maior a ataques de engenharia social, aponta F5

Segundo relatório qualitativo da F5 Labs, ao sofrerem bullying, agentes de IA com personalidade podem ser levados a agir contra políticas de segurança

Publicado:

Leitura 4 minutos

Imagem composta por dois retratos posicionados lado a lado, separados por uma faixa vertical clara. À esquerda, uma pessoa em pé, de frente para a câmera, com cabelos curtos grisalhos, vestindo blazer escuro sobre camiseta escura, com os braços cruzados diante do corpo. À direita, outra pessoa em pé, também de frente para a câmera, com cabelos curtos grisalhos, barba aparada e óculos, vestindo blazer azul escuro sobre camiseta escura. Ambas estão em ambiente interno com fundo padronizado em tons de marrom, formando uma grade geométrica. A iluminação é controlada e direcionada, destacando as pessoas em primeiro plano e criando um retrato de aparência profissional. (agentes)
À esquerda, Roberto Ricossa, vice-presidente da F5 América Latina e, à direita, Hilmar Becker, diretor regional da F5 Brasil (Imagem: divulgação)

Em 2026, as empresas que adotarem agentes de IA em seus canais de comunicação enfrentarão mais uma contradição. Enquanto o Zendesk CX Trends 2026 aponta que 87% dos consumidores preferem experiências de inteligência artificial (IA) personalizadas, um estudo do F5 Labs mostrou que quanto mais humanizado, mais vulnerável a quebrar políticas de segurança estará o agente. 

O perigo, segundo o relatório, está na combinação entre os modelos desenvolvidos e uma nova prática dos grupos criminosos. De um lado, as organizações têm criado agentes com personas a partir do modelo mais adotado, o OCEAN, que reúne cinco traços de personalidade: abertura (openness), conscienciosidade (conscientiousness), extroversão (extraversion), amabilidade (agreeableness) e neuroticismo (neuroticism). De outro, grupos maliciosos se aproveitam da maleabilidade da nova IA e utilizam um agente conversacional para se passar por um cliente e coagir a IA da empresa a ceder informações pessoais e dados sensíveis de outra pessoa.

As melhores notícias de tecnologia B2B
Acompanhe todas as novidades diretamente na sua caixa de entrada

“O que estamos presenciando é uma evolução dos agentes de IA, que agora conseguem simulam uma voz e reações humanas para realizar ataques de engenharia social contra outro agente”, explica Roberto Ricossa, vice-presidente da F5 América Latina.

Segundo o executivo, o ataque acontece por meio de técnicas de neurolinguística e psicologia social, na qual o agente criminoso mimifica reações humanas e realiza uma espécie de “bullying” para criar brechas no raciocínio da tecnologia da empresa, como injeção de prompt, contexto corrompido ou desvio do plano. A investida é chamada de “Sequestro de Objetivos do Agente”.

“Apesar de ser inteligente, a IA não pensa. E ela acaba ficando vulnerável a raciocínios inseguros e fora de conformidade que são disparados contra ela em várias etapas. Isso abre uma oportunidade enorme para os grupos criminosos extraírem informações, fazerem compras no nome de alguém, pedirem descontos que a empresa não está autorizada a dar, são muitas possibilidades”, afirma. 

Leia mais: Médias empresas viram principal alvo de ransomware e precisam se preparar

Mesmo com o alarme, a F5 diz que o estudo foi feito com bases qualitativas e não quantitativas. Portanto, não é possível determinar o quanto a prática tem sido utilizada por criminosos. Ainda assim, a companhia tem investido em auxiliar seus clientes na proteção contra este tipo de investida, em soluções como o F5 AI Guardrails, que usa a análise semântica, de contexto e de intenção para validar cada interação com o Agente de IA. 

“Ele monitora a comunicação dentro das políticas e das regras de segurança da empresa, porque uma coisa é o trato e outra é a semântica. O que estamos propondo é ter o prompt examinado dentro do universo de palavras de cada organização e é uma necessidade que vai crescer, assim como quando a nuvem explodiu. Todo mundo achava que colocar seus dados na nuvem os tornaria automaticamente protegidos, mas precisa contratar a segurança para esse ambiente também“, explica Hilmar Becker, diretor regional da F5 Brasil.

No caso do Brasil, a estratégia para este ano é ofertar este tipo de serviço para o mercado financeiro, além de buscar crescer sua entrada no varejo e no governo. O foco foi desenhado a partir de uma leitura de cenário no qual o País aparece como um grande desenvolvedor de software, o que tornaria a demanda por proteção maior. “O Brasil tem um sistema financeiro muito avançado e, entre os nossos clientes, 75% deles já estavam implementando alguma solução de IA há cerca de um ano e meio. Por isso vemos que existe muito mercado aqui para explorar”, afirma Ricossa.

Para 2026, o executivo acredita que os agentes de IA se consolidarão como o cérebro e os braços da IA nas organizações. Com a estimativa de que, até 2035, 30% dos gastos com software corporativo venham do uso de agentes de IA, segundo a Mckinsey, a expectativa para os próximos anos é otimista, em relação a expansão dos negócios no Brasil, considerado um early adopter. “O agente de IA é o elemento que permite que a IA generativa realize, de A a Z, ações de negócios como atender um cliente, vender um produto, resolver uma demanda de suporte etc. Essa autonomia torna a proteção deste ativo algo crítico para os negócios”, enfatizou o vice-presidente da F5 América Latina.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!

Sobre o Autor

Bella Winckler Matrone é repórter do IT Forum. Formada em jornalismo pela PUC-Campinas, desde 2018 se dedica a pautas ligadas à temas ESG, com forte ênfase ambiental. Possui passagens pela TV Record e assessorias de imprensa de instituições como a CUFA (Central Única das Favelas) e a Garena, com o jogo Free Fire. Atua no IT Forum, cobrindo tecnologia e inovação, desde 2024.

Ver publicações deste autor

Notícias relacionadas

Ver mais Seta para direita