IA generativa cria novos riscos para companhias

lnteligência Artificial generativa é, naturalmente, um dos tópicos mais abordados no Cisco Live 2023, assim como em todo o resto do mundo. Em um painel no segundo dia de evento, Vijoy Pandey, vice-presidente sênior da Outshift by Cisco, a tecnologia deve ser discutida em torno da privacidade.

“Trata-se de garantir a transparência e nenhum viés no sistema. Mas eu acho que os grandes modelos de linguagem realmente criam alguns riscos novos e interessantes. Acho que, para nós, tudo se resume em realmente pensar na confiança de nossos clientes em seus dados. Portanto, estamos realmente pensando em filtragem de conteúdo, o que acontece em nossas ferramentas internas e queremos garantir que estamos protegendo os dados do cliente em primeira instância”, comenta ele.

Inclusive, a propriedade intelectual é uma questão e um lugar sem respostas. Os executivos foram provocados sobre, ao pensar sobre um grande modelo de linguagem, você perde as proteções? Você não tem mais direitos de propriedade intelectual em seu código?

“Cada vez mais, haverá advogados na sala porque este é um lugar onde há mais colaboração entre a engenharia e a equipe jurídica. Essa tem sido uma parceria incrível. Da maneira que penso sobre o problema, basta olhar para os casos de uso e a difusão da IA generativa e todos esses pilares de propósito geral no produto e na administração do negócio”, diz Liz Cetoni, gerente geral de aplicações e Chief Strategy Officer da Cisco.

Sobre o uso de IA pela Cisco, a executiva afirma que, ainda que a IA permita entender melhor os recursos e funcionalidades de produtos e serviços, ainda é preciso manter o foco em entender melhor os resultados do cliente e quais são as suas prioridades. Com base nisso, usar a IA para entregar a melhor experiência.

Leia mais: EXCLUSIVO: Tecnologia e cultura pautam trabalho híbrido, diz Jono Luk, VP de Webex

Há, também, uma questão de custo no uso de IA em ferramentas tecnológicas. “Se você pegar todos os serviços e adicionar IA, eventualmente a economia funcionará quando você tiver que aumentar o preço do seu produto ou aumentar uma certa quantidade de volume do produto onde você pode realmente compensar. Mas não pode ser que seja totalmente gratuito para todos os recursos”, frisa Jeetu Patel, EVP e diretor geral de segurança e colaboração da Cisco.

Além do custo, alerta Vijoy, está a consistência sobre o que fazer para garantir que, com o mesmo prompt, não haja cinco respostas diferentes ou em cinco momentos diferentes. Existe a preocupação com as informações, para que não haja “alucinações” na ferramenta.

“Quando estávamos em nosso conselho consultivo de clientes globais, ouvíamos repetidamente exatamente essa pergunta, como o quanto devemos confiar nisso? Quanto devemos integrá-lo em nossas ferramentas? Todo mundo está trabalhando nisso? Acho que todos nós juntos gostamos de algumas coisas quando se trata de transparência e responsabilidade”, confidencializa Liz sobre o atual mercado de IA.

Portanto, diz ela, é essencial ter conversas diretas com os clientes sobre exatamente onde a Cisco está usando IA, como estão usando IA e, em seguida, “sendo realmente claros sobre coisas como aparência, explicando que estamos treinando em dados sintéticos e dados adquiridos que são disponíveis e obtidos de forma adequada e não estamos usando os dados do cliente para isso, é a chave.”

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!

*a jornalista viajou para Las Vegas a convite da Cisco