Samsung proíbe uso de IA por preocupação com vazamento de dados

A Samsung proibiu o uso de ferramentas de IA generativas por funcionários, como o ChatGPT, em uma tentativa de interromper a transmissão de dados internos confidenciais para servidores externos.

A gigante eletrônica sul-coreana emitiu um memorando para uma divisão importante da empresa, notificando os funcionários a não usar ferramentas de IA, de acordo com uma matéria da Bloomberg, que alega ter tido acesso ao memorando. A matéria não informa qual divisão recebeu o memorando.

Além disso, os funcionários que usam o ChatGPT e outras ferramentas de IA em dispositivos pessoais foram avisados para não fazer upload de dados relacionados à empresa ou outras informações que possam comprometer a propriedade intelectual da empresa. Fazer isso, disse o memorando, pode resultar na rescisão do contrato de trabalho.

Leia também: IBM planeja usar IA para substituir 30% dos empregos de back office

O memorando expressou preocupação com a entrada de dados como código confidencial em plataformas de IA. A preocupação é que qualquer coisa digitada em uma ferramenta de IA como o ChatGPT resida em servidores externos, o que torna muito difícil recuperá-los e excluí-los, além de torná-los potencialmente acessíveis a outros usuários.

“O interesse em plataformas de IA generativas, como o ChatGPT, vem crescendo interna e externamente”, disse o memorando. “Embora esse interesse se concentre na utilidade e eficiência dessas plataformas, também há preocupações crescentes sobre os riscos de segurança apresentados pela IA generativa”.

O memorando vem na sequência de uma notificação de março da OpenAI, criadora do ChatGPT, apoiada pela Microsoft, de que um bug em uma biblioteca de código aberto permitiu que alguns usuários do ChatGPT vissem títulos do histórico de bate-papo de outros usuários ativos.

A proibição da ferramenta pela Samsung também ocorre um mês após uma pesquisa interna realizada para entender os riscos de segurança associados à IA. Cerca de 65% dos funcionários entrevistados disseram que o ChatGPT representava sérias ameaças à segurança. Além disso, em abril, os engenheiros da Samsung “vazaram acidentalmente o código-fonte interno ao carregá-lo no ChatGPT”, de acordo com o memorando. O memorando, no entanto, não revelou qual era o código com precisão e não detalhou se o código foi simplesmente digitado no ChatGPT ou se também foi inspecionado por alguém externo à Samsung.

Legisladores devem regular a IA

Temendo o potencial do ChatGPT e de outros sistemas de IA para vazar dados privados e espalhar informações falsas, os reguladores começaram a considerar restrições ao seu uso. O Parlamento Europeu, por exemplo, está a dias de finalizar uma Lei de IA, e o Conselho Europeu de Proteção de Dados (EDPB) está reunindo uma força-tarefa de IA, com foco no ChatGPT, para examinar os perigos potenciais da IA.

No mês passado, a Itália impôs restrições de privacidade ao ChatGPT e proibiu temporariamente sua operação no país. A OpenAI concordou em fazer as alterações solicitadas pelos reguladores italianos, depois disso, ela relançou o serviço.

As empresas que oferecem ferramentas de IA estão começando a responder às preocupações sobre privacidade e vazamento de dados. A OpenAI anunciou no mês passado que permitiria aos usuários desativar o recurso de histórico de bate-papo do ChatGPT. O recurso “histórico desativado” significa que as conversas marcadas como tal não serão usadas para treinar os modelos subjacentes da OpenAI e não serão exibidas na barra lateral do histórico, disse a empresa.

Veja mais: OpenAI implementa controles de privacidade de dados no ChatGPT

A Samsung, por sua vez, está trabalhando em ferramentas internas de IA para traduzir e resumir documentos, bem como para desenvolvimento de software, de acordo com relatos da mídia. Também está trabalhando em maneiras de bloquear o upload de informações confidenciais da empresa para serviços externos.

“A sede está revisando as medidas de segurança para criar um ambiente seguro para se usar com segurança a IA generativa, para aumentar a produtividade e a eficiência dos funcionários”, disse o memorando. “No entanto, até que essas medidas estejam preparadas, estamos restringindo temporariamente o uso de IA generativa”.

Com esse movimento, a Samsung se junta ao crescente grupo de empresas que exercem alguma forma de restrição a essa tecnologia disruptiva. Entre elas estão os bancos de Wall Street, incluindo JPMorgan Chase, Bank of America e CitiGroup.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!