Steve Wozniak: tecnologias como ChatGPT podem ameaçar a todos nós

O cofundador da Apple, Steve Wozniak, tem circulado pela mídia para discutir os perigos da inteligência artificial (IA) generativa, alertando as pessoas para terem cuidado com seus impactos negativos. Falando à BBC e à Fox News, ele enfatizou que a IA pode fazer uso indevido de dados pessoais e levantou preocupações de que poderia ajudar os golpistas a gerar golpes ainda mais eficazes, desde fraude de identidade a phishing, quebra de senhas e muito mais.

IA coloca um spammer em ação

“Estamos recebendo tanto spam, coisas tentando controlar nossas contas e senhas, tentando nos enganar”, disse ele.

(Esta é uma preocupação também levantada pela presidente da Federal Trade Commission, Kina Khan)

Leia também: Construir um clone digital com IA generativa — uma boa ou má ideia?

Steve Wozniak expressou preocupação de que tecnologias como o ChatGPT possam ser usadas para criar e-mails fraudulentos realmente convincentes, por exemplo. Embora ele seja ambivalente no sentido de ver as vantagens que a tecnologia pode oferecer, ele também teme que o uso indevido dessas ferramentas poderosas possa se tornar uma ameaça real nas mãos de pessoas más.

“A IA é tão inteligente que está aberta aos jogadores ruins, aqueles que querem enganar você sobre quem são”, alertou.

Um perigo para os negócios

Os pesquisadores de segurança estão igualmente preocupados. Nos negócios, 53% dos tomadores de decisão acreditam que a IA ajudará os invasores a criar golpes de e-mail mais convincentes. Mais recentemente, o BlackBerry alertou que um ataque bem-sucedido creditado ao ChatGPT surgirá nos próximos 12 meses.

Steve Wozniak foi signatário de uma carta aberta assinada por mais de mil nomes pesquisadores da tecnologia, alertando sobre a necessidade de ir devagar no desenvolvimento da IA. Essa carta pedia aos laboratórios de IA que interrompessem o treinamento em sistemas mais poderosos que o GPT-4 por pelo menos 6 meses.

Mesmo assim, Steve Wozniak também alertou contra uma reação instintiva ao medo implícito: “Devemos ser realmente objetivos”, disse ele no programa da Fox News, Your World with Neil Cavuto. “Onde estão os pontos de perigo?”

Veja também: Slack GPT traz IA generativa nativa para aplicativo de chat

A petição alertou contra alguns desses pontos: “Os sistemas de IA contemporâneos estão se tornando competitivos para humanos em tarefas gerais, e devemos nos perguntar: ‘Devemos deixar as máquinas inundarem nossos canais de informação com propaganda e falsidade?’”

Também vimos casos em que o uso de modelos de IA generativa levou à divulgação de segredos de negócios, gerando alertas de segurança de agências de inteligência.

Uma ameaça existencial?

A visão de Woz não é um aviso solitário. Geoffrey Hinton, o chamado padrinho da IA, tem uma opinião semelhante e recentemente deixou de trabalhar no Google para poder alertar sobre os perigos da IA. Hinton vê a IA substituindo trabalhadores humanos em grande escala, alertando que o impacto disso pode ameaçar a estabilidade e potencialmente levar à extinção.

Como outros especialistas em tecnologia, Steve Wozniak argumenta que a indústria e o governo devem identificar os pontos de perigo e agir agora para minimizar os riscos.

Apontando para o que sabemos agora sobre os riscos da mídia social, ele disse: “E se tivéssemos apenas nos sentado e pensado sobre isso antes da chegada da Web social e criado estruturas para ajudar a gerenciar e minimizar esses riscos?

Os governos se movem lentamente

Muitos governos estão tentando descobrir se as ferramentas de IA precisam ser regulamentadas e como, mas é improvável que esse processo acompanhe a evolução da IA. A administração Biden anunciou recentemente um conjunto voluntário de regras de IA destinadas a lidar com segurança e privacidade e iniciar a discussão sobre a ameaça real e existencial das tecnologias de IA, incluindo o ChatGPT.

“A IA é uma das tecnologias mais poderosas do nosso tempo, mas, para aproveitar as oportunidades que ela apresenta, devemos primeiro mitigar seus riscos”, afirmou a Casa Branca em comunicado. “O Presidente Biden deixou claro que, quando se trata de IA, devemos colocar as pessoas e as comunidades no centro, apoiando a inovação responsável que serve ao bem público, protegendo nossa sociedade, segurança e economia”.

No Reino Unido, a Autoridade de Concorrência e Mercados (CMA) está revisando o mercado de IA. “Nossa meta é ajudar esta nova tecnologia em rápida expansão a se desenvolver de forma a garantir mercados abertos e competitivos e proteção efetiva do consumidor”, disse Sarah Cardell, Diretora Executiva da CMA.

O governo do Reino Unido, no entanto, parece interessado em uma abordagem sem intervenção para o uso dessa tecnologia.

Uma reação à ação

Esses esforços enfrentam uma reação contrária entre alguns especialistas em tecnologia, que argumentam que desacelerar a evolução da IA em alguns países pode dar a outros a chance de progredir na aplicação da tecnologia. O cofundador da Microsoft, Bill Gates, é um dos que defendem esse argumento.

Leia mais: Samsung proíbe uso de IA por preocupação com vazamento de dados

Hinton disse recentemente sua “única esperança” em relação à IA: que os governos concorrentes possam concordar em reinar em seu uso, dado que todas as partes enfrentam uma ameaça existencial. “Estamos todos no mesmo barco com relação à ameaça existencial, então todos devemos ser capazes de cooperar para tentar detê-la”, disse ele.

Nós fomos avisados

A tragédia, claro, é que os riscos existenciais inerentes à IA foram sinalizados por anos. Em 1863, o romancista Samuel Butler advertiu: “O resultado é simplesmente uma questão de tempo, mas que chegará o tempo em que as máquinas terão a verdadeira supremacia sobre o mundo e seus habitantes é o que nenhuma pessoa com uma mente verdadeiramente filosófica pode questionar por um momento”.

O cofundador da Apple não parece muito otimista de que restrições efetivas em torno desse uso serão implementadas. “As forças que impulsionam o dinheiro em comparação com as forças que impulsionam o cuidado conosco, o amor… as forças que impulsionam o dinheiro geralmente vencem. É meio triste”, disse ele à BBC.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!