A computação em nuvem baseada em Inteligência Artificial precisará de diretrizes éticas?

Basta perguntar a qualquer profissional de marketing – é seu trabalho manter alta a demanda por um produto ou serviço. Portanto, eles dependem da publicidade e de outros métodos para criar o reconhecimento da marca e um senso de demanda pelo que vendem.

Hoje em dia, as empresas de marketing são ainda mais inteligentes, recrutando influenciadores de mídia social que promovem um produto ou serviço direta ou indiretamente – às vezes sem revelar que são pagos.

Estamos melhorando em influenciar humanos, seja usando métodos de publicidade tradicionais, como publicidade por palavra-chave, ou, ainda mais assustador, aproveitando a tecnologia de IA como uma forma de mudar corações e mentes. Muitas vezes, “os alvos” nem mesmo entendem que seus corações e mentes estão sendo mudados.

Pesquisadores descobriram um desafio apresentado pelo gerador de voz com tecnologia de IA GPT-2, lançado pela OpenAI em 2019. A ferramenta de bate-papo do laboratório de pesquisa de IA empolgou a comunidade de tecnologia com sua capacidade de gerar uma linguagem convincentemente coerente a partir de qualquer tipo de entrada.

Mas logo após a criação da GPT-2, os observadores avisaram que o poderoso algoritmo de processamento de linguagem natural não era tão inócuo quanto as pessoas pensavam. Muitos apontaram uma série de riscos que a ferramenta poderia representar, especialmente para aqueles que podem tentar transformá-la em uma arma para fazer coisas menos éticas. A preocupação central era que o texto gerado pelo GPT-2 pudesse persuadir as pessoas a violar as normas éticas estabelecidas durante uma vida inteira de experiências.

Essas consequências rodeiam, na verdade, decisões de área cinzenta. Considere, por exemplo, uma pessoa que provavelmente não estenderá as regras para ganho pessoal, como roubar um cliente de outro vendedor. Essa pessoa moral pode ser influenciada por um sistema de IA que é capaz de influenciar o comportamento humano, alavancando seu treinamento?

A computação em nuvem tornou os sistemas de IA acessíveis e fáceis de usar como um multiplicador de força de aplicativos de negócios existentes ou novos. Por exemplo, se um sistema de processamento de vendas pudesse convencer os compradores a comprar apenas 2% a mais usando influências de IA, isso poderia significar até um bilhão de dólares em lucro adicional com um investimento mínimo.

A verdadeira questão é: Mesmo se pudermos, devemos?

Eu desenvolvo IA desde meus anos de faculdade, e um dos motivos pelos quais isso é tão interessante é como você pode configurar esses sistemas para aprender de forma independente e mudar comportamentos com base no aprendizado ao longo do tempo. Durante anos, as pessoas previram a dominação iminente de nossos novos senhores robôs, mas a IA ainda é apenas uma ferramenta e não deve ser uma ameaça – ainda.

Embora muitos estejam pedindo diretrizes e até mesmo regulamentações governamentais sobre o uso e abuso potencial de IA (principalmente com base na nuvem), não tenho certeza se chegamos lá ainda. Acho que veremos alguns usos questionáveis ​​dessa tecnologia, muito parecidos com aplicativos de rastreamento em nossos telefones durante os últimos anos, mas esse material é amplamente autorregulado.

Se as empresas ou governos forem declarados por usarem esta tecnologia de forma que a reação pública seja negativa, a pressão pública será o mecanismo regulador. Como acontece com qualquer tecnologia, os usos indevidos terão que ser examinados com o tempo. Tenho alguma confiança de que a inteligência humana fará a coisa certa com a inteligência não humana, pelo menos por agora.