Inteligência artificial também tem problemas

A inteligência artificial (AI) evoluiu e trouxe vários benefícios nos últimos anos, mas seu crescimento gerou, também, alguns questionamentos. O principal deles é a forma como o aprendizado de máquina pode identificar os rostos de pessoas em fotos e vídeos com precisão.

A tecnologia ajuda a desbloquear telefones com certas expressões faciais, mas também pode significar que governos e grandes corporações usem a ferramenta com uma poderosa maneira de vigilância, aponta Will Knight, no MIT Technology Review.

De acordo com pesquisa do AI Now Institute, o reconhecimento facial é um desafio-chave para a sociedade e os formuladores de políticas. A velocidade em que a tecnologia cresceu foi impulsionada pelo rápido desenvolvimento de um tipo de aprendizado de máquina chamado de deep learning. Ele utiliza grandes emaranhados de cálculos para reconhecer padrões em dados.

O relatório pede que o governo dos Estados Unidos tome medidas gerais para melhorar a regulamentação da tecnologia, em um momento que muito se discute sobre privacidade. “A implementação de sistemas de inteligência artificial está se expandindo rapidamente, sem regimes adequados de governança, supervisão ou responsabilidade”, diz o documento.

A pesquisa sugere aumentar o poder dos órgãos governamentais existentes, visando regulamentar questões da IA. “Domínios como saúde, educação, justiça criminal e bem-estar têm seus próprios históricos, estruturas regulatórias e perigos”, alerta.

São citadas também proteções mais fortes ao consumidor contra alegações enganosas sobre a tecnologia; fala sobre as empresas renunciarem a reivindicações secretas de mercado quando a responsabilidade dos sistemas de inteligência artificial está em jogo (quando algoritmos estão sendo usados para tomar decisões críticas, por exemplo); e pede que eles se governem de maneira mais responsável quando se trata do uso da AI.

Para o relatório, o público deve ser alertado quando os sistemas de reconhecimento facial estão sendo usados para rastreá-los e que eles devem ter o direito de recusar a utilização da tecnologia.

Apesar da implementação de recomendações parecer um desafio, o reconhecimento facial está sendo adotado rapidamente. Ele é usado para desbloquear smartphones e permitir pagamentos, enquanto o Facebook verifica milhões de fotos todos os dias para identificar usuários específicos.

Além disso, a Delta Airlines anunciou um novo sistema de check-in de varredura de rosto no aeroporto de Atlanta. O Serviço Secreto dos EUA também está desenvolvendo um sistema de segurança de reconhecimento facial para a Casa Branca, de acordo com um documento destacado pela UCLA. “O papel da AI na vigilância generalizada expandiu-se imensamente nos EUA, na China e em muitos outros países do mundo”, diz o relatório.

Na China, a tecnologia geralmente envolve colaborações entre empresas privadas de AI e agências governamentais. As forças policiais usaram a AI para identificar criminosos e vários relatórios que ela está sendo usada para rastrear dissidentes.

Viés

Ainda que a tecnologia não esteja sendo usada de maneira eticamente duvidosa, ela ainda tem alguns problemas. Por exemplo, alguns sistemas de reconhecimento facial mostraram codificar viés. Os pesquisadores da ACLU demonstraram que uma ferramenta oferecida pelo programa em nuvem da Amazon tem maior probabilidade de identificar erroneamente minorias como criminosos.

O documento também diz que a utilização do rastreamento de emoções em sistemas de varredura de rosto e detecção de voz. Esse rastreamento é relativamente não comprovado, mas está sendo usado de maneiras potencialmente discriminatórias, como rastrear a atenção de alunos.