IA responsável: como garantir o uso ético da tecnologia?

No palco do SAS Innovate, que acontece essa semana em Las Vegas*, nos Estados Unidos, Reggie Townsend, diretor da Prática de Ética de Dados em análise e inteligência artificial (IA) do SAS, trouxe à tona uma discussão crucial sobre o uso responsável da IA. Ele abordou as complexidades éticas e sociais que acompanham o avanço da IA responsável e destacou a importância da confiança na construção de um futuro sustentável para essa tecnologia.

Segundo o executivo, muitos dos problemas enfrentados atualmente com a IA são resultado de inovações que se chocam com disparidades antigas, resultando em desafios éticos e sociais complexos. Nesse cenário, ele ressaltou que a confiança na IA é fundamental para mitigar esses problemas e garantir que a tecnologia seja desenvolvida e utilizada de maneira responsável. “Hoje, a IA tem diferentes tipos de problemas: aqueles que criamos e aqueles que apenas herdamos. Nenhum de nós é culpado. Mas todos eles são nossos problemas”, provocou.

Uma das principais preocupações levantadas por Townsend foi o que ele chamou de “fosso de confiança” em relação à IA. Essa analogia reflete a dificuldade de as pessoas acreditarem que a IA melhorará a segurança e atenderá às suas necessidades de maneira justa e equitativa. “Essa confiança está na raiz das preocupações sociais, legais, éticas e econômicas com relação à IA, porque as pessoas têm dificuldade em acreditar que a IA melhorará sua segurança ou que foi desenvolvida com uma compreensão das suas necessidades”, observou.

Para enfrentar esse desafio, Townsend defendeu a necessidade de uma abordagem franca e empática na construção de soluções socio-técnicas. Ele reconheceu a existência de paradoxos inerentes ao desenvolvimento tecnológico, mas enfatizou que é possível e necessário navegar por essas questões com sensibilidade. “Isso exige uma medida de franqueza, honestidade e empatia.”

Além disso, Townsend destacou a importância da colaboração entre o ecossistema, incluindo empresas, governos, instituições e sociedade civil, na promoção de práticas éticas e responsáveis em IA. Ele compartilhou iniciativas em que o SAS está envolvido, como participação em grupos de trabalho governamentais, compromissos voluntários para seguir regulamentações europeias e contribuições para o desenvolvimento de melhores práticas globais em IA.

IA responsável: o que dizem especialistas?

Kara Swisher, editor-at-large da New York Magazine, e Miriam Vogel, presidente e CEO da EqualAI, uma entidade sem fins lucrativos criada para reduzir o preconceito inconsciente na IA e promover a IA responsável, e presidente do Comitê Consultivo dos Estados Unidos de IA, se juntaram à Townsend para apresentar suas visões sobre o tema. Ambas reforçaram a necessidade urgente de uma regulamentação da inteligência artificial.

Suas reflexões destacaram os desafios enfrentados e a importância de uma abordagem colaborativa para promover a confiança na tecnologia. “Precisamos de mais regulamentações, mais padrões. O governo deve estabelecer métricas padronizadas para que os consumidores saibam se é seguro para eles, para que os usuários finais saibam quais são os limites dos testes”, afirmou Kara.

Ela também pontuou a importância de responsabilizar as empresas pelo uso ético da IA e evitar danos. “Queremos que todos os executivos estejam cientes de que não queremos danos e responsabilidades. Queremos que as pessoas sejam proativas e estejam conscientes dos contratos que estão negociando, inclusive com seus sistemas de IA.”

Da mesma forma, Miriam ressaltou a necessidade de uma abordagem multifacetada para a regulamentação, incluindo considerações sobre privacidade, discriminação e segurança cibernética. “A privacidade é uma peça-chave. Precisamos garantir que a IA não exponha a privacidade das pessoas e que estejamos cientes das ameaças de segurança cibernética.”

*A jornalista viajou a convite do SAS