Imagem: Shutterstock
O grupo FutureTech, do Instituto de Tecnologia de Massachusetts (MIT), em colaboração com pesquisadores, lançou um banco de dados público que documenta mais de 700 possíveis riscos relacionados ao uso de Inteligência Artificial (IA). A nova plataforma é a mais abrangente até o momento e foi desenvolvida para apoiar futuros estudos sobre os impactos da tecnologia.
De acordo com o Repositório de Riscos de IA, os riscos mais recorrentes envolvem problemas de segurança e robustez dos sistemas (76%), seguidos por questões de viés e discriminação (63%) e privacidade comprometida (61%). Além desses, também foram identificados riscos menos comuns e mais complexos, como a possibilidade de IA desenvolver sensações de dor ou algo semelhante à morte.
Leia também: Hitachi Vantara quer ir além da infraestrutura e assumir papel “consultivo” em projetos de IA
O levantamento mostrou que a maior parte dos riscos (90%) só é identificada depois que os modelos de IA se tornam acessíveis ao público. Apenas 10% são detectados antes de sua implantação. “O que nosso banco de dados está dizendo é que a gama de riscos é substancial, nem todos podem ser verificados antecipadamente”, disse Neil Thompson, diretor do MIT FutureTech e um dos criadores do banco de dados.
Os autores do banco de dados optaram por não classificar os riscos por nível de perigo, priorizando a neutralidade e a abrangência das informações. “O objetivo é fornecer uma base neutra para futuras pesquisas”, explicou Peter Slattery, pesquisador do MIT e principal autor do projeto.
No entanto, a estratégia adotada para criar o banco de dados pode limitar sua eficácia, segundo Anka Reuel, doutoranda em Ciência da Computação na Universidade de Stanford. Ela reconhece o valor da pesquisa minuciosa, mas acredita que apenas listar os riscos associados à Inteligência Artificial pode não ser suficiente daqui para frente. Para Reuel, a questão central agora é transformar o conhecimento desses riscos em medidas práticas para enfrentá-los, já que apenas conscientizar as pessoas sobre os problemas não resolve a questão.
Os criadores do banco de dados afirmam que o projeto é apenas o começo e esperam contar com o feedback da comunidade científica para aprimorá-lo continuamente.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A pressão por controle de custos vem alterando a dinâmica das áreas de tecnologia nas…
O mercado brasileiro de fintechs passou por uma transformação no perfil dos investimentos em 2025.…
O avanço da inteligência artificial e o uso estratégico de dados vêm transformando a forma…
Por Ramon Ribeiro Quase metade do código produzido por assistentes de inteligência artificial contém vulnerabilidades…
Peça a um modelo de inteligência artificial que gere a imagem de uma cidade, sem…
O IT Forum apresenta, semanalmente, os novos executivos e os principais anúncios de contratações, promoções e mudanças…