O estado norte-americano Nova Hampshire iniciou uma investigação criminal contra uma empresa do Texas após milhares de chamadas automáticas geradas por inteligência artificial (IA) se passarem pelo presidente dos EUA, Joe Biden, orientando os eleitores a não votarem nas primárias do estado. A investigação aberta destaca preocupações crescentes em relação à falta de proteções adequadas em ferramentas de IA.
No final de janeiro, milhares de pessoas em Nova Hampshire receberam chamadas telefônicas falsas que as instruíam a não votar nas primárias estaduais. O procurador-geral John Formella anunciou uma investigação no dia seguinte, chamando as ligações de tentativa ilegal de interferência eleitoral.
Formella tomou medidas contra a empresa de telecomunicações Life Corp., exigindo que interrompesse imediatamente a violação das leis estaduais contra a supressão de votos.
Leia mais: Para 76,6% dos brasileiros, IA vai roubar empregos
Formella não revelou qual empresa usou o software para a deepfake de Biden. Porém, Hany Farid, professor da Universidade da Califórnia em Berkeley especializado em propaganda digital e desinformação, acredita que a gravação tenha sido produzida através do software da ElevenLabs, segundo o Washington Post. Recentemente avaliada em US$1,1 bi, a ElevenLabs permite que usuários clonem vozes de amostras pré-existentes, sem proteções adequadas.
A empresa suspendeu a conta responsável pelo deepfake de Biden. Após o caso, Mati Staniszewski, CEO da ElevenLabs, assegurou o compromisso da empresa em evitar o uso indevido de ferramentas de áudio de IA, prometendo tomar medidas apropriadas em casos relatados.
O incidente ressalta a necessidade de melhores políticas nas empresas de tecnologia para evitar distorções eleitorais. Recentemente, a OpenAI proibiu o uso de suas ferramentas por um desenvolvedor que criou um robô imitando um candidato democrata.
*Com informações do The Washington Post
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A pressão por controle de custos vem alterando a dinâmica das áreas de tecnologia nas…
O mercado brasileiro de fintechs passou por uma transformação no perfil dos investimentos em 2025.…
O avanço da inteligência artificial e o uso estratégico de dados vêm transformando a forma…
Por Ramon Ribeiro Quase metade do código produzido por assistentes de inteligência artificial contém vulnerabilidades…
Peça a um modelo de inteligência artificial que gere a imagem de uma cidade, sem…
O IT Forum apresenta, semanalmente, os novos executivos e os principais anúncios de contratações, promoções e mudanças…