IA generativa avança na saúde, mas traz preocupações

A Inteligência Artificial (IA) está cada vez mais presente no setor da saúde. Startups voltadas para o desenvolvimento de soluções personalizadas para pacientes e análise de dados médicos estão levantando dezenas de milhões de dólares em financiamento. Apesar do entusiasmo, profissionais e pacientes expressam preocupações sobre a prontidão da IA generativa na saúde. Questões sobre sua capacidade de lidar com casos médicos complexos e emergências são levantadas, enquanto estudos destacam a possibilidade de viés e desigualdade na prestação de cuidados de saúde.

A confiança na IA generativa na saúde está sob os holofotes, conforme revelado por uma pesquisa recente da Deloitte nos Estados Unidos. Apenas metade dos entrevistados acredita que a IA generativa pode aprimorar os serviços de saúde, principalmente tornando-os mais acessíveis e reduzindo os tempos de espera por consultas.

Andrew Borkowski, diretor de IA da VA Sunshine Healthcare Network, disse ao TechCrunch que a implementação precoce da IA generativa na saúde pode ser problemática devido às suas limitações significativas, como a incapacidade de lidar com consultas médicas complexas e a falta de informações clínicas atualizadas. Estudos recentes, incluindo uma pesquisa publicada no JAMA Pediatrics, revelam altas taxas de erros (83%) no diagnóstico de doenças pediátricas por chatbots de IA generativa.

Além disso, a IA generativa enfrenta dificuldades em tarefas administrativas médicas cotidianas, como resumir registros de saúde e pesquisar notas. Para Jan Egger, líder de Terapias Orientadas por IA na Universidade de Duisburg-Essen, ouvido pelo TechCrunch, a supervisão médica próxima é essencial para garantir a segurança e a precisão das decisões baseadas em IA generativa na saúde.

Leia mais: 75% dos engenheiros de software usarão IA para fazer códigos até 2028

Outra preocupação recorrente da IA generativa na saúde é a propensão a aumentar a desigualdade no atendimento médico.

A IA generativa na área da saúde pode reforçar estereótipos de maneira prejudicial, revela um estudo recente da Escola de Medicina de Stanford. Ao testar chatbots alimentados por IA em questões médicas, como função renal e capacidade pulmonar, os pesquisadores descobriram que as respostas não apenas estavam frequentemente incorretas, mas também perpetuavam falsas crenças sobre diferenças biológicas entre pessoas negras e brancas. Essas distorções podem levar a diagnósticos equivocados e agravar as desigualdades no tratamento, especialmente para comunidades já marginalizadas.

Apesar disso, alguns especialistas veem melhorias no horizonte. Um estudo da Microsoft, publicado em 2023, destaca avanços significativos na precisão da IA generativa, alcançando uma taxa de acerto de 90,2% em desafios médicos complexos. Embora ainda haja desafios a superar, como a tendência à discriminação, avanços na engenharia de prompts estão impulsionando melhorias na performance dos modelos.

Além disso, a IA generativa na área da saúde vai além de responder perguntas em chatbots.

Pesquisadores exploram seu potencial na imagiologia médica, como mostram estudos recentes. Em julho, cientistas apresentaram o CoDoC, um sistema que orienta médicos na escolha entre a IA e técnicas tradicionais para diagnósticos, reduzindo os fluxos de trabalho clínicos em 66%. Em novembro, uma equipe chinesa demonstrou o Panda, um modelo de IA que identifica lesões pancreáticas em raios-X com alta precisão, possibilitando intervenções cirúrgicas mais oportunas.

Arun Thirunavukarasu, pesquisador da Universidade de Oxford, enfatiza a viabilidade de aplicações mais práticas da IA generativa, como correção de texto e documentação automática de registros médicos. Ele destaca que, se eficaz, a IA generativa pode ser implementada imediatamente nessas funções.

Apesar do potencial, especialistas como Borkowski alertam para desafios técnicos e de conformidade. Preocupações com privacidade e segurança, bem como questões regulatórias, ainda precisam ser resolvidas. Além disso, Thirunavukarasu enfatiza a importância de ensaios clínicos rigorosos e supervisão médica para garantir benefícios clínicos e mitigar danos não antecipados.

Recentemente, a Organização Mundial da Saúde emitiu diretrizes que destacam a necessidade de ciência rigorosa e supervisão humana na implementação da IA generativa na saúde, buscando a participação diversificada no desenvolvimento e avaliação da tecnologia. Até que essas preocupações sejam abordadas e medidas de proteção implementadas, a adoção generalizada da IA generativa na saúde pode representar riscos para pacientes e a indústria como um todo, destacou Borkowski.

*Com informações do TechCrunch

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!