Você pode confiar na IA para responder a perguntas sobre o câncer?

A IA pode nem sempre ser a fonte mais precisa de informações sobre saúde, especialmente quando se trata de tratamento do câncer, segundo uma nova pesquisa.

Dois novos estudos avaliaram a qualidade das respostas oferecidas pelos chatbots de IA a uma variedade de perguntas sobre o tratamento do câncer.

Um, publicado na JAMA Oncology, concentrou-se no serviço de IA conversacional de frases completas conhecido como ChatGPT, lançado com grande alarde em novembro passado.

A vantagem: cerca de dois terços das informações sobre câncer oferecidas pelo ChatGPT correspondiam com precisão às diretrizes atuais da Rede Nacional Compreensiva de Câncer dos EUA.

A desvantagem

"Algumas recomendações estavam claramente completamente incorretas", disse a autora do estudo, Dra. Danielle Bitterman, professora assistente de radioterapia oncológica no Brigham and Women's Hospital/Dana-Farber Cancer Institute e na Harvard Medical School, em Boston. “Por exemplo, casos em que o tratamento curativo foi recomendado para um diagnóstico incurável”.

Outras vezes, as recomendações incorretas eram mais sutis – por exemplo, incluindo algumas, mas não todas, partes de um regime de tratamento, como recomendar apenas cirurgia, quando o tratamento padrão também inclui radioterapia e/ou quimioterapia, disse Bitterman.

Isso é preocupante, disse ela, dado o grau em que “informações incorretas foram misturadas com informações corretas, o que tornou especialmente difícil a detecção de erros, mesmo para especialistas”.

Um segundo estudo publicado na mesma edição da revista ofereceu uma avaliação muito mais otimista da precisão da IA.

Neste caso, os investigadores analisaram as respostas de quatro serviços diferentes de chatbot – ChatGPT, Perplexity, Chatsonic e Bing da Microsoft. Cada um foi solicitado a discutir câncer de pele, pulmão, mama, próstata e/ou cólon.

Os pesquisadores avaliaram a qualidade e a precisão das respostas como “boas”.

Mas, disseram eles, isso não significa necessariamente que os pacientes acharão útil a experiência da IA. Isso ocorre porque muitas das informações fornecidas eram muito complexas para a maioria dos médicos não profissionais.

Ao mesmo tempo, todas as respostas foram vinculadas a um aviso geral de que os pacientes não deveriam tomar quaisquer decisões sobre cuidados de saúde com base nos dados fornecidos sem primeiro consultar um médico.

A principal conclusão: muitos usuários de IA provavelmente descobrirão que as informações médicas geradas pelo chatbot são incompreensíveis, impraticáveis ou ambas.

“Os resultados foram encorajadores no sentido de que havia muito pouca desinformação, porque essa era a nossa maior preocupação”, disse o autor do estudo, Dr. Abdo Kabarriti, chefe de urologia da South Brooklyn Health, em Nova Iorque.

“Mas muitas das informações, embora precisas, não estavam em termos leigos”, acrescentou.

Basicamente, os chatbots forneciam informações em nível de leitura universitária, enquanto o consumidor médio lê aproximadamente até o nível da sexta série, disse Kabarriti.

As informações de IA que a equipe de Kabarriti recebeu foram, disse ele, “muito além disso”.

Outro factor que provavelmente irá frustrar muitos pacientes é que a IA não lhe dirá o que fazer em relação aos sintomas de cancro que descreve, disse Kabarriti.

"Dirá apenas 'consulte seu médico'", disse ele. “Talvez haja uma questão de responsabilidade. Mas a questão é que os bate-papos com IA não substituem a interação que os pacientes precisarão ter com seus médicos”.

Atul Butte, cientista-chefe de dados do Sistema de Saúde da Universidade da Califórnia, escreveu um editorial acompanhante.

Apesar das preocupações levantadas por ambos os estudos, ele vê a IA “como uma enorme vantagem líquida” para os pacientes e para a comunidade médica como um todo.

“Acredito que o copo já está mais da metade cheio”, disse Butte, observando que, com o tempo, as informações fornecidas pelos chatbots se tornarão inevitavelmente cada vez mais precisas e acessíveis.

Alguns estudos já demonstraram, disse Butte, que a IA tem potencial para oferecer melhores conselhos e ainda mais empatia do que os profissionais médicos.

Sua opinião: com o tempo, os chatbots de IA desempenharão um papel cada vez mais crítico na entrega de informações e cuidados médicos. Para muitos pacientes, o benefício será tangível, previu Butte.

Poucos pacientes têm os recursos ou o privilégio de ir aos melhores centros médicos do mundo, observou ele.

“Mas imagine se pudéssemos treinar a inteligência artificial com base nos dados e práticas desses lugares de topo e depois transmitir esse conhecimento através de ferramentas digitais em todo o mundo”, quer aos pacientes através de aplicações, quer aos médicos através de sistemas de registos de saúde eletrónicos, disse Butte.

“É por isso que estou começando a chamar a inteligência artificial de ‘privilégio escalável’”, acrescentou. “[É] a nossa melhor maneira de ampliar esse atendimento médico privilegiado, que [apenas] alguns conseguem, para todos”.

Artigos Relacionados:

Câncer de cólon aumenta entre as pessoas mais jovens

Câncer testicular pode ter novo tipo de tratamento

Confira aqui mais artigos sobre câncer

Escrito por: Alan Mozes