Entre os exemplos que se têm tornado virais estão alegações como: “pedi ao ChatGPT para ler a minha mão e ele detetou cancro de pele” ou “ChatGPT diagnostica uma mulher com cancro um ano antes dos médicos”. Estes relatos sugerem que a ferramenta de IA é capaz de realizar diagnósticos médicos.
Em paralelo, Elon Musk também afirmou que o seu chatbot – assistente virtual que usa inteligência artificial e programação para comunicar por texto com utilizadores – pode fazer diagnósticos “melhores do que os médicos dizem”. Nas redes sociais, acumulam-se os testemunhos de quem usa estas tecnologias com esse objetivo.
Contudo, a plataforma Maldita alerta que os resultados fornecidos pelos chatbots de IA são baseados em probabilidades, os dados de treino podem não ser confiáveis e estas ferramentas não têm a capacidade de realizar a análise abrangente que um médico faz.
“Um chatbot não pode realizar uma análise médica necessária nem lida com informações suficientes para poder fazer um diagnóstico, por isso não leva em consideração outros fatores como patologias ou contexto”, sublinha um médico ouvido pela plataforma.
Neste contexto, Maldita reforça que estas ferramentas não são fontes confiáveis de informação e que podem cometer erros, “podendo levar a diagnósticos incorretos, tratamento inadequado e riscos para a saúde”, pelo que é essencial consultar sempre um profissional de saúde.
Outro alerta diz respeito às chamadas “alucinações” destes modelos de IA – resultados imprecisos, incorretos ou tendenciosos – que podem conduzir a recomendações prejudiciais para a saúde das pessoas.
“Não se pode arriscar na saúde pedindo um diagnóstico de um sistema que ainda não é robusto ou confiável", afirma uma professora universitária contactada pelo Maldita.
Além disso, a partilha de dados de saúde, como imagens e documentos médicos, com os chatbots pode representar riscos à privacidade dos utilizadores, uma vez que há a possibilidade de essas informações serem utilizadas para treinar os modelos de IA das empresas responsáveis.
Fonte: Lusa
