Um estudo recente da Western University em London, Ontário, descobriu que o ChatGPT, um popular chatbot de IA, fornece informações médicas incorretas em cerca de metade das vezes. O estudo, publicado na revista PLOS One, testou a capacidade do ChatGPT para diagnosticar 150 casos médicos complexos e descobriu que era exato apenas 49% das vezes.
O ChatGPT é um tipo de inteligência artificial (IA) conhecido como modelo de linguagem grande, desenvolvido por uma empresa chamada OpenAI. Foi concebido para gerar texto semelhante ao humano, processando grandes quantidades de informação da Internet. As pessoas utilizam o ChatGPT para várias tarefas, como escrever e-mails, criar conteúdos e responder a perguntas. No entanto, é importante compreender que o ChatGPT não “pensa” como um humano: em vez disso, prevê o texto adequado com base em padrões que aprendeu com os dados de treino.
Apesar das suas capacidades impressionantes, o ChatGPT não é perfeito e pode cometer erros, especialmente em áreas complexas como a medicina. O chatbot é conhecido por ser convincente nas suas explicações, quer as suas respostas estejam ou não corretas, o que pode ser enganador para os utilizadores que procuram aconselhamento médico.
Amrit Kirpalani, professor assistente de pediatria na Western University e investigador principal do estudo, salientou esta questão. “Penso que pode ser utilizada como uma ferramenta, mas tem de ser utilizada de forma correta. Diria que, nesta altura, não deve ser utilizada para aconselhamento médico”, afirmou Kirpalani.
Os resultados do estudo levantam preocupações sobre a fiabilidade da utilização do ChatGPT para aconselhamento médico. Embora o ChatGPT possa simplificar as explicações e torná-las fáceis de compreender, a sua tendência para estar errado em quase metade dos casos torna-o uma ferramenta arriscada para diagnosticar problemas de saúde. O estudo sugere que, embora o ChatGPT possa ser útil em contextos educativos, onde pode atuar como um tutor pessoal sob supervisão, ainda não é suficientemente fiável para substituir o aconselhamento médico profissional.
Em conclusão, embora o ChatGPT seja uma ferramenta poderosa para muitas tarefas, não se deve confiar nele para fazer diagnósticos médicos exactos. Os especialistas aconselham uma utilização cautelosa e a consulta de um profissional de saúde em caso de dúvidas médicas.
Foto: openai.com