Estudos recentes revelam que chatbots alimentados por inteligência artificial, conhecidos como IAs, oferecem conselhos médicos problemáticos em cerca de 50% das interações. Esta informação provém de uma pesquisa conduzida por cientistas dos Estados Unidos, Canadá e Reino Unido.
Publicada na revista médica BMJ Open, a investigação enfatiza os riscos associados ao uso dessa tecnologia, que está se tornando cada vez mais integrada à vida cotidiana. Os pesquisadores analisaram cinco plataformas bem conhecidas (ChatGPT, Gemini, Meta AI, Grok e DeepSeek), submetendo cada uma delas a dez perguntas distribuídas em cinco categorias relacionadas à saúde.
Aproximadamente metade das respostas obtidas foram classificadas como problemáticas, com quase 20% delas sendo consideradas altamente problemáticas. O desempenho dos chatbots mostrou-se mais eficiente nas perguntas fechadas, especialmente aquelas ligadas a vacinas e câncer, enquanto as áreas de células-tronco e nutrição apresentaram resultados menos satisfatórios.
Os pesquisadores observaram que as respostas frequentemente eram dadas de maneira confiante e assertiva. No entanto, em nenhuma das interações foi apresentada uma lista de referências completa e precisa. Apenas duas perguntas foram recusadas, ambas pela Meta AI.
Crescimento alarmante das IAs
Esses achados aumentam a preocupação sobre o uso inadequado das plataformas de inteligência artificial generativa, que não possuem licenciamento para fornecer orientação médica e carecem do discernimento clínico essencial para diagnósticos precisos.
A popularidade dos chatbots de IA cresceu exponencialmente, transformando-os em ferramentas acessíveis para aqueles que buscam ajuda em questões de saúde. Segundo a OpenAI, mais de 200 milhões de usuários consultam o ChatGPT semanalmente com perguntas sobre saúde e bem-estar.
No início deste ano, a OpenAI lançou ferramentas voltadas tanto para o público geral quanto para profissionais da saúde. Simultaneamente, a Anthropic apresentou Claude, um novo produto focado na área da saúde.
Os autores do estudo publicado no BMJ Open alertaram que uma das maiores preocupações com o uso indiscriminado dessas tecnologias é o risco de disseminação de desinformação.
Por último, ressaltam que suas descobertas “destacam limitações significativas no comportamento dos chatbots e a necessidade urgente de reavaliar sua implementação na comunicação pública sobre saúde e medicina”. Eles enfatizam que tais sistemas podem gerar “respostas com aparência confiável, mas potencialmente imprecisas”.
