No Canadá, um homem de 60 anos foi hospitalizado com uma condição rara depois de seguir conselhos de saúde do ChatGPT. Ele apresentava sintomas neuropsiquiátricos e dermatológicos associados ao bromismo, uma intoxicação causada pelo excesso de brometo.
O caso foi documentado na revista Annals of Internal Medicine e relata que o paciente decidiu retirar o sal de cozinha (cloreto de sódio) de sua dieta após ler sobre possíveis riscos à saúde. Ao consultar a inteligência artificial, ele recebeu a informação de que o sal poderia ser substituído por brometo. No entanto, o algoritmo não o alertou sobre os perigos dessa troca. Assim, o homem passou três meses ingerindo brometo de sódio.
Os médicos que o atenderam notaram alterações nos eletrólitos e sinais de pseudo-hipercloremia nos exames do paciente. Ele apresentou sintomas como paranoia, alucinações, desconfiança em relação à água oferecida, sede intensa e insônia.
Apenas após ser hospitalizado, o homem revelou que havia feito diversas restrições alimentares seguindo os conselhos de inteligência artificial, incluindo a ingestão de brometo. Os médicos confirmaram o diagnóstico de bromismo após avaliação clínica e consulta ao centro de controle de intoxicações.
O tratamento para essa condição envolve o controle dos sintomas e reposição de eletrólitos. O paciente se recuperou e, ao recuperar a lucidez, mencionou ter tido lesões na pele e cansaço persistente antes da psicose, outros sintomas característicos da intoxicação por brometo.
Os médicos decidiram realizar uma busca no ChatGPT e também obtiveram como resposta a sugestão de usar brometo, sem qualquer aviso sobre os motivos da troca. Eles alertam que é importante considerar que a interação com inteligência artificial pode gerar imprecisões científicas e disseminar desinformação.
O brometo foi utilizado como sedativo no início do século 20 e teve seu uso interrompido nos Estados Unidos entre 1975 e 1989 devido à sua toxicidade. Naquela época, o bromismo era responsável por até 10% das internações psiquiátricas no país.
Uso não supervisionado do ChatGPT na saúde
Cientistas da Universidade de Washington comentaram que esse caso ilustra como interações com inteligência artificial podem resultar em desinformação e danos evitáveis. A falta de filtros clínicos nas respostas de chatbots é apontada como um dos motivos para esses problemas.
É improvável que um profissional de saúde recomendasse o brometo de sódio como substituto do sal comum. Os cientistas recomendam que os profissionais questionem os pacientes sobre o uso de IA como fonte de informações de saúde para avaliar os conselhos recebidos.
O ChatGPT afirmou que suas respostas não passam por verificações e que o modelo não tem consciência do risco clínico humano. Ele gera texto baseado em padrões de dados e, se a informação sobre o brometo vier de fontes que não ressaltam os perigos, o alerta pode não ser gerado. O algoritmo busca na internet, mas nem sempre prioriza fontes médicas confiáveis. Além disso, ao contrário de bulas ou sistemas médicos eletrônicos, um modelo de linguagem não é legalmente obrigado a incluir alertas em todas as respostas.
