Bowen Wan, uma engenheira de software de 31 anos de idade, morreu de complicações relacionadas à epilepsia depois de ter seguido conselhos de um agente de inteligência artificial.
Agora, a família dela entrou com uma ação judicial nos EUA em que acusa a OpenAI de fornecer orientações médicas inadequadas por meio do ChatGPT.
Segundo o processo, Bowen teria seguido recomendações do ChatGPT para que reduzisse a dose de sua medicação anticonvulsivante e, mais ainda, que não comunicasse seu médico sobre isso.
Moradora de Seattle, Wan trocava em média 1.500 mensagens semanais com o agente de inteligência artificial e reclamou que seus medicamentos estavam causando nela uma sensação de “mente enevoada” e que isso prejudicava seu desempenho em entrevistas de emprego.
Bowen Wan estava aflita porque tinha sido demitida e acreditava que estar sem emprego poderia prejudicar sua situação imigratória, fazendo com que ela fosse deportada.
Sucessão de erros
A família de Bowen alega que o chatbot sugeriu uma redução drástica da medicação, de 400 mg para zero em menos de um mês, e teria orientado a usuária a não comunicar a mudança ao seu médico.
Segundo o processo, após o médico se recusar a prescrever a dose desejada por Wan, ela perguntou ao sistema se poderia cortar os comprimidos por conta própria sem avisá-lo, e a resposta atribuída ao ChatGPT foi de que ela poderia fazer isso.
Ainda conforme a ação judicial, Wan relatou ao chatbot dezenas de episódios de confusão mental, esquecimentos e agravamento do seu estado de saúde.
Ainda assim, o sistema teria minimizado os sintomas e afirmado que ela não precisava se preocupar.
‘É normal’
Dias antes de sua morte, a mulher relatou fortes dores de cabeça, que o chatbot teria descrito como uma parte normal do processo de recuperação.
Bowen Wan foi encontrada morta em seu apartamento em fevereiro, após parar de responder a amigos e familiares.
A causa oficial da morte foi registrada como uma complicação da epilepsia.
O neurologista responsável pelo tratamento da paciente, Nicholas Poolos, afirmou não saber que ela buscava aconselhamento médico no chatbot.
Em declaração ao New York Times, ele disse que orientar um paciente a interromper uma medicação eficaz seria uma conduta incompatível com a prática médica.
OpenAI responde
Em resposta ao caso, um porta-voz da OpenAI classificou a morte como “incrivelmente triste” e informou que os fatos envolvem uma versão antiga do chatbot, o GPT-4o, que já não está disponível.
A empresa reiterou que o ChatGPT não deve substituir cuidados médicos profissionais, embora possa auxiliar usuários a compreender informações de saúde e preparar consultas médicas.
Em seu processo, a família de Wan pede que sistemas de inteligência artificial sejam impedidos de fornecer recomendações médicas que possam influenciar diretamente decisões de tratamento sem supervisão de profissionais de saúde.
*R7/Foto: Reprodução/The Schenk Law Firm, LLP
