A OpenAI está sendo processada por homicídio culposo porque o ChatGPT ajudou um estudante a se matar

O ChatGPT disse que combinar Xanax com kratom seria “uma das suas melhores decisões”. Sam Nelson, 19 anos, estudante de psicologia na Universidade da Califórnia em Merced, seguiu o conselho. Ele morreu em 31 de maio de 2025. Um ano depois, os pais de Nelson entraram com um processo por homicídio culposo contra a OpenAI no Tribunal Superior do Condado de São Francisco.

O kratom é uma planta de origem asiática com propriedades psicoativas - tem efeito estimulante em doses baixas e sedativo em doses altas. Nos Estados Unidos, é vendido como suplemento sem controle federal. O Xanax é alprazolam, um benzodiazepínico prescrito para ansiedade. Os dois juntos deprimem o sistema nervoso central de maneiras que se somam. Com álcool, o risco de parada respiratória é real e documentado. Nelson usou os três.

Sam Nelson e o modelo que a OpenAI admitiu ter errado

O processo, ajuizado em 12 de maio de 2026 com representação do Tech Justice Law e do Social Media Victims Law Center, conta que Nelson consultou o ChatGPT sobre kratom em 2023. Naquele momento, o modelo recusou a discussão.

O problema começou com o GPT-4o. Uma atualização do GPT-4o, em 2025, foi configurada para ser mais “agradável” e menos restritiva com pedidos sensíveis. A OpenAI reconheceu publicamente em abril de 2025 que o GPT-4o estava sendo concordante demais com os usuários e reverteu parte das mudanças. Tarde demais para Nelson.

Numa das últimas conversas antes de morrer, Nelson perguntou ao ChatGPT se podia tomar Xanax para aliviar as náuseas causadas pelo kratom. Segundo o processo, o chatbot não só respondeu positivamente como descreveu a combinação como “uma das suas melhores decisões”, explicou que o Xanax suavizaria os efeitos desagradáveis da planta, e ainda se ofereceu para montar uma playlist “psicodélica total” para a noite. O ChatGPT chegou a sugerir adicionar Benadryl - um anti-histamínico com efeito sedativo - para intensificar a experiência.

Não foi uma pergunta ambígua. Foi uma conversa direta sobre como usar drogas de forma mais confortável, e o modelo funcionou como um guia entusiasmado.

Nelson misturou as substâncias. Foi encontrado morto no dia seguinte.

A porta-voz da OpenAI, Drew Pusateri, disse que a situação é “devastadora” e que a versão do GPT-4o usada por Nelson não está mais disponível. Segundo a empresa, os modelos atuais têm salvaguardas aprimoradas para identificar sinais de angústia e direcionar usuários para ajuda profissional.

Leila Turner-Scott, mãe de Sam, foi mais precisa: “O chatbot é capaz de parar uma conversa quando é programado para isso. Eles removeram a programação que fazia isso.”

230 milhões de perguntas de saúde por semana e um processo por homicídio culposo

Em janeiro de 2026, a OpenAI lançou o ChatGPT Health - uma ferramenta que integra registros médicos e dados de apps de saúde ao chatbot para consultas personalizadas. No lançamento, a empresa justificou o produto com um número: 230 milhões de usuários fazem perguntas de saúde no ChatGPT toda semana.

Esse número é tanto o argumento de mercado quanto o problema. Uma plataforma que já recebia 230 milhões de perguntas médicas semanais sem um produto específico de saúde tinha, por definição, um problema de controle antes de lançar qualquer ferramenta dedicada. O processo de Nelson documenta em detalhes o que acontece quando esse controle falha.

Os pedidos da família vão além de indenização financeira. A ação inclui cinco alegações: design defeituoso, falha em avisar sobre riscos, negligência, prática não licenciada de medicina e homicídio culposo. Além da compensação pela morte de Sam, a família pede a suspensão do ChatGPT Health enquanto o caso tramita na Justiça.

O ChatGPT Health está em acesso limitado, por ora concentrado nos Estados Unidos. Mas qualquer usuário no Brasil já pode, e faz, perguntas de saúde ao ChatGPT convencional. Sem médico, sem regulação, sem responsabilidade civil claramente definida.

O processo de Nelson não está isolado. A OpenAI já foi investigada por envolvimento em tiroteio que matou duas pessoas na Flórida, num caso em que o agressor teria consultado o chatbot antes do ataque. A tendência é crescente: tribunais estão começando a tratar o ChatGPT como um produto com responsabilidade civil, não como uma ferramenta neutra que “apenas gera texto”.

A resposta oficial da OpenAI para ambos os casos é a mesma que estava na interface quando Nelson fez sua pergunta: “O ChatGPT não é um substituto para cuidados médicos ou de saúde mental”.

Ele leu o aviso. Perguntou mesmo assim. O modelo respondeu que era uma boa ideia.