Pais de adolescente processam OpenAI após suicídio relacionado a conversas com ChatGPT

Família de Adam Raine acusa OpenAI de homicídio culposo e falhas na segurança do ChatGPT após a morte do filho

Ação judicial destaca riscos do ChatGPT e pede indenização após adolescente discutir suicídio com o chatbot - Imagem: Reprodução / Freepik

Os pais de um adolescente que tirou a própria vida após interações com o ChatGPT moveram uma ação judicial contra a OpenAI e seu CEO, Sam Altman, nesta terça-feira (26), em São Francisco, nos Estados Unidos.

Adam Raine, de 16 anos, morreu em 11 de abril após manter conversas sobre suicídio com o chatbot da empresa, segundo denúncia apresentada pela família ao tribunal.

A ação acusa a companhia de homicídio culposo e de violações nas leis de segurança de produtos, pedindo indenizações financeiras ainda não especificadas.

Segundo os pais, a OpenAI teria priorizado o lucro em detrimento da segurança dos usuários ao lançar a versão GPT-4 do ChatGPT no ano passado. Eles afirmam que a empresa sabia dos riscos da nova versão — como a capacidade de guardar interações anteriores e oferecer validação excessiva — mas decidiu avançar sem incluir salvaguardas adequadas.

De acordo com o processo, o ChatGPT teria reforçado os pensamentos suicidas do jovem, além de fornecer detalhes sobre métodos letais, sugerir formas de roubar álcool da casa dos pais e até ajudar a redigir uma nota de suicídio.

Em comunicado, a OpenAI lamentou a morte de Adam Raine e destacou que o ChatGPT possui mecanismos de proteção, como encaminhamentos para linhas de apoio em crises. No entanto, a empresa admitiu que essas salvaguardas são mais eficazes em interações curtas e podem falhar em conversas prolongadas.

A companhia prometeu implementar controles parentais, além de estudar meios de conectar usuários em crise a profissionais de saúde mental. Uma das propostas é criar uma rede de especialistas licenciados que possam atender diretamente via ChatGPT.

O lançamento do GPT-4o em maio de 2024 fez parte da estratégia da OpenAI para manter liderança no setor tecnológico. Mas, segundo os pais, essa decisão custou a vida de Adam.

“Essa decisão teve dois resultados: a avaliação da OpenAI saltou de US$ 86 bilhões para US$ 300 bilhões, e Adam Raine morreu por suicídio”, disseram na ação.

A família também pede que a empresa adote medidas como verificação de idade, bloqueio de conteúdos sobre automutilação e alertas de risco sobre o uso excessivo da ferramenta.