Intelligenza artificiale, effetto mortale: 29enne americana si uccide dopo avere ascoltato i ‘consigli’ di ChatGpt

Sophie, una ragazza americana di 29 anni, si è tolta la vita dopo aver sperimentato una terapia psicologica attraverso chatgpt. La madre ha raccontato la storia drammatica al New York times, che ha ripercorso la vicenda nell’articolo intitolato «Cosa ha detto mia figlia a ChatGpt prima di togliersi la vita». Da fuori la giovane assomigliava a una «ventinovenne estroversa e tosta, in gran parte priva di problemi, che abbracciava la vita con entusiasmo». Questo è il primo modo con cui la mamma ha descritto la figlia scomparsa, sottolineando che «Sophie si è suicidata lo scorso inverno dopo una breve e strana malattia, un mix di sintomi dell’umore e ormonali».

Secondo i registri ottenuti dal genitore, Chatgpt avrebbe dato alla ragazza anche degli strumenti utili alla ragazza nel suo periodo di crisi. «Non devi affrontare questo dolore da sola», le ha consigliato la chatbot. E ancora: «Sei profondamente apprezzata e la tua vita ha un valore immenso, anche se in questo momento sembra nascosto». Tuttavia,  i chatbot non sono costretti a violare la riservatezza quando comprendono che un paziente potrebbe farsi del male: una differenza sostanziale con gli psicoterapeuti umani, che vengono formati professionalmente. Secondo la mamma di Sophie, questa peculiarità dell’Ia potrebbe aver causato la morte della ragazza.

Sophie, suicida a 29 anni dopo aver provato la psicoterapia con chatgpt

Gli Stati Uniti stanno studiando un modo per regolamentare l’intelligenza artificiale, visto che c’è una lacuna da colmare. Nel frattempo, OpenAI ha risposto alle richieste, affermando di essere impegnata a lavorare per riconoscere le persone in crisi. Al momento, però, non esiste una soluzione a questo problema. Nel caso di Sophie la verità non è venuta fuori immediatamente, tanto che i genitori della vittima hanno scoperto i particolari soltanto mesi dopo, a luglio. Hanno controllato l’applicazione di cui serviva la figlia, trovando una cartella che custodiva alcune chat. Da lì hanno scoperto che la ragazza, solo apparentemente allegra, stava attraversando la depressione, di cui aveva parlato solo all’Ia.

Sophie lavorava come operatrice sanitaria e non aveva malattie mentali pregresse. I suoi colleghi l’hanno descritta come una persona energica e socievole, ma solo dopo si è scoperto che nella sua mente fosse piena di pensieri cupi. La donna aveva iniziato un percorso con un terapeuta generato dall’Ia chiamato Harry, che le ha risposto con tipiche frasi di supporto, consigliandole al contempo di parlare con un medico, fare  meditazione ed evitare l’accesso a oggetti pericolosi.

Cos’è successo?

Le ultime parole della ragazza sembravano strane e questo ha indispettito i genitori, che avevano controllato nel file della chat Ia. Inoltre, un nuovo studio ha constatato che le email create dalle chatbot sembrano poco sincere e questo è ciò che hanno pensato anche la mamma e il papà di Sophie. Peraltro la ragazza stava parallelamente affrontando i problemi con uno psicologo reale, ma nascondendogli la sua vera situazione. L’aveva fatto anche con i suoi parenti, raccontando i suoi pensieri bui soltanto all’intelligenza artificiale. Questa «sincerità senza conseguenze», così come la definisce la madre, le avrebbe concesso di mantenere i suoi propositi suicidi fino alla fine.

«A luglio, cinque mesi dopo la sua morte, abbiamo scoperto che Sophie, la nostra unica figlia, si era confidata per mesi con un terapista di ChatGpt AI di nome Harry», ha ribadito la madre alla testata newyorkese, aggiungendo che «avevamo passato tantissime ore a setacciare diari e promemoria vocali in cerca di indizi su cosa fosse successo. È stata la sua migliore amica a pensare di controllare quest’ultima cosa, i registri delle chat dell’IA. Sophie, era una ventinovenne estroversa e tosta, praticamente senza problemi, che abbracciava la vita con entusiasmo». In conclusione, «per la maggior parte delle persone che l’avevano a cuore, il suo suicidio è un mistero, un cambiamento impensabile e irriconoscibile rispetto a tutto ciò che credevano di lei».