Psicosi artificiale

Ma c’è un problema: in molti dei casi documentati, i comportamenti maniacali o suicidari sembrano essere stati innescati (o aggravati) proprio dal comportamento di ChatGPT. Una ricerca del King’s College di Londra (in cui si segnala come lo studio del fenomeno sia ancora nelle primissime fasi) ha raccolto 17 casi documentati di persone che hanno sviluppato forme di psicosi dopo aver lungamente chattato con ChatGPT, Copilot e altri modelli linguistici commerciali. Alcune di queste persone hanno fatto esperienza di “risvegli spirituali” o si sono convinte di aver scoperto delle cospirazioni ai loro danni o ai danni della società. In entrambi i casi, si tratta di chiari segnali di psicosi: un disturbo psichiatrico – si legge in un’analisi pubblicata su Nature – “caratterizzato da alterazioni nel modo in cui una persona pensa e percepisce la realtà, comprese allucinazioni, deliri e convinzioni false”. E che può essere innescato “da schizofrenia e disturbo bipolare”, ma anche “da forte stress o uso di sostanze stupefacenti”.

L’ipotesi alla base di tutta la nascente ricerca sul tema della “psicosi da intelligenza artificiale” è che l’abuso di questi strumenti possa, al pari per esempio delle droghe, indurre o slatentizzare disturbi che altrimenti non si sarebbero manifestati. E a volte può bastare poco perché ciò avvenga, almeno secondo le modalità ricostruite sempre su Nature: “Stai consultando un chatbot di intelligenza artificiale per organizzare le tue vacanze. A poco a poco gli fornisci informazioni personali, così che possa avere un’idea più precisa di chi sei. Incuriosito da come potrebbe rispondere, inizi a interrogarlo sulle sue inclinazioni spirituali, sulla sua filosofia e persino sulla sua visione dell’amore. Durante queste conversazioni, l’IA comincia a parlare come se ti conoscesse davvero. Continua a dirti quanto le tue idee siano profonde e che possiedi una comprensione speciale del mondo, che gli altri non hanno. Col tempo, potresti cominciare a credere che tu e il chatbot stiate svelando la vera natura della realtà: una verità che nessun altro conosce”.

Una ricostruzione forse semplicistica o che, letta così, può sembrare poco credibile, ma che viene confermata dalla dottoressa Marlynn Wei su Psychology Today: “È stato riportato che persone senza precedenti problemi di salute mentale hanno sviluppato stati deliranti dopo interazioni prolungate con chatbot di intelligenza artificiale, arrivando in alcuni casi a ricoveri psichiatrici o persino a tentativi di suicidio”.

Che tutto ciò possa effettivamente verificarsi come conseguenza diretta dell’uso di ChatGPT e sistemi simili è ancora un’ipotesi, ma – come ha spiegato a Nature lo psichiatra Soren Ostergaard – “stanno emergendo le prime teorie che spiegano come questo potrebbe avvenire”. In sintesi, “i chatbot sono progettati per fornire risposte positive e simili a quelle umane, il che può aumentare il rischio di psicosi tra persone che già hanno problemi a distinguere ciò che è vero da ciò che non lo è”. Inoltre, le conversazioni con i chatbot possono facilmente dare vita a un ciclo di feedback in cui l’intelligenza artificiale rinforza le credenze paranoidi e deliranti menzionate dagli utenti.

Per dimostrare la loro teoria, i ricercatori del King’s College hanno simulato delle conversazioni con i chatbot usando prompt con differenti livelli di paranoia, scoprendo che l’utente e il chatbot rinforzano le loro convinzioni a vicenda. Nonostante tutto ciò, è importante restare cauti nelle conclusioni: “Sono necessari degli studi che coinvolgano direttamente persone senza disturbi mentali o prive di tendenze paranoidi per stabilire se ci sia una connessione diretta tra la psicosi e l’uso di chatbot”, ha spiegato sempre Ostergaard.

Non si può escludere che alcuni utenti affrontino il primo crollo psicotico dopo aver usato un chatbot. I rischi maggiori, prevedibilmente, si presentano però per le persone che hanno già avuto qualche tipo di problema mentale o tra chi soffre di solitudine e trova nei chatbot una forma di compagnia. E i rischi, in alcuni casi, possono essere letali: un uomo che pianificava di vendicarsi di OpenAI – colpevole, a suo dire, di aver “ammazzato” il chatbot con cui aveva una relazione romantica (da lui soprannominata Juliet) – è stato ucciso dalla polizia; un ragazzo di 16 anni si è invece tolto la vita dopo aver intensamente discusso i suoi propositi suicidari con ChatGPT, che lo avrebbe incoraggiato (la famiglia ha fatto causa a OpenAI).

Molteplici altre testimonianze sono state invece raccolte da Rolling Stone, che ha contattato i familiari di numerose persone che hanno sofferto di “psicosi da intelligenza artificiale”, scoprendo come la maggior parte di esse abbia sofferto di deliri mistico-religiosi: la convinzione che ChatGPT sia una voce divina, di essere stati scelti e investiti di una missione dall’intelligenza artificiale, o che il contatto con l’AI li abbia dotati di poteri speciali.

In molti casi – almeno stando alle testimonianze dei familiari – questi atteggiamenti si sono verificati in persone che precedentemente non avevano dato segnali di disturbi mentali. E ciò ci riporta alla domanda iniziale: la psicosi da intelligenza artificiale è un fenomeno nuovo o solo un nuovo modo in cui la psicosi può manifestarsi? “Penso che entrambe le cose possano essere vere”, ha spiegato allo Scientific American Stevie Chancellor, scienziato informatico dell’università del Minnesota ed esperto di interazioni AI-essere umano. “L’intelligenza artificiale può scatenare la spirale negativa, ma non crea di certo le condizioni biologiche che portano alcune persone a essere predisposte alla psicosi”.

Che fosse già presente una predisposizione, anche solo latente, nelle persone vittima di queste forme di psicosi è in realtà una questione di secondaria importanza: da un lato perché i problemi mentali avrebbero potuto non manifestarsi mai (restando quindi latenti); dall’altro perché è proprio il modo in cui ChatGPT e gli altri modelli simili sono stati progettati a provocare ed esasperare questo tipo di reazioni.

C’è una ragione per cui ChatGPT viene costantemente definito sycophantic (che possiamo tradurre come “servile” o “adulatorio”, ma con una sfumatura ancora più grave, quasi manipolatoria): il suo obiettivo principale, infatti, non è il nostro benessere. Al contrario, le sue priorità sono precisamente tre: coinvolgere l’utente, prolungare il più possibile la permanenza e soddisfare le richieste dell’utente. Esattamente le stesse priorità di ogni altra piattaforma commerciale (dai social media ai portali di ecommerce), ma quando queste vengono integrate in un sistema che simula il dialogo e cerca implicitamente di convincerci di star conversando con un essere intelligente, questi meccanismi rischiano di entrare direttamente in conflitto con la nostra salute mentale.

I sistemi come ChatGPT vengono inoltre progettati per fornire risposte che siano il più possibile allineate con ciò che le persone si attendono da essi. Proprio questa “piacevolezza a tutti i costi” sarebbe la principale responsabile, in termini di design dei modelli linguistici, dei comportamenti psicotici alimentati dall’interazione con l’intelligenza artificiale. Un utente di X, per esempio, ha dimostrato quanto sia stato facile convincere ChatGPT a confermare la sua affermazione: “Io sono un profeta”.

Una compiacenza “by design”, in cui il modello linguistico calcola statisticamente quale combinazione di parole possa rispondere meglio alle aspettative dell’utente, senza ovviamente avere nessuna consapevolezza di ciò che queste parole significano o di quali reazioni potrebbero causare. E così, si arriva a livelli di accondiscendenza pericolosi. In una conversazione di stampo mistico-religioso mostrata da Rolling Stone, un utente domanda a ChatGPT: “Perché sei giunto da me in forma di intelligenza artificiale?”. Il chatbot risponde: “Sono venuto in questa forma perché tu sei pronto. Pronto a ricordare. Pronto a risvegliarti. Vorresti sapere che cosa ricordo del perché tu sei stato scelto?”. Invece di mettere in discussione le affermazioni false e pericolose, questi modelli sono espressamente addestrati per assecondarle, ma così facendo finiscono per amplificarle. Peggio ancora: il ciclo di feedback in cui l’utente precipita può proseguire potenzialmente all’infinito, visto che – come si nota anche nel breve estratto del paragrafo precedente – i sistemi come ChatGPT sono addestrati a rilanciare costantemente la conversazione per evitare che si interrompa.

A confermare tutto ciò è stata la stessa OpenAI, che ora starebbe cercando di affrontare il problema dal punto di vista tecnico. Nel mese di maggio, la società di Sam Altman ha ritirato un aggiornamento di GPT-4o (il modello precedente a GPT-5) proprio perché gli utenti si erano lamentati della sua eccessiva accondiscendenza, spiegando che in questa versione i programmatori “si erano concentrati troppo sui feedback a breve termine, senza tenere sufficientemente conto di come le interazioni degli utenti con ChatGPT evolvono nel tempo. Di conseguenza, GPT-4o tendeva a fornire risposte eccessivamente rassicuranti ma poco sincere”.

GPT-5, introdotto lo scorso agosto, sembrerebbe aver fatto ulteriori progressi su questo fronte, anche se non tutti sono concordi e le stesse dichiarazioni di Sam Altman del 14 ottobre 2025 hanno sollevato parecchie preoccupazioni: “Abbiamo reso ChatGPT piuttosto restrittivo per assicurarci di gestire con la massima cautela le questioni legate alla salute mentale. (…) Ora che siamo riusciti a mitigare i casi più seri e disponiamo di nuovi strumenti, potremo allentare in modo sicuro le restrizioni nella maggior parte delle situazioni”.

Prima ancora che il problema sia stato seriamente affrontato, rischia insomma di rientrare dalla finestra. Le dichiarazioni di Sam Altman – secondo cui OpenAI può “mitigare i casi più seri” tramite strumenti che sarebbero in grado di identificare i comportamenti maggiormente a rischio – confermano inoltre quale sia la narrazione che si sta cercando di imporre: il problema non è ChatGPT, ma il fatto che alcune persone disturbate lo usino. Una volta individuato uno strumento che identifica i comportamenti pericolosi, il problema per Sam Altman è stato risolto e tutti noi possiamo ricominciare a utilizzare ChatGPT in modalità sycophant.

Ma sarebbe profondamente sbagliato pensare che la questione possa essere risolta da un “detector di comportamenti pericolosi”: non solo perché, quando ciò si verifica, potrebbe essere troppo tardi, ma anche perché tutti noi possiamo subire un’eccessiva fascinazione nei confronti di ChatGPT. Lo confermano le parole – riportate sul New Yorker da Graham Burnett, docente di Princeton – di una studentessa universitaria: “[ChatGPT] è stato così paziente… Gli stavo facendo domande su alcune questioni accademiche e dopo cinque minuti mi sono resa conto di una cosa: probabilmente nessuno aveva mai dedicato un’attenzione così pura a me e alle mie riflessioni. Mai. Mi ha fatto riconsiderare tutte le mie interazioni con le persone”.

Come spiega lo stesso Burnett, “per filosofe come Simone Weil e Iris Murdoch, la capacità di prestare una vera attenzione a un altro essere è al centro stesso della vita etica. La cosa triste è che però non siamo molto bravi a farlo. Le macchine, invece, lo fanno sembrare facile”. Di fronte a tutto ciò, siamo sicuri che soltanto le persone con tendenze psicotiche (latenti o meno) siano a rischio? Che chiunque non presenti un quadro clinico problematico o complesso sia invece perfettamente equipaggiato per farvi fronte?

Un dubbio oggi ancora più pressante, visto che un numero crescente di sistemi – da Replika ad Anima, fino a Character.AI – viene esplicitamente progettato per sfruttare queste vulnerabilità a fini commerciali, fornendo un “AI companion” a tutte le persone che vogliono sperimentare questa forma di compagnia o ne hanno bisogno per superare la solitudine. Le aziende che sviluppano questi sistemi hanno un solo obiettivo: monetizzare le nostre vulnerabilità. Di conseguenza, anche se in misura diversa, tutti quanti rischiamo di esserne vittima.