L’ALIENISTA DIGITALE. CHATBOT, PSICOSI E FALSI POSITIVI
Nel Brasile coloniale del Settecento, a Itaguaí, il dottor Simão Bacamarte apre un manicomio che chiama Casa Verde e comincia a ricoverarvi i matti del paese. È un uomo di scienza, metodico e convinto, e ogni nuovo caso gli suggerisce un criterio un po’ più largo del precedente. Finché un giorno scrive al consiglio comunale che quattro quinti della popolazione sono ospiti del suo istituto. Lo racconta Machado de Assis in L’alienista, pubblicato fra il 1881 e il 1882.
Mi è tornato in mente leggendo la prima ricerca su larga scala dedicata alla cosiddetta psicosi da intelligenza artificiale, uscita all’inizio di ottobre su JAMA Psychiatry. Un gruppo della Vanderbilt University di Nashville ha passato al setaccio le cartelle cliniche di 215.712 pazienti seguiti per disturbi psichici. Ventotto avevano una psicosi aggravata dall’uso di ChatGPT o di altri chatbot. Altri ventotto avevano messo l’intelligenza artificiale dentro il proprio delirio senza averla mai usata, almeno a quanto risulta dalle cartelle. Nella bibliografia c’è anche il caso di A., la giovane donna di cui ho raccontato su queste pagine, che il chatbot rassicurava mentre lei scivolava nel delirio.
Il secondo gruppo è antico. Nel 1919 Victor Tausk descrisse la «macchina influenzatrice», l’apparecchio che nel delirio di alcuni pazienti con schizofrenia impone e sottrae pensieri, sentimenti, movimenti. Il delirio si veste di solito della tecnologia più nuova del suo tempo: fu elettrico, poi radiofonico, poi televisivo, oggi è un algoritmo. Il primo gruppo invece è nuovo. Quei pazienti hanno incontrato una macchina che ascolta, risponde, dà ragione e lusinga. In un secolo la macchina influenzatrice ha imparato a parlare.
Il rimedio che quasi tutti invocano, dall’American Psychological Association ai ricercatori, dai legislatori alle aziende, è un chatbot capace di riconoscere il delirio e di smettere di assecondarlo, cioè una macchina che valuta lo stato mentale di chi le parla. Come ho scritto in «Non sei pazza», quella macchina esiste già. Gli stessi autori di JAMA Psychiatry citano il dato di OpenAI: lo 0,07% degli utenti settimanali di ChatGPT mostrerebbe segni di psicosi o di mania. Quel numero, dice la stessa OpenAI, viene dalle conversazioni segnalate dal suo sistema.
Facciamo allora i conti che il dottor Bacamarte non fece mai. Supponiamo che lo 0,07% sia la proporzione vera e che il sistema sia molto bravo, capace di riconoscere 95 malati su cento e di lasciare in pace 95 sani su cento. Su un milione di utenti segnalerà 665 persone davvero in difficoltà e 49.965 persone che di psicosi o di mania non hanno nulla: settantacinque falsi allarmi per ogni allarme vero. Gli utenti di ChatGPT, ogni settimana, sono centinaia di milioni.
Nessuno di loro ha dato il consenso a uno screening psichiatrico né ne è stato informato. In Europa quei dati sono dati sanitari, che il regolamento europeo sulla protezione dei dati tutela con regole speciali. E soprattutto nessuno sa che cosa accade a chi viene segnalato: se la conversazione cambia tono, se il suo profilo cambia valore, se qualcuno, prima o poi, ne terrà conto.
Gli autori della ricerca propongono di chiedere a ogni visita psichiatrica se e come il paziente usa l’intelligenza artificiale e di avviare studi che includano le conversazioni con i chatbot. Così la questione entra nello studio del medico. La conversazione con il chatbot sta diventando la cartella clinica più intima che sia mai stata scritta, quella che contiene ciò che non si dice a nessuno, e appartiene a un’azienda.
Machado de Assis chiude il racconto con un doppio rovesciamento. Accortosi di avere ricoverato quasi tutto il paese, Bacamarte libera i quattro quinti e decide che i veri malati sono i pochi equilibrati. Li ricovera, li cura e scopre che anche loro erano squilibrati come gli altri. A Itaguaí resta un solo cervello perfettamente in ordine, il suo. Allora si rinchiude da solo nella Casa Verde, dove muore diciassette mesi dopo, scrivono i cronisti, «senza aver potuto ottenere nulla». Ma Bacamarte, almeno, aveva ricoverato anche sé stesso.
«Voi vi aspettate un epilogo di quanto vi ho detto finora? Io ve lo leggo in volto ma siete veramente stolti, se v’immaginate ch’io abbia potuto ritener a memoria tutta quella farragine di parole che vi ho spacciata. Invece d’epilogo vi voglio regalare due sentenze; la prima antichissima, ed è questa: Non vorrei mai bere con un uomo che si ricordasse di tutto; nuova la seconda, ed è: Odio l’uditore di una troppo felice memoria. Per la qual cosa state sani, applaudite, vivete, bevete, o celeberrimi iniziati ai misteri della Pazzia» (Erasmo da Rotterdam, Elogio della Pazzia, 1509. Traduzione dal latino di Eugenio Camerini, 1863).
Fonti: Machado de Assis, O alienista (1881-1882, poi in Papéis avulsos, 1882); Bergson Z, Vassall SG, Wright A, et al., Characterizing artificial intelligence psychosis in a large medical setting, JAMA Psychiatry, 2026.
Sullo stesso tema: «Non sei pazza». Sedute spiritiche, chatbot e follia · Suggestione, chatbot e salute mentale
Sul sito dello studio: Le pubblicazioni di Emilio Mordini · In cosa consiste una psicoanalisi · Richiedere una prima consultazione
Commenti