SUGGESTIONE, CHATBOT E SALUTE MENTALE

Georg Friedrich Kersting, Lesender bei Lampenlicht (Uomo che legge al lume di lampada), 1814, Kunst Museum Winterthur, Reinhart am Stadtgarten.

Un paziente si sdraia sul lettino: «Dottore, l’interpretazione del sogno era giusta, sa? Ho chiesto a ChatGPT». Poco prima, una signora non più giovane, in cura per stati depressivi ricorrenti, si era presentata all’appuntamento in preda a un’ansia evidente. Gemini, a cui aveva sottoposto gli esiti di una sua RNM fatta per una fastidiosa lombalgia, non aveva escluso un tumore renale. Sono solo due tra i tanti possibili esempi: sempre più spesso mi capita sul mio lavoro di imbattermi nell’intelligenza artificiale.

Se Freud vivesse di questi tempi, avrebbe probabilmente scritto «Il caso dell’uomo dei prompt». Ci stavo pensando leggendo una ricerca dedicata ai chatbot usati per il sostegno psicologico dei pazienti e per prevenire la ricaduta di disturbi psichici, recentemente pubblicata su una qualificata rivista americana di etica e neuroscienze (AJOB Neurosci. 2026 Apr 15:1-13, dove troverete anche un articolo di commento che ho scritto a questo studio). Un gruppo di ricercatori ha chiesto a pazienti e professionisti della salute mentale che cosa li preoccupasse di più nell’uso delle nuove tecnologie IA. In cima alle risposte ottenute figurava la perdita del contatto umano e i rischi per la privacy. Sono quasi sicuro che anche la maggior parte di voi avrebbe dato la stessa risposta.

Quasi nessuno aveva, invece, menzionato la libertà di scelta, quello che gli studiosi anglosassoni chiamano comunemente «autonomia». In altre parole, pochissimi degli intervistati avevano riflettuto sul fatto che un modello di intelligenza artificiale che «seguiva» la salute psicologica propria o dei propri pazienti costituiva un rischio per la libertà di scelta di pazienti e personale sanitario. Infatti, l’algoritmo presenta alle persone solo scelte che lui ritiene compatibili con l’obiettivo che gli è stato assegnato. Non proporrà mai decisioni che è stato addestrato a ritenere sbagliate o su cui non è stato addestrato (queste ultime semplicemente non esistono nel suo universo «mentale»).

Ad esempio, è presumibile che l’algoritmo di questo chatbot potesse suggerire a un paziente l’alternativa se rivolgersi a uno psicologo o uno psichiatra per un consulto ma non credo che abbia mai suggerito di rivolgersi a una vecchia zia saggia o a un amico dei tempi scuola, per non dire a un esorcista o un astrologo (eppure sappiamo che Jung, ad esempio, non disprezzava di chiedere la carta astrale dei suoi pazienti e che, a volte, un sacerdote può illuminare alcuni casi che sfuggono alla comprensione medica). Intendo dire che, anche se decisamente non in linea con gli insegnamenti della medicina scientifica, ci sono un gran numero di alternative, non necessariamente tutte completamente insensate, che probabilmente questo chatbot ignorava e sicuramente non consigliava. Molte di esse possono essere estremamente rilevanti in alcuni contesti culturali: si pensi a certe comunità del sud-Italia dove è ancora fresca la memoria di fenomeni come il tarantismo e i tarantolati oppure alla diffusione del satanismo in determinati gruppi giovanili.

Gli autori dello studio hanno suggerito che gli intervistati non avessero capito la domanda oppure si fossero ingannati sulla natura del servizio offerto. In realtà, non c’è ragione di stupirsi del risultato della ricerca perché è esattamente quello che ci si poteva aspettare. La ragione è interna alla natura dell’IA: i modelli di IA che oggi conosciamo e usiamo sono splendide macchine suggestionatrici o, per rendere omaggio alla storia della psicoanalisi, «influenzatrici».

Suggestione viene dal latino subgerere, portare sotto, insinuare, far scivolare qualcosa sotto. Il nome dice il meccanismo, che non è quello che comunemente si immagina, cioè indurre nella mente del suggestionato un’idea, ma esattamente il contrario. La suggestione lavora per sottrazione, non per addizione: riduce le alternative nella mente della «vittima» così che questa si ritrova a scegliere solo tra le opzioni che il suggestionatore ha già deciso per lui in partenza.

Una suggestione ben fatta lascia totale libertà di scelta ma riduce le alternative tra cui orientarsi. La deliberazione razionale resta possibile in teoria ma inutile in pratica, perché si esercita su un numero di scelte ridotto e preselezionate. Si tratta dello stesso meccanismo usato da una tecnica illusionistica chiamata «mentalismo», che lascia alla persona l’illusione di scegliere ma in realtà la conduce a far la scelta decisa in anticipo dal «mago». Una suggestione riuscita è invisibile a chi la riceve. Se gli intervistati avessero dichiarato di sentirsi meno liberi o di temere per la propria libertà, allora sì che ci sarebbe stato da stupirsi: avrebbe voluto dire che il meccanismo psicologico non aveva funzionato.

L’intelligenza artificiale, come oggi la conosciamo, si basa su un processo peculiare, caratteristico anche della suggestione: la ricorsività. La suggestione è ricorsiva perché chi la subisce comincia a sua volta a suggestionare senza accorgersene e, per prima cosa, suggestiona proprio chi lo ha suggestionato. Con un sistema che impara non dalle proprie sensazioni ma dalle nostre, come è il caso dell’intelligenza artificiale, il cerchio si chiude a perfezione: l’algoritmo ripropone quello che ha imparato analizzando miliardi di testi digitali di ogni tipo (scritti, immagini, registrazioni video e vocali, fogli di calcolo e così via) che sono stati prodotti da noi oppure anche da altri modelli di IA che, però, si sono basati in origine su testi generati da esseri umani. Abbiamo creato un Monsieur de Lapalisse globale, infinitamente più «informato» ma anche del tutto privo di ogni capacità autoironica (al contrario, evidentemente, dell’originale).

In quarant’anni da psicoanalista ho imparato che una frase deve sempre mettere in sospetto: «Questo l’ho deciso io». Normalmente, è il segnale che è avvenuto l’esatto contrario. Gli esseri umani amano la suggestione e vogliono essere suggestionati. La suggestione alleggerisce la fatica di vivere, aiutando a non scegliere ma lasciando la convinzione di aver scelto. Decidere è faticoso come è faticosa la libertà. La suggestione solleva da questi due pesanti fardelli permettendo, tuttavia, di continuare a considerarsi una persona libera, a volte, addirittura, più delle altre. Il primo a ragionarci sopra fu il filosofo sofista Gorgia da Leontini, nel quinto secolo avanti Cristo. A me pare che le sue conclusioni non siano mai state davvero superate.

Gorgia sosteneva che per suggestionare servono tre cose: una parola potente, la disposizione di chi ascolta, e il kairòs, il momento opportuno. Queste tre condizioni si realizzano ogni qual volta chiediamo consiglio o ci rivolgiamo per aiuto a un modello IA (qui mi riferisco solo all’uso di massa dell’IA a cui stiamo assistendo, non ad altri suoi usi più specifici). Gli algoritmi cercano correlazioni e quando una correlazione è abbastanza forte rispondono o agiscono, senza porsi la questione del perché. La loro potenza si basa su un volume di conoscenze e raffronti tra esse tale da illudere che sia stata raggiunta e superata un’ipotetica soglia oltre la quale la quantità diventerebbe qualità.

La disposizione di chi ascolta, poi, è ovvia: chi si rivolge a un modello IA è proprio perché si trova davanti a un problema che non sa risolvere o che, per contingenze specifiche, preferisce demandare. Infine, gli algoritmi rispondono o compiono l’azione richiesta sempre al momento opportuno perché le loro scelte cercano di sincronizzarsi con lo stile, i tempi di lavoro e le necessità di chi li interroga. Così, l’IA ci suggestiona per via del suo stesso modo di funzionamento, senza che nessuna intelligenza malvagia la abbia progettata a tal fine.

L’IA è come lo scorpione della celebre favola: pungere è nella sua stessa natura. Peccato che questa volta la rana siamo noi.

Sulle dinamiche tra psicoanalisi, etica e nuove tecnologie ho appena scritto la voce «Suggestion, Ethics of» per la terza edizione dell’Encyclopedia of Applied Ethics, pubblicata da Elsevier, online e, dal 2027, anche disponibile in tre volumi. Il riferimento completo è: Emilio Mordini, «Suggestion, Ethics of», in Encyclopedia of Applied Ethics, terza edizione, a cura di Ruth Chadwick, Elsevier, 2026, DOI 10.1016/B978-0-443-15715-8.00043-1, https://doi.org/10.1016/B978-0-443-15715-8.00043-1. Ai colleghi che lavorano su questi temi posso inviare copia del testo per il loro uso personale: basta scrivermi a em@emilio-mordini.it.