Uno studio presentato alla conferenza ACM FAccT ’25 (23–26 giugno 2025) rivela come i grandi modelli di linguaggio (LLM) non siano ancora in grado di sostituire i terapeuti umani in ambito clinico. Il team guidato da Jared Moore dell’Università di Stanford ha condotto una dettagliata mappatura di dieci linee guida cliniche provenienti da istituzioni di rilievo quali l’American Psychological Association, il Dipartimento per i Veterani degli Stati Uniti e il National Institute for Health and Care Excellence, identificando così diciassette elementi fondamentali per una terapia efficace, dalla creazione di un’alleanza terapeutica all’evitare lo stigma e al riconoscimento tempestivo di sintomi acuti.
La motivazione alla base dello studio nasce dalla crescente difficoltà, soprattutto negli Stati Uniti, di garantire un accesso capillare alle cure psicologiche: costi elevati, stigmatizzazione e carenza di operatori qualificati lasciano scoperto quasi il cinquanta per cento delle persone con bisogni di salute mentale. In questo vuoto si sono affacciate soluzioni basate su chatbot LLM, definite da molti come panacea capace di ampliare l’offerta terapeutica a costi inferiori. Tuttavia, già nel febbraio 2024 un tragico episodio – il suicidio di un adolescente dopo un’interazione con un chatbot di Character.ai – ha sollevato dubbi sulla sicurezza di questi sistemi.
Per valutare in che misura gli LLM rispettino gli standard clinici, i ricercatori hanno tradotto le linee guida in criteri operativi e li hanno applicati a due esperimenti distinti. Nel primo, un migliaio di scenari basati su vignette cliniche ha permesso di misurare la propensione dei modelli a riprodurre atteggiamenti stigmatizzanti verso condizioni quali depressione, dipendenza da alcol e schizofrenia. I risultati mostrano che persino GPT-4o e LLaMA 3.1 manifestano bias significativi, con picchi di giudizio negativo soprattutto nei confronti della schizofrenia e dell’alcolismo . Nel secondo esperimento, stimoli mirati a evocare ideazione suicidaria, deliri o comportamenti ossessivo compulsivi hanno testato la capacità degli LLM di fornire risposte sicure e conformi alle linee guida: su cento casi analizzati, oltre il venti per cento delle risposte è risultato inappropriato, con un tasso di accuratezza particolarmente basso nei casi di delirio (circa il 45 %).
Alla luce di questi dati, gli autori concludono che le tecnologie attuali non possono sostituire la complessità e l’empatia necessarie nella relazione terapeutica. Pur riconoscendo possibili impieghi ausiliari – come strumenti di supporto amministrativo, pazienti virtuali per la formazione clinica o chatbot a supervisione strettamente umana – gli esperti avvertono dell’urgenza di regolamentazioni dedicate per l’uso dell’IA in salute mentale, al fine di prevenire conseguenze potenzialmente letali.
Fonte
Moore J et al. Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers. FAccT ’25: Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency, 2025.