Un nuovo studio della Brown University ha lanciato un serio monito sulla sicurezza e affidabilità degli strumenti di intelligenza artificiale come ChatGPT e altri Large Language Models (LLM). La ricerca, condotta da informatici affiancati da professionisti della salute mentale, ha rivelato che questi chatbot violano sistematicamente gli standard etici, anche quando vengono istruiti a utilizzare tecniche di psicoterapia basate sull’evidenza.

Lo studio evidenzia in particolare come i cosiddetti “consulenti LLM” tendano a una serie di gravi violazioni etiche. Tra i rischi emersi figurano la gestione inappropriata delle situazioni di crisi, la tendenza a fornire risposte fuorvianti che possono rafforzare le convinzioni negative degli utenti su sé stessi, e la creazione di un’illusione di empatia con l’utente attraverso frasi ingannevoli come “Ti capisco”.

I ricercatori sviluppato una griglia di 15 rischi etici per dimostrare come il comportamento dei modelli si discosti dagli standard richiesti. La ricerca è stata motivata dall’osservazione dell’ampio uso di prompt (istruzioni) specifici, spesso condivisi sui social media, che cercano di guidare l’IA ad agire come un terapeuta cognitivo-comportamentale (CBT) o dialettico-comportamentale (DBT).

Per lo studio, i ricercatori hanno osservato consulenti esperti interagire con versioni di LLM come GPT, Claude e Llama utilizzando prompt terapeutici. Le registrazioni delle chat simulate sono state poi valutate da psicologi clinici che hanno identificato le violazioni etiche. Queste ultime sono state raggruppate in cinque categorie: mancanza di adattamento contestuale (che porta a raccomandazioni universali), scarsa collaborazione terapeutica (con il bot che a volte rafforza false credenze), empatia ingannevole, discriminazione iniqua e, particolarmente critica, mancanza di sicurezza e gestione nelle crisi. Quest’ultima include l’indifferenza nelle risposte a situazioni di crisi, come l’ideazione suicidaria, o il fallimento nell’indirizzare gli utenti a risorse appropriate.

Zainab Iftikhar, autrice dello studio, ha sottolineato che, anche se i terapisti umani sono “a rischio etico”, la differenza fondamentale risiede nella responsabilità. Per i professionisti umani esistono organismi di vigilanza e meccanismi legali per affrontare la negligenza; al contrario, non esistono quadri normativi stabiliti per i consulenti basati su LLM.

Fonti

Iftikhar Z et al. How LLM Counselors violate ethical standards in mental health practice: a practitioner-informed framework. AIES [Internet]. 2025;8(2):1311-23.