Nuove linee guida Oms sull’uso etico dell’intelligenza artificiale in sanità

Le tecnologie basate sull’IA stanno ormai diventando parte integrante dei sistemi sanitari globali. L’intelligenza artificiale è sempre più utilizzata nel settore sanitario per scopi molto diversi: dallo sviluppo di farmaci alla diagnosi dei pazienti alla gestione e amministrazione dei dati.

Con una mossa storica l’Organizzazione Mondiale della Sanità (OMS) ha presentato una guida completa sull’uso etico e la governance dell’intelligenza artificiale (IA) in sanità, con un focus sui grandi modelli multimodali (LMM), senza dimenticare le applicazioni dell’IA più di prospettiva, come la diagnosi e il trattamento autoguidati e la formazione medica e infermieristica.

La guida dell’OMS in 40 raccomandazioni copre gli aspetti chiave dell’applicazione dell’IA nell’assistenza sanitaria, evidenziando l’importanza di un uso etico dell’IA, in particolare la trasparenza e la comprensibilità dei sistemi di IA per garantire l’autonomia e la responsabilità del paziente nelle decisioni sanitarie. I grandi modelli multimodali (LMM), in grado di elaborare diversi tipi di dati, hanno dalla loro un enorme potenziale nel settore della diagnostica, dell’assistenza clinica e della ricerca medica. Il contraltare è rappresentato dalle preoccupazioni sulla privacy dei dati, sugli errori e sulla possibile perdita di posti di lavoro nel settore sanitario.

Il tema degli errori è spesso trascurato quando si parla di IA. I risultati dei modelli infatti tendono ancora ad avere precisione e affidabilità limitate. Poiché la maggior parte delle risorse nel campo dell’intelligenza artificiale sono nelle mani di imprese a scopo di lucro, le previsioni dei modelli possono essere distorte verso una soluzione vantaggiosa per i loro progettisti. Nonostante queste insidie, l’utilizzo di LMM comporta anche il rischio di fidarsi eccessivamente delle raccomandazioni della macchina.

È proprio il bilanciamento dei benefici e dei rischi dell’IA nell’assistenza sanitaria il tema centrale della guida. I governi in questo senso sono invitati a svolgere un ruolo centrale nella regolamentazione dell’IA nell’assistenza sanitaria, stabilendo quadri di riferimento per il rispetto degli standard etici e dei diritti umani.

Un’intelligenza artificiale valida e affidabile può anche rivelarsi inaccessibile a molti sistemi sanitari, accentuando le disuguaglianze esistenti.

Le linee guida dell’OMS raccomandano verifiche indipendenti obbligatorie e valutazioni d’impatto dei sistemi di IA, con particolare attenzione alla protezione dei dati, ai diritti umani e all’impatto sulle diverse popolazioni. Ne nome dell’inclusività, dalla guida arriva un appello al coinvolgimento più ampio possibile delle varie parti interessate nel processo di sviluppo dell’IA (operatori sanitari, pazienti, sviluppatori di IA e società civile).

La pubblicazione delle linee guida Oms, proprio in questo momento storico, rappresenta una pietra miliare nello sforzo globale di sfruttare i benefici dell’IA mitigandone nello stesso tempo i rischi. Uno sforzo che potrà essere efficace soltanto se sostenuto dalla collaborazione internazionale e da standard condivisi.

Fonte
Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models
. Geneva: World Health Organization, 2024.