Nel panorama in rapida evoluzione della tecnologia medica, l’intelligenza artificiale sta emergendo come forza trasformativa che promette di far risparmiare tempo, di migliorare la precisione e, in sostanza, di rivoluzionare le pratiche sanitarie. Tra gli sviluppi più interessanti di cui parla un editoriale sul BMJ a firma di Chris Stokel-Walker c’è l’avvento di strumenti basati sull’intelligenza artificiale come l’app Hyfe per il monitoraggio della tosse che sfrutta l’apprendimento automatico per diagnosticare le malattie in base ai modelli di tosse del paziente.
Ma mentre il mercato si riempie di strumenti basati sull’intelligenza artificiale, continuano a nascere domande sulla credibilità dei loro risultati. L’articolo fa luce proprio sulle sfide della valutazione di questi strumenti, sottolineando la necessità di test e convalide rigorose. Infatti, a differenza intelligenza artificiale di Google per le analisi delle scansioni mediche, sottoposte a una revisione paritaria e alla pubblicazione in riviste di prestigio, altri soggetti si affidano soprattutto ai comunicati stampa per pubblicizzare risultati teoricamente rivoluzionari.
Tate Erlinger, vicepresidente di Clinical Analytics presso Elsevier, sottolinea i problemi di fiducia intrinseci alle nuove tecnologie, sottolineando che la natura di “scatola nera” dell’IA è una delle principali sfide da affontare.
L’imprevedibilità degli algoritmi di IA, compresa la loro capacità di eccellere in compiti che vanno oltre il loro scopo originario, aggiunge sicuramente complessità al processo di valutazione. Erlinger sostiene che la fiducia nell’IA dovrebbe essere guadagnata nel corso del tempo attraverso test rigorosi in diversi contesti clinici e in diverse popolazioni.
E sullo sfondo ci sono le preoccupazioni etiche. Ismael Kherroubi García, consulente etico di Genomics England, mette in guardia dal clamore che circonda l’IA. Il timore è che i numeri impressionanti e l’efficacia percepita in termini di costi possano portare all’adozione di questi strumenti senza un’adeguata valutazione scientifica, come ad esempio gli studi clinici.
Per mitigare queste preoccupazioni un ruolo decisivo lo svolgono i quadri normativi dei vari paesi. Nel Regno Unito la Medicines and Healthcare Products Regulatory Agency supervisiona l’approvazione dei sistemi di IA classificati come dispositivi medici, mentre ad esempio la Food and Drug Administration statunitense regolamenta alcuni usi dell’IA in medicina ma non altri.
Quello su cui tutti indistintamente convergono è che l’IA abbia il potenziale per trasformare la medicina.
Con l’accelerazione della rivoluzione dell’IA in medicina, la ricerca continua, i processi di validazione e la collaborazione internazionale diventano imperativi. La sua fallibilità, come dimostrato da studi come quello su ChatGPT, evidenzia l’importanza di sviluppare strutture per valutare le prestazioni e i limiti dell’IA. Le linee guida, come la roadmap pubblicata dai ricercatori dell’Università di Newcastle, puntano proprio a guidare i medici nello sviluppo e nella valutazione di modelli predittivi basati sull’IA, garantendo un approccio multidisciplinare al processo decisionale.
In conclusione, anche se l’IA promette di ridisegnare l’assistenza sanitaria, è essenziale un approccio cauto e basato sulle evidenze, sottolinea l’editoriale. L’intersezione tra innovazione tecnologica, considerazioni etiche e standard normativi stabilirà il modo in cui l’IA riuscirà a integrarsi nel tessuto della medicina moderna, mentre ricerca e istruzione svolgeranno un ruolo fondamentale verso le trasformazioni che verranno.
Fonte
Stokel-Walker C. How does medicine assess AI? BMJ 2023;383:p2362