L'OMS pubblica il primo rapporto globale sull'intelligenza artificiale (AI) nella salute e sei principi guida per la sua progettazione e utilizzo
L'intelligenza artificiale (AI) è molto promettente per migliorare la fornitura di assistenza sanitaria e medicina in tutto il mondo, ma solo se l'etica e i diritti umani vengono messi al centro della sua progettazione, implementazione e utilizzo, secondo le nuove linee guida dell'OMS pubblicate oggi.
Il rapporto, Etica e governance dell'intelligenza artificiale per la salute, è il risultato di 2 anni di consultazioni tenute da un panel di esperti internazionali nominati dall'OMS.
"Come tutte le nuove tecnologie, l'intelligenza artificiale ha un enorme potenziale per migliorare la salute di milioni di persone in tutto il mondo, ma come tutte le tecnologie può anche essere utilizzata in modo improprio e causare danni", ha affermato il dott. Tedros Adhanom Ghebreyesus, direttore generale dell'OMS. "Questo nuovo importante rapporto fornisce una guida preziosa per i paesi su come massimizzare i benefici dell'IA, riducendo al minimo i suoi rischi ed evitando le sue insidie".
L'intelligenza artificiale può essere, e in alcuni paesi ricchi, è già utilizzata per migliorare la velocità e l'accuratezza della diagnosi e dello screening delle malattie; assistere con le cure cliniche; rafforzare la ricerca sanitaria e lo sviluppo di farmaci e sostenere diversi interventi di salute pubblica, come la sorveglianza delle malattie, la risposta alle epidemie e la gestione dei sistemi sanitari.
L'intelligenza artificiale potrebbe anche consentire ai pazienti di assumere un maggiore controllo della propria assistenza sanitaria e comprendere meglio le loro esigenze in evoluzione. Potrebbe anche consentire ai paesi poveri di risorse e alle comunità rurali, dove i pazienti spesso hanno accesso limitato agli operatori sanitari o ai professionisti medici, di colmare le lacune nell'accesso ai servizi sanitari.
Tuttavia, il nuovo rapporto dell'OMS mette in guardia contro la sopravvalutazione dei benefici dell'IA per la salute, soprattutto quando ciò avviene a spese degli investimenti e delle strategie fondamentali necessarie per ottenere una copertura sanitaria universale.
Sottolinea inoltre che le opportunità sono legate a sfide e rischi, compresa la raccolta e l'uso non etici dei dati sanitari; pregiudizi codificati negli algoritmi e rischi dell'IA per la sicurezza dei pazienti, la sicurezza informatica e l'ambiente.
Ad esempio, mentre gli investimenti del settore pubblico e privato nello sviluppo e nella diffusione dell'IA sono fondamentali, l'uso non regolamentato dell'IA potrebbe subordinare i diritti e gli interessi dei pazienti e delle comunità ai potenti interessi commerciali delle società tecnologiche o agli interessi dei governi nella sorveglianza e controllo sociale.
Il rapporto sottolinea inoltre che i sistemi formati principalmente sui dati raccolti da individui in paesi ad alto reddito potrebbero non funzionare bene per individui in contesti a basso e medio reddito.
I sistemi di IA dovrebbero pertanto essere progettati con cura per riflettere la diversità dei contesti socioeconomici e sanitari. Dovrebbero essere accompagnati da formazione in competenze digitali, coinvolgimento della comunità e sensibilizzazione, in particolare per milioni di operatori sanitari che richiederanno l'alfabetizzazione digitale o la riqualificazione se i loro ruoli e funzioni sono automatizzati e che devono fare i conti con macchine che potrebbero mettere in discussione la decisione- fare e l'autonomia di fornitori e pazienti.
In definitiva, guidati dalle leggi esistenti e dagli obblighi in materia di diritti umani, e da nuove leggi e politiche che sanciscono principi etici, governi, fornitori e progettisti devono collaborare per affrontare le preoccupazioni relative all'etica e ai diritti umani in ogni fase della progettazione, dello sviluppo e dell'implementazione di una tecnologia AI .
Sei principi per garantire che l'IA funzioni per l'interesse pubblico in tutti i paesi
Per limitare i rischi e massimizzare le opportunità intrinseche all'uso dell'IA per la salute, l'OMS fornisce i seguenti principi come base per la regolamentazione e la governance dell'IA:
Proteggere l'autonomia umana human: nel contesto dell'assistenza sanitaria, ciò significa che gli esseri umani dovrebbero mantenere il controllo dei sistemi sanitari e delle decisioni mediche; la privacy e la riservatezza dovrebbero essere protette e i pazienti devono fornire un valido consenso informato attraverso adeguati quadri legali per la protezione dei dati.
Promuovere il benessere e la sicurezza delle persone e l'interesse pubblico. I progettisti di tecnologie di intelligenza artificiale dovrebbero soddisfare i requisiti normativi di sicurezza, accuratezza ed efficacia per casi d'uso o indicazioni ben definiti. Devono essere disponibili misure di controllo della qualità nella pratica e di miglioramento della qualità nell'uso dell'IA.
Garantire trasparenza, spiegabilità e intelligibilità. La trasparenza richiede che siano pubblicate o documentate informazioni sufficienti prima della progettazione o dell'implementazione di una tecnologia AI. Tali informazioni devono essere facilmente accessibili e facilitare una consultazione pubblica e un dibattito significativi su come è progettata la tecnologia e su come dovrebbe o non dovrebbe essere utilizzata.
Promuovere responsabilità e responsabilità. Sebbene le tecnologie di intelligenza artificiale svolgano compiti specifici, è responsabilità delle parti interessate garantire che vengano utilizzate in condizioni appropriate e da persone adeguatamente formate. Dovrebbero essere disponibili meccanismi efficaci di interrogatorio e di riparazione per individui e gruppi che sono influenzati negativamente da decisioni basate su algoritmi.
Garantire inclusività ed equità. L'inclusività richiede che l'IA per la salute sia progettata per incoraggiare l'uso e l'accesso più equo possibile, indipendentemente da età, sesso, genere, reddito, razza, etnia, orientamento sessuale, abilità o altre caratteristiche protette dai codici dei diritti umani.
Promuovere un'IA reattiva e sostenibile. I progettisti, gli sviluppatori e gli utenti dovrebbero valutare in modo continuo e trasparente le applicazioni di intelligenza artificiale durante l'uso effettivo per determinare se l'intelligenza artificiale risponde in modo adeguato e appropriato alle aspettative e ai requisiti. I sistemi di IA dovrebbero anche essere progettati per ridurre al minimo le loro conseguenze ambientali e aumentare l'efficienza energetica. I governi e le aziende dovrebbero affrontare le interruzioni previste sul posto di lavoro, compresa la formazione degli operatori sanitari per adattarsi all'uso dei sistemi di intelligenza artificiale e le potenziali perdite di posti di lavoro dovute all'uso di sistemi automatizzati.
Questi principi guideranno il futuro lavoro dell'OMS per sostenere gli sforzi volti a garantire che il pieno potenziale dell'IA per l'assistenza sanitaria e la salute pubblica venga utilizzato a beneficio di tutti.
Da https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its -progettare-e-usare
