Il Garante lancia l’allarme sui rischi dell’uso scorretto dell’AI per i referti medici

“Un fenomeno allarmante“. Con queste parole il Garante per la protezione dei dati personali ha definito la pratica, sempre più diffusa, di caricare referti medici, analisi cliniche e radiografie su piattaforme di intelligenza artificiale generativa nella speranza di ottenere interpretazioni e persino diagnosi.

Con l’avvento dell’intelligenza artificiale il rapporto tra tecnologia e salute è diventato ancora più stretto (e controverso), sollevando preoccupazione sia sul fenomeno dell’autodiagnosi (e la conseguente scelta delle terapie da seguire o non seguire) che su quello della tutela dei dati personali.

Offerta

Xiaomi Smart Band 10

39.09€ invece di 49.99€

-22%

Amazon 🛒

L’allarme lanciato dal Garante per la privacy

Il primo pericolo evidenziato dal Garante riguarda la tutela della privacy. I dati sanitari sono tra le informazioni più delicate e sensibili che una persona possa condividere. Caricarli su sistemi digitali non specificamente progettati per la diagnosi medica espone gli utenti a una possibile perdita di controllo sul trattamento delle informazioni, soprattutto se non vengono lette con attenzione le informative fornite dai gestori del servizio. Secondo il Garante, è fondamentale capire in che modo questi dati vengano trattati una volta caricati. Possono essere cancellati subito dopo l’interazione oppure conservati per finalità di addestramento degli algoritmi, un uso che, in assenza di consenso esplicito e informato, può risultare illecito.

Oltre agli aspetti legati alla riservatezza, vi è un problema sostanziale di affidabilità. Molti dei sistemi di intelligenza artificiale generativa attualmente disponibili non sono certificati come dispositivi medici, né sono stati sottoposti ai test e ai controlli previsti dalle normative del settore. Affidarsi alle loro risposte per prendere decisioni sulla propria salute comporta un rischio concreto, perché le indicazioni fornite potrebbero rivelarsi errate, incomplete o fuorvianti.

Il Garante sottolinea come sia necessario mantenere un ruolo centrale per l’intervento umano qualificato. La supervisione da parte di professionisti sanitari deve accompagnare ogni fase in cui un sistema di intelligenza artificiale viene utilizzato per elaborare dati clinici, dallo sviluppo del software fino all’applicazione clinica. Una posizione condivisa anche dal Regolamento europeo sull’intelligenza artificiale e dal Consiglio Superiore di Sanità, che già nel 2021 aveva evidenziato la necessità di garantire un controllo umano in ogni momento del ciclo di vita di questi strumenti.

Non si tratta di una novità assoluta. Il tema era già stato affrontato dal Garante nell’ottobre del 2023, quando venne pubblicato un decalogo dedicato allo sviluppo di servizi sanitari basati sull’intelligenza artificiale. In quel documento erano stati individuati alcuni principi fondamentali da rispettare. Tra questi figurano l’obbligo di disporre di una base giuridica adeguata per il trattamento dei dati, la necessità di effettuare una valutazione preventiva dei rischi e l’adozione di misure di sicurezza e trasparenza.

L’utilizzo delle nuove tecnologie in ambito medico non può prescindere da regole chiare. Strumenti come i chatbot generativi rappresentano una risorsa interessante ma non sono, almeno allo stato attuale, una fonte affidabile per valutazioni cliniche.

Una realtà ancora da esplorare (e regolamentare)

La tecnologia, quindi, può essere un aiuto, ma non può sostituire la valutazione medica. Per questo, ribadisce il Garante, meglio essere cauti nell’affidare le valutazioni medico-sanitarie a questi strumenti. Eppure gli utenti sono costantemente bombardati da annunci e novità di strumenti (specialmente i dispositivi wearable) e funzionalità che promettono di assicurare una migliore cura del proprio benessere personale.

Se è vero che benessere e salute sono realtà articolate che non possono essere semplificate alla lettura di uno o più parametri biometrici, è altrettanto vero che oggi le aziende tecnologiche stanno investendo molto in questo settore. Basta ricordare le recenti novità: dall’introduzione dell’assistente AI nell’app Apple Health agli anelli smart che monitorano i livelli di glucosio passando per le funzioni mediche dei nuovi bracciali smart e allo sviluppo di un hub centralizzato da parte di Samsung. Senza dimenticare The Check Up di Google, un evento annuale interamente dedicato al tema della salute.

Il problema non è di poco conto. Recentemente Apple ha avviato un progetto per un ampio studio sulla salute, realizzato con il Brigham and Women’s Hospital affiliato ad Harvard, con il quale valutare proprio come i dispositivi indossabili possano contribuire a monitorare il benessere fisico e mentale (senza negare la centralità della responsabilità medica).

Il richiamo del Garante per la protezione dei dati personali è un richiamo innanzitutto alla responsabilità personale, in attesa che dal punto di vista politico e legislativo si prevedano norme in grado di tutelare maggiormente gli utenti. Soprattutto in un contesto, come quello attuale, in cui l’intelligenza artificiale generativa viene utilizzata per sostituire il consulto medico attraverso piattaforme facilmente accessibili ma prive di quei criteri che regolamentano gli studi e le ricerche in ambito medico e scientifico.