Con la progressiva applicazione dell’AI Act, però, per strutture sanitarie e amministrazioni pubbliche si apre una nuova fase: non sarà sufficiente adottare una tecnologia, ma diventerà necessario governarla, documentarla e monitorarla lungo tutto il suo ciclo di vita.

A fare il punto sulle conseguenze concrete delle nuove regole è Mario Nobile, direttore generale di AgID – Agenzia per l’Italia Digitale,in un approfondimento pubblicato da Trend Sanità. Secondo Nobile, molte applicazioni clinico-diagnostiche rientrano tra i sistemi considerati ad alto rischio, pur mantenendo un potenziale significativo nel miglioramento dei percorsi di salute e di cura.

Per Asl, aziende ospedaliere e Regioni questo significherà affrontare nuovi adempimenti, dalla valutazione d’impatto sui diritti fondamentali alla documentazione dei sistemi utilizzati, fino al controllo della qualità dei dati con cui gli algoritmi vengono alimentati. Aspetti che, nella visione di AgID, non devono essere considerati semplici formalità burocratiche, ma strumenti di tutela per cittadini e pazienti.

Un altro punto centrale riguarda la supervisione umana. L’intelligenza artificiale può supportare una decisione clinica o amministrativa, ma la responsabilità resta in capo alle persone. Per questo, secondo Nobile, le strutture sanitarie dovranno sviluppare processi “human-in-the-loop”, nei quali il professionista possa comprendere il funzionamento del sistema, verificarne i risultati e intervenire quando necessario. Allo stesso tempo sarà importante contrastare la cosiddetta shadow AI, cioè l'utilizzo non autorizzato di strumenti generici all'interno delle attività sanitarie.

Le nuove regole avranno effetti anche sul modo in cui il Servizio sanitario acquista soluzioni basate sull’intelligenza artificiale. I capitolati dovranno considerare aspetti come modularità, neutralità tecnologica, trasparenza degli algoritmi, cybersecurity, proprietà dei dati e monitoraggio delle prestazioni nel tempo. Il rapporto con il fornitore, quindi, non potrà concludersi con la semplice consegna del software, ma dovrà accompagnare l’intero ciclo di vita della soluzione.

Particolare attenzione viene riservata alla qualità dei dati sanitari. Dati incompleti, poco rappresentativi o non aggiornati possono infatti tradursi in risultati distorti. Per AgID, la governance del dato diventa quindi uno dei presupposti fondamentali per un utilizzo affidabile dell’AI, insieme allo sviluppo di infrastrutture interoperabili e alla protezione delle informazioni sanitarie.

L’obiettivo finale è superare una fase caratterizzata da numerosi progetti pilota isolati per arrivare a un utilizzo più strutturato dell’intelligenza artificiale nel sistema sanitario. In questa prospettiva, Nobile sintetizza il ruolo della normativa con una posizione netta: “L’AI Act non è un vincolo, è una garanzia”. Regole, competenze e controllo umano potrebbero quindi diventare le condizioni necessarie affinché l’innovazione tecnologica entri stabilmente nei processi di cura senza compromettere sicurezza, trasparenza e responsabilità.

Fonte: TrendSanità