Il contesto attuale della regolamentazione AI in sanità

Nel panorama digitale italiano la stragrande maggioranza dei software di intelligenza artificiale è ancora valutata con un unico collaudo in fabbrica, quasi come un tostapane che, una volta certificato, non è più soggetto a controlli. Questo approccio, sebbene semplice, si rivela inadeguato per le tecnologie generative, le quali producono risposte diverse anche di fronte allo stesso input.

Negli Stati Uniti, la Food and Drug Administration (FDA) ha recentemente pubblicato, il 18 agosto 2026, il documento “Considerations for the Regulation of Generative AI‑Enabled Medical Devices”. Si tratta di un discussion paper del Center for Devices and Radiological Health (CDRH) con ventisei domande aperte rivolte a produttori, medici, pazienti e ricercatori; il termine per i commenti è il 19 ottobre 2026. Pur non essendo una norma vincolante, il documento è già più dettagliato di quanto l’Italia e l’Unione Europea abbiano finora scritto sull’argomento, dove il MDRE e l’AI Act trattano ancora algoritmi statici.

Le peculiarità dell’intelligenza artificiale generativa

Un software di IA generativa (GenAI) non si comporta come il tradizionale software di sanità digitale: accetta domande aperte, genera output differenti per lo stesso input e, spesso, si basa su “foundation model” sviluppati da terze parti. Di conseguenza, l’operatore che acquista un chatbot clinico può trovarsi di fronte a “allucinazioni” diagnostiche che non dipendono direttamente dal venditore, ma da aggiornamenti del modello linguistico avvenuti senza preavviso.

Matrice di rischio a due assi

La prima proposta della FDA è una matrice di rischio semplice ma efficace, costruita su due assi:

    • Livello di azione del software: informazione, suggerimento, esecuzione autonoma (con o senza supervisione clinica).
    • Gravità dell’errore: dal semplice consiglio errato (es. crema per edera velenosa) a errori critici che possono compromettere la vita (es. modifica della dose di insulina).

Questa classificazione permette di distinguere, ad esempio, un chatbot che spiega gli effetti collaterali di un farmaco da un sistema che decide autonomamente l’urgenza di un referto. In Italia, attualmente, la maggior parte dei dispositivi è etichettata genericamente come “alto rischio” o “nessun rischio”, senza vie di mezzo.

Valutazione basata sulle competenze

Il documento FDA propone di valutare l’IA come si fa con i medici: attraverso un percorso di competenze, non con un unico test. Il percorso prevede due fasi principali.

Benchmark non clinico su quattro aree

    • Sicurezza.
    • Competenza clinica.
    • Capacità di generalizzare su sottogruppi di pazienti diversi.
    • Competenze “agentiche” per i sistemi più autonomi.

Solo dopo aver superato questi benchmark, il dispositivo può passare a una “conferma clinica”.

Conferma clinica flessibile

    • Rilettura retrospettiva di casi reali.
    • Studi clinici prospettici randomizzati.
    • Shadow deployment: il sistema opera in tempo reale ma i suoi output rimangono nascosti a medici e pazienti, consentendo la valutazione dell’accuratezza senza rischi per i pazienti.

Il rigore richiesto cresce proporzionalmente alla posizione del dispositivo nella matrice di rischio, non semplicemente per la presenza di un modello linguistico.

Distinzione tra funzioni per paziente e per professionista

La FDA sottolinea l’importanza di distinguere le funzioni rivolte al paziente da quelle rivolte al professionista. Un medico, infatti, è più capace di riconoscere un output errato, mentre un paziente può fidarsi ciecamente di un risultato sbagliato. Secondo l’OCSE PaRIS, solo il 24 % delle persone con patologie croniche in Italia si sente sicuro nella gestione della propria salute, contro una media internazionale del 59 %.

Sorveglianza post‑market continua

Una delle rotture culturali proposte dalla FDA è l’abbandono del modello “una volta certificato, poi dimenticato”. In cambio, si suggerisce:

    • Benchmarking periodico.
    • Revisioni a campione da parte di medici indipendenti.
    • Monitoraggio del degrado delle prestazioni (drift).
    • Utilizzo di “agenti di supervisione” basati anch’essi su IA.

Questa sorveglianza continua permette di intervenire rapidamente in caso di deterioramento delle performance del modello.

Responsabilità condivisa

La responsabilità non ricade più esclusivamente sul produttore del dispositivo. Il documento FDA prevede un ecosistema responsabile che include:

    • Clinici.