Una prima collaborazione tra TÜV SÜD e QuantPi
TÜV SÜD e QuantPi hanno annunciato un accordo di cooperazione volto a unire le rispettive competenze nella verifica e nella valutazione dei sistemi di intelligenza artificiale (IA). QuantPi, primo laboratorio partner CARAT di TÜV SÜD, porta nella partnership la sua tecnologia di test IA con garanzia statistica, consentendo di creare prove di conformità verificabili per prodotti basati sull’IA, in particolare nel campo della Physical AI e delle macchine autonome.
Contesto normativo e sfide emergenti
Con l’entrata in vigore dell’EU AI Act e della nuova direttiva macchine (UE) 2023/1230, le autorità europee richiedono prove più rigorose sulla sicurezza delle funzioni basate su IA. Quando l’IA è integrata come componente di sicurezza o assume funzioni di sicurezza, i produttori devono dimostrare affidabilità operativa. Il regolamento prevede esplicitamente requisiti di conformità per l’IA nei prodotti regolamentati.
Una delle difficoltà principali è la generazione di prove di test robuste e trasparenti. Attualmente esistono pochi metodi consolidati che offrano risultati statisticamente significativi, metodologie riproducibili e tracciabilità completa per la valutazione di conformità. Contestualmente, gli standard internazionali che collegano l’intelligenza artificiale alla sicurezza funzionale sono ancora in fase di sviluppo, fra cui spicca la serie ISO/IEC‑22440, che fornisce linee guida per l’impiego dell’IA in applicazioni critiche.
Statistica al posto dei benchmark tradizionali
Il valore aggiunto della collaborazione risiede nella capacità della piattaforma QuantPi di descrivere il comportamento di un sistema IA con garanzie statistiche e limiti di confidenza predefiniti. Questo approccio genera affermazioni quantificabili e riproducibili sulla performance di un modello, andando oltre i tradizionali risultati di benchmark o le valutazioni qualitative.
La metodologia è indipendente dal modello: non è necessario accedere ai parametri interni del modello né ai dati di addestramento. QuantPi gestisce la sua piattaforma secondo un sistema di gestione della qualità allineato alla norma ISO/IEC 17025:2017, garantendo che sia i processi sia i risultati siano tracciabili e soggetti a audit. L’unione di rigorosità statistica e un processo di verifica certificabile fornisce una base solida per l’utilizzo dei risultati nei contesti di conformità e certificazione.
«QuantPi ha dimostrato di poter fornire risultati di test IA scientificamente solidi. Questo completa perfettamente il nostro programma di test e certificazione IA», ha dichiarato Benedikt Pulver, responsabile della Sicurezza delle Macchine presso TÜV SÜD. «La collaborazione ci permette di valutare sistemi IA altamente complessi e di offrire ai clienti un percorso chiaro verso la certificazione.»
Philipp Adamidis, CEO e co‑fondatore di QuantPi, ha aggiunto: «Le aziende che sviluppano prodotti IA per mercati regolamentati affrontano la stessa barriere: il sistema funziona, ma mancano prove accettabili per le autorità di certificazione. Con il riconoscimento formale dei risultati di QuantPi da parte di un organismo notificato, creiamo un percorso pratico per testare sistematicamente i sistemi IA e usarne i risultati nella valutazione di conformità.»
Physical AI: sfide specifiche per la sicurezza
Il nuovo approccio di test è particolarmente rilevante per la Physical AI, le macchine autonome e la robotica. Humanoid, robot mobili autonomi (AMR) e altre macchine basate su IA operano in ambienti dinamici e interagiscono con gli esseri umani. Il loro spazio operativo è difficilmente riproducibile completamente in fase di test.
In questi contesti, le tecniche statistiche consentono di trarre conclusioni affidabili dal numero limitato di prove effettuate, fornendo una misura della probabilità che il sistema si comporti correttamente anche in scenari non testati direttamente. Con la crescente diffusione di sistemi autonomi, tale capacità diventa cruciale.
Parallelamente, la serie ISO/IEC‑22440 in fase di definizione fornisce indicazioni su come integrare l’IA nella sicurezza funzionale, creando un ponte metodologico tra le due discipline.
«Lo sviluppo verso la Physical AI cambia radicalmente la concezione di sicurezza. Le IA assumono compiti direttamente legati al mondo fisico», afferma ancora Benedikt Pulver. «Per i produttori sarà fondamentale dimostrare la sicurezza in modo misurabile, tracciabile e valido per tutta la durata del ciclo di valutazione.»
Un framework condiviso per test e certificazione
La sinergia tra QuantPi e TÜV SÜD si traduce in un framework completo che supporta l’esecuzione strutturata di test IA e la preparazione dei risultati per la successiva valutazione di conformità e certificazione. Il focus iniziale è sulla Physical AI e sulle applicazioni industriali regolamentate, dove la maturità dei prodotti IA incontra requisiti stringenti di sicurezza.
La partnership è inserita in un più ampio ecosistema internazionale per la sicurezza della Physical AI. Entrambe le società partecipano al programma NVIDIA Halos, una piattaforma di sicurezza che offre l’AI Systems Inspection Lab, un programma di ispezione accreditato ANAB per la sicurezza funzionale dell’IA in Physical AI. L’obiettivo è strutturare la valutazione dei sistemi di sicurezza e facilitare l’accesso a valutazioni indipendenti.
Il risultato è un ecosistema chiuso: lo sviluppo dell’IA avviene, i test vengono effettuati con supporto statistico, i risultati sono certificati da enti indipendenti, e il ciclo si chiude con una prova accettata a livello europeo.
Misurare la fiducia nell’IA
Con l’aumento dell’impiego dell’IA, la questione della fiducia e della sicurezza diventa sempre più centrale per i produttori. La capacità di dimostrare, con dati concreti, la performance e il comportamento delle proprie soluzioni IA è fondamentale per accedere a mercati regolamentati.
TÜV SÜD e QuantPi offrono un approccio pratico: la sicurezza dell’IA diventa misurabile e tracciabile, facilitando l’ingresso dei prodotti IA nei mercati internazionali, soprattutto per i produttori europei che desiderano esportare soluzioni conformi alle normative più stringenti.
Profilo di QuantPi
QuantPi si occupa della validazione dell’intelligenza artificiale in contesti aziendali. La sua piattaforma mostra ai clienti cosa fa realmente un sistema IA, indipendentemente dal modello, dalla modalità o dal tipo di agente (fisico o digitale), senza richiedere accesso a parametri interni o dati di addestramento. Contestualmente, QuantPi fornisce intervalli di confidenza statistica per ogni misura, generati all’interno dell’ambiente del cliente.
QuantPi è una spin‑off del CISPA Helmholtz Center for Information Security ed è riconosciuta da TÜV SÜD come laboratorio di prova per l’IA. La sede principale è a Saarbrücken. Per ulteriori dettagli visitare quantpi.com.
Conclusioni
La collaborazione tra TÜV SÜD e QuantPi rappresenta un passo decisivo verso la standardizzazione dei test per l’intelligenza artificiale, offrendo una risposta concreta alle nuove esigenze normative dell’EU AI Act e della direttiva macchine. Grazie a metodi statistici avanzati, un sistema di gestione della qualità certificato e l’integrazione in ecosistemi di sicurezza come NVIDIA Halos, i produttori di IA potranno dimostrare in modo trasparente e verificabile la sicurezza dei loro sistemi, aprendo la strada a una diffusione più ampia e fidata dell’IA in ambiti critici e regolamentati.