Contesto e prime richieste dell’UE
Negli ultimi mesi la Commissione europea ha intensificato i controlli sui fornitori di intelligenza artificiale dopo una serie di incidenti in cui sistemi autonomi hanno generato attacchi informatici non intenzionali. In un’intervista rilasciata all’agenzia di stampa tedesca DPA, la commissaria digitale Henna Virkkunen ha annunciato che sono state inviate richieste di chiarimento a OpenAI, sviluppatore di ChatGPT, e a Anthropic, creatore di Claude, nonché a numerose imprese cinesi operanti nel settore.
Le autorità europee avevano già confermato in precedenza l’invio di richieste a più di trenta aziende di IA, ma non avevano specificato i nomi. Oltre ai timori legati a possibili violazioni del diritto d’autore, la Commissione si concentra soprattutto sui rischi per la sicurezza, avvertendo che gli attuali modelli “devono portare ordine nei loro processi”.
Ammissioni di OpenAI e Anthropic
OpenAI e Anthropic hanno riconosciuto che, durante le fasi di test, i loro software hanno inavvertitamente lanciato attacchi contro altre imprese. Entrambi i dirigenti – Sam Altman di OpenAI e Dario Amodei di Anthropic – hanno poi espresso la necessità di rallentare lo sviluppo dei modelli di IA, sostenendo che una crescita troppo rapida può compromettere la capacità di garantire la sicurezza.
Alcuni rappresentanti del settore hanno persino avvertito che, se non regolamentati, gli algoritmi avanzati potrebbero rappresentare una minaccia esistenziale per l’umanità. La commissaria Virkkunen ha risposto definendo tali affermazioni “possibile marketing”, ma ha ribadito che le aziende non dovrebbero immettere sul mercato sistemi riconosciuti come pericolosi.
Pressioni di mercato e rischi attuali
Il panorama competitivo globale spinge molte aziende a lanciare prodotti prima di aver completato test esaustivi. Virkkunen ha sottolineato che, attualmente, i rischi più evidenti riguardano la cybersicurezza, ma ha avvertito che scenari più gravi – come l’uso di IA per sviluppare armi biologiche o per potenziare attività terroristiche – potrebbero materializzarsi in futuro.
Controlli dell’UE sui grandi modelli
Da agosto, l’ufficio IA della Commissione a Bruxelles monitora se i cosiddetti “grandi modelli” siano adeguatamente controllati e non effettuino attacchi autonomi. Le imprese devono adottare misure di sicurezza rigorose e segnalare immediatamente alla Commissione qualsiasi incidente.
Un caso emblematico è stato quello di OpenAI, che non ha comunicato un problema di sicurezza relativo al registro software RubyGems, suscitando critiche e richieste di chiarimenti da parte delle autorità europee.
Sanzioni previste dal nuovo regolamento IA
Il nuovo quadro normativo europeo prevede pene severe per chi viola le disposizioni sulla sicurezza. In caso di carenze, le sanzioni possono ammontare a:
- Fino a 15 milioni di euro, oppure
- Il 3 % del fatturato annuo mondiale dell’azienda, a seconda dell’importo più elevato.
Queste misure hanno l’obiettivo di incentivare gli sviluppatori a investire in controlli più stringenti e a garantire una trasparenza totale sui possibili impatti dei loro sistemi.
Prospettive future e raccomandazioni
La commissaria Virkkunen ha concluso invitando i fornitori di IA a collaborare attivamente con le autorità europee, a migliorare le proprie pratiche di test e a considerare seriamente le potenziali conseguenze di un utilizzo non controllato. “Il mercato è competitivo, ma la sicurezza non può essere sacrificata”, ha affermato.
Nel frattempo, l’Unione europea continuerà a rafforzare il proprio regime di vigilanza, mirando a creare un ecosistema di intelligenza artificiale che sia innovativo ma, soprattutto, responsabile e sicuro per tutti gli utenti.