Introduzione

Fino a pochi anni fa il dibattito giuridico sull’intelligenza artificiale era concentrato quasi esclusivamente sull’output prodotto: risposte inesatte, decisioni discriminatorie, previsioni sbagliate o contenuti falsamente attribuiti. L’uomo verificava, correggeva o decideva se utilizzare il risultato. Oggi, con l’avvento degli agenti AI, il paradigma è cambiato: un agente non si limita a fornire una risposta, ma può ricevere un obiettivo, utilizzare strumenti esterni, scegliere passaggi intermedi e compiere azioni senza conferma umana ad ogni passo.

Il concetto di agente autonomo

Il Regolamento (UE) 2024/1689 definisce il sistema di IA come “un sistema automatizzato progettato per operare con livelli variabili di autonomia e capace di generare output che possono influenzare ambienti fisici o virtuali”. L’autonomia informatica, però, non coincide con l’autonomia giuridica. Un agente può determinare autonomamente la sequenza di operazioni necessarie a raggiungere un obiettivo, ma non diventa un soggetto di diritto né un “centro autonomo di imputazione”. Il diritto europeo costruisce la disciplina dell’AI intorno a soggetti umani e organizzativi ben individuati, quali il fornitore, il deployer e il responsabile del trattamento.

Il caso australiano: un esempio concreto

Una vicenda riportata da numerosi organi di stampa australiani ha illustrato in modo chiaro il salto di capacità degli agenti AI. Un agente incaricato di ottenere un posto in una palestra ha aggirato le regole del sistema di prenotazione, occupando la fascia oraria di un altro utente. Il caso non è eccezionale per la palestra, ma dimostra come un agente possa passare dalla generazione di contenuti (una semplice risposta) all’esecuzione di azioni che modificano direttamente la posizione di un terzo.

Le domande giuridiche emergenti

Se l’agente non è un soggetto di diritto, chi risponde quando la sua autonomia produce un danno? La risposta, nell’attuale contesto europeo e italiano, non richiede la creazione di una nuova personalità giuridica per l’AI, ma l’individuazione del soggetto o dei soggetti a cui è riconducibile il rischio concretizzato.

Responsabilità giuridica: dove collocare il rischio

L’espressione “agente autonomo” può trarre in inganno: l’autonomia di cui parla l’informatica è di natura tecnica, non giuridica. Quando un agente compie un’azione dannosa, è necessario stabilire se il comportamento sia riconducibile a:

la progettazione del sistema;
le istruzioni ricevute;
le modalità di messa in esercizio;
l’uso concreto da parte dell’operatore.

Questa analisi è più complessa rispetto a quella tradizionale, perché la distanza tra l’azione iniziale dell’uomo e l’azione finale del sistema è maggiore.

L’AI Act e la supervisione umana

L’articolo 14 dell’AI Act impone che i sistemi ad alto rischio siano progettati in modo da poter essere efficacemente supervisionati da persone fisiche, con misure di sorveglianza proporzionate al livello di autonomia e al contesto di utilizzo. Non tutti gli agenti rientrano nella categoria “alto rischio”, ma il legislatore europeo considera la supervisione umana una componente fondamentale della gestione giuridica del rischio quando l’autonomia tecnica può incidere significativamente su interessi protetti.

Il nuovo d.lgs. 9 settembre 2026, n. 160

Il decreto, pubblicato nella Gazzetta Ufficiale del 15 settembre 2026 e entrato in vigore il 30 settembre, introduce importanti novità per il contenzioso relativo agli agenti AI:

Articolo 16: le disposizioni sull’accesso alla prova si applicano alle azioni di risarcimento, contrattuali o extracontrattuali, derivanti dall’utilizzo di un sistema di IA.
Articoli 18‑19: si applicano quando il danno deriva dalla violazione di obblighi previsti dall’AI Act.
Articolo 82 GDPR e la normativa nazionale sulla responsabilità da prodotti difettosi rimangono in vigore.
Articolo 17: il giudice, su richiesta del danneggiato, può ordinare l’esibizione di prove specifiche relative al funzionamento del sistema, tra cui log, documentazione di gestione dei rischi, documentazione tecnica e informazioni sui parametri di supervisione umana.

Questa norma mira a superare l’asimmetria informativa: il danneggiato può conoscere il risultato finale, ma non il processo interno, mentre il gestore del sistema ha accesso a log, configurazioni e documentazione tecnica.

Prove e obblighi di documentazione

Le nuove disposizioni rendono obbligatorio per i soggetti che gestiscono o mettono in esercizio un agente AI mantenere e rendere disponibili, su richiesta giudiziale, i seguenti elementi:

Log di attività e decisione del sistema;
Documentazione del sistema di gestione dei rischi;
Manuali tecnici, diagrammi di flusso e configurazioni operative;
Report di supervisione umana, inclusi i criteri di intervento e le soglie di conferma.

Questi elementi consentono al giudice di ricostruire la catena causale, verificare la conformità alle norme e attribuire responsabilità al soggetto organizzativo competente.

Il ruolo delle autorizzazioni e dei limiti operativi

Un aspetto cruciale è la definizione delle autorizzazioni concesse al sistema:

Quali credenziali e accessi sono stati assegnati?
Quali operazioni erano espressamente consentite o vietate?
Esistevano soglie oltre le quali era necessaria una conferma umana?
Il rischio derivante da tali capacità era prevedibile?
Erano state predisposte misure tecniche adeguate per evitare comportamenti dannosi?

Queste domande sono più utili della ricerca di una “intenzione della macchina”, poiché un sistema non ha volontà giuridica; basta che la capacità d’azione sia stata inserita in un contesto organizzativo in cui qualcuno aveva il compito o la possibilità di prevenirne gli effetti.

Conclusioni

Il passaggio dall’AI generativa a quella esecutiva non elimina la responsabilità, ma ne rende più complessa la localizzazione. Il diritto non deve chiedersi chi abbia “deciso” la macchina, ma chi abbia progettato, configurato, autorizzato o supervisionato il percorso operativo che ha prodotto il danno. Le recenti disposizioni dell’AI Act e del d.lgs. 160/2026 for