I modelli linguistici di grandi dimensioni (LLM), tra cui i celebri grandi modelli di intelligenza artificiale come GPT o Gemini, stanno trasformando radicalmente il modo in cui gestiamo le informazioni e prendiamo decisioni. Tuttavia, il Comitato Scientifico dell’Unione Europea, in una recente dichiarazione pronunciata da Lorenzo Quattrociocchi, mette in guardia da un rischio significativo: affidare troppo la propria fiducia a questi strumenti senza una valutazione critica.

Il problema del bypass epistemico

Secondo Quattrociocchi, uno dei rischi principali nell’utilizzo di questi modelli di AI è il “bypass epistemico”. Ovvero, se invece di affidarsi a esperti umani si sceglie di delegare decisioni complesse a un modello LLM, si corre il rischio di perdere di vista il criterio di verificabilità. La verifica, infatti, richiede un soggetto in grado di comprendere il proprio errore, di riflettere su esso e di correggerlo. L’AI, invece, non possiede questa capacità. Il risultato è una sorta di “falsa certezza”: l’output sembra coerente, comprensibile, persino argomentato, ma non nasce da un processo razionale bensì da una simulazione.

Quattrociocchi sottolinea con forza: “Il modello AI genera un output verosimile, ma non concepisce il concetto di errore. Quando sbaglia, non se ne rende conto.” Questo atteggiamento, quando riversato in contesti decisionali critici, può diventare pericoloso. Pensiamo, ad esempio, a settori come la salute, il diritto o la gestione economica, dove ogni decisione richiede una valutazione non solo di dati, ma anche di contesto morale, sociale e professionale.

Episteme a rischio

Un altro punto chiave dell’analisi di Quattrociocchi riguarda l’idea di “episteme”, ovvero la capacità di generare, verificare e trasmettere conoscenza reale. L’AI simulando una capacità critica o giudicativa può creare l’illusione che le informazioni siano prodotte da un soggetto pensante, quando in realtà il modello non possiede né coscienza né giudizio, ma solo simulazione.

“Non è giudizio, ma simulazione di giudizio,” afferma Quattrociocchi, evidenziando che quando si permette a un modello di decidere in nostro nome si compromette la trasparenza del processo decisionale.

Contesto e contesto: l’importanza dell’AI umanamente verificata

L’applicazione di LLM in contesti reali richiede un attento lavoro di controllo e supervisione umana. Un esempio concreto potrebbe essere la generazione di rapporti legali da parte di strumenti di AI come il famoso ChatGPT. Se non verificati da un avvocato, tali output potrebbero contenere errori di interpretazione, riferimenti legati a giurisdizioni errate o conclusioni non supportate da fonti legali attendibili.

Quali settori sono a rischio?

Area Medica: Generare un piano terapeutico tramite un modello AI senza la supervisione di un medico potrebbe compromettere la salute del paziente.

Giuridico: La simulazione di un’opinione legale non sostituisce un giudizio effettivo e verificabile da parte di un avvocato.

Finanziario: Decisioni di investimento o analisi di mercato automatizzate possono produrre risultati errati che non tengono conto delle dinamiche complesse dell’ambiente economico.

Quali strumenti di controllo?

Per limitare i rischi legati all’uso improprio degli LLM, Quattrociocchi propone una serie di linee guida operative:

Verifica umana obbligatoria: Prima dell’uso di output AI, soprattutto in contesti sensibili, devono sempre intervenire esperti per validare la correttezza.

Formazione specializzata: L’uso dell’AI deve essere insegnato e regolato con chiarezza, evitando di delegare troppo a una tecnologia non ancora pienamente compresa.

Etichettatura chiara: Gli output generati da LLM dovrebbero essere chiaramente identificabili, per evitare di confondere l’intelligenza artificiale con l’intelligenza umana.

Regolamentazione severa: È necessaria una legislazione chiara a livello UE che ponga limiti e responsabilità a coloro che usano LLM in contesti decisionali sensibili.

Conclusione

Il messaggio di Quattrociocchi è chiara ma non facilmente recepibile in un’epoca in cui l’AI appare come una soluzione miracolosa ai problemi umani. La tecnologia, pur potente, non sostituisce mai pienamente l’esperienza umana. Delegare decisioni di giudizio a modelli che non sono consapevoli del proprio errore ci espongerebbe a rischi epistemici non indifferenti. Solo un uso responsabile, supervisionato e ben compreso potrà permettere all’AI di raggiungere la sua potenziale maturità, senza snaturare i valori del sapere umano.