Un pappagallo dopato che si specchia: le metafore dell'intelligenza artificiale

Un pappagallo dopato che si specchia: le metafore dell'intelligenza artificiale

Settantuuno anni fa, il 31 agosto 1955, quattro ricercatori statunitensi – John McCarthy, Marvin Minsky, Nathaniel Rochester e Claude Shannon – firmarono la proposta per un seminario estivo da tenere l'anno successivo al Dartmouth college, nel New Hampshire. Nel titolo di questo seminario apparve un'espressione completamente nuova: "intelligenza artificiale". Da allora, questa semplice locuzione ha catturato l'immaginazione collettiva, diventando il simbolo di una delle rivoluzioni tecnologiche più significative della nostra era. Tuttavia, come sostiene lucidamente Alberto Puliafito nel suo articolo per Internazionale, questa espressione si è rivelata contemporaneamente geniale e profondamente problematica, generando una lunga serie di metafore che usiamo per tentare di comprendere queste tecnologie complesse.

L'uso di metafore concettuali per descrivere fenomeni nuovi e difficili da afferrare è naturale e probabilmente inevitabile. Il linguista George Lakoff e il filosofo Mark Johnson, nel loro lavoro seminale "Metafora e vita quotidiana", hanno chiarito che le metafore concettuali non sono semplici figure retoriche, ma piuttosto parole e espressioni che usiamo per avvicinarci alla comprensione di una cosa attraverso un'altra cosa che già conosciamo meglio. In altre parole, trasportiamo la nostra comprensione di un dominio familiare a uno nuovo e misterioso, creando così un ponte semantico che facilita la comunicazione.

Tuttavia, il problema fondamentale delle metafore concettuali, specialmente nel contesto dell'intelligenza artificiale, è che tendono sistematicamente a concentrarsi su una parte specifica del funzionamento di queste tecnologie, lasciando da parte tutto il resto. Questo processo di selezione e omissione non è innocente: le parti omesse sono spesso proprio quelle più cruciali per una comprensione etica, politica e sociale della tecnologia.

Il pappagallo stocastico e il problema della riduzione

Una delle espressioni più celebri e diffuse è quella di "pappagallo stocastico". Questa metafora nasce da un articolo del 2021 firmato da Emily Bender, Timnit Gebru, Angelina McMillan-Major e Margaret Mitchell, tre ricercatrici e un ricercatore di grandissima rilevanza nel campo dell'etica dell'IA. La metafora funziona straordinariamente bene perché cattura elegantemente il meccanismo alla base dei large language model (LLM): questi sistemi producono sequenze di parole che risultano plausibili in base alla probabilità statistica, senza nessuna garanzia effettiva di corrispondenza con il mondo reale.

L'articolo originale, pubblicato online con l'emoji di un pappagallo direttamente nel titolo per renderla memorabile, affrontava anche questioni di grandissima importanza: i costi ambientali devastanti della creazione di modelli sempre più grandi, e i pregiudizi sistemici contenuti nei dati di addestramento. Tuttavia, questa parte cruciale del lavoro si è persa quasi completamente per strada, fagocitata e oscurata dalla metafora stessa del pappagallo, che era molto più memorabile e facile da condividere.

Anni dopo, Emily Bender ha dovuto fare alcune precisazioni pubbliche sul suo lavoro, lamentandosi esplicitamente di questa dinamica di appropriazione selettiva, che secondo lei ha fatto parecchi danni alla comprensione genuina delle questioni sollevate. Nel frattempo, la metafora del pappagallo si era trasformata in qualcosa di sempre più stretto e limitante. I comportamenti emergenti osservati dai ricercatori e le rappresentazioni interne ai modelli che emergono dagli studi contemporanei rendono la metafora del semplice "pappagallo" sempre meno vera e sempre più fuorviante.

La frase "è solo un pappagallo stocastico" (oppure "è solo statistica") è diventata una sorta di mantra per chiudere le discussioni proprio nel momento in cui bisognerebbe aprirle ulteriormente. Con questi strumenti è possibile fare tantissime cose complesse e sofisticate, eppure la metafora riduttiva suggerisce che non meritino seria considerazione. C'è un'ironia aggiuntiva nel fatto che i pappagalli veri escono particolarmente maltrattati da questa metafora: sono infatti animali sociali e piuttosto intelligenti, e il paragone con una macchina che semplicemente ripete pattern statistici ne diminuisce la dignità cognitiva.

Allucinazioni, stronzate e la ricerca del linguaggio preciso

Un'altra metafora ampiamente utilizzata è quella di "allucinazione" per descrivere le risposte false che i chatbot producono con sorprendente sicurezza. La parola ha il grande merito di dare un nome a un'esperienza che chiunque abbia usato un chatbot riconosce immediatamente e visceralmente. Tuttavia, il significato originario del termine suggerisce anche una mente che percepisce le cose in maniera alterata, il che implica che l'errore dipenda da un guasto o una distorsione del sistema, come quando una persona allucinato vede cose che non esistono a causa di una condizione patologica.

Eppure, e questo è un punto cruciale spesso trascurato, le risposte giuste degli LLM e quelle sbagliate sono il frutto dello stesso identico meccanismo sottostante. Non c'è una differenza qualitativa o di processo tra una risposta corretta e una errata, solo una differenza di probabilità statistica. La metafora dell'allucinazione nasconde questa realtà fondamentale.

Nel 2024, i filosofi Michael Townsen Hicks, James Humphries e Joe Slater hanno proposto un'alternativa concettuale interessante: i chatbot non producono "allucinazioni" bensì "stronzate" nel senso descritto dal filosofo Harry Frankfurt nel suo saggio "Stronzate. Un saggio filosofico". Secondo Frankfurt, la stronzata è un discorso che è radicalmente indifferente alla verità: chi la produce non si preoccupa di stabilire se sia vera o falsa, non mente intenzionalmente (cosa che presupporrebbe una consapevolezza della verità), ma parla senza preoccuparsi della corrispondenza con la realtà. È un'immagine molto più precisa e filosoficamente sofisticata del funzionamento effettivo dei modelli linguistici.

Tuttavia, anche questa alternativa ha almeno due problemi significativi. Prima di tutto, attribuisce un atteggiamento – l'indifferenza – a qualcosa che non ne possiede propriamente uno, poiché la macchina non ha consapevolezza né intenzioni. In secondo luogo, la metafora rischia di farci credere che queste macchine siano essenzialmente inutili o ingannevoli, quando in realtà producono risultati estremamente utili in numerosi contesti.

Il JPEG sfocato del web: compressione e rappresentazione

Nel febbraio 2023, lo scrittore di fantascienza e saggista Ted Chiang, noto per le sue riflessioni profonde sulla tecnologia, ha proposto un'interessante analogia: ha paragonato ChatGPT, che era diventato pubblico solo da poco, a un "JPEG sfocato del web". Cioè, un'immagine compressa attraverso un algoritmo di compressione con perdita, che riduce i dettagli ma conserva un'impressione generale di visione d'insieme. È una metafora veramente efficace per spiegare perché le risposte dell'IA sembrano giuste anche quando sono approssimative, generaliste e prive di dettagli specifici.

Il rischio principale di questa metafora è che ci spinge a pensare che le IA siano essenzialmente degli hard disk, dei contenitori che conservano copie più o meno sbiadite e degradate delle opere originali con cui sono state addestrate. Suggerisce cioè che il modello contenga al suo interno una sorta di archivio di tutto il web, semplicemente compresso e sfocato. La realtà è molto diversa: la conservazione integrale di tutti i dati di addestramento sarebbe tecnicamente ed economicamente impossibile, e rappresenterebbe l'eccezione assoluta rispetto al funzionamento effettivo di questi sistemi.

Inoltre, come accade spesso con queste prospettive, la sfocatura viene considerata un difetto fondamentale che mina alla base l'utilità pratica degli strumenti. Ma esiste proprio perché le macchine non contengono e non potrebbero contenere i dati grezzi con cui sono state addestrate, bensì solo una loro rappresentazione astratta e compressa. Questa non è un'imperfezione, ma una caratteristica intrinseca e necessaria del loro funzionamento.

Il doping: moralità, equità e convenzioni sociali

Un'altra metafora che ha guadagnato trazione negli ultimi anni è quella del "doping", suggerita per descrivere l'uso dell'intelligenza artificiale in attività come la scrittura creativa. Questa metafora è stata particolarmente discussa in relazione al caso del romanzo di Thélyson Orélien e ai dibattiti sulla letteratura generata con ausilio dell'IA. La parte virtuosa di questo parallelismo è che ci obbliga a porci domande fondamentali e difficili: quali regole vogliamo stabilire socialmente? Dove finisce l'aiuto lecito e accettabile? Dove comincia quello che come società decidiamo di non tollerare?

Allo stesso tempo, dobbiamo ammettere onestamente che quel confine sarà sempre una convenzione sociale, proprio come le sostanze vietate nello sport. Non esiste alcuna definizione oggettiva e naturale di cosa sia il "doping"; è una linea tracciata consensualmente da istituzioni sportive che potrebbero decidere diversamente. Tuttavia, il doping presuppone un giudizio morale implicito: chi si dopa sta barato, sta trasgredendo una norma. Presuppone anche che esista una prestazione "pulita" e "naturale" da proteggere, come se l'attività sportiva o letteraria avesse un'essenza naturale e incontaminata.

La realtà della scrittura è molto più complessa e contaminata di quanto la metafora del doping suggerisca. La scrittura ha sempre avuto molte mani: editor che modificano il testo, correttrici che verificano la coerenza, traduttrici che adattano il significato tra lingue diverse, revisori che rilavorano il materiale, come ha giustamente ricordato anche la scrittrice Claudia Durastanti nei suoi interventi pubblici sul tema.

L'analogia del doping si porta dietro anche tutte le sue istituzioni caratteristiche: il test per l'identificazione, la squalifica come punizione, la lista ufficiale delle sostanze proibite, la denuncia pubblica, le accuse anonime, il dubbio sistematico, lo stigma sociale a priori. E qui emerge il problema politico più grave: la metafora del doping si concentra ossessivamente su chi ha barato, su chi ha usato uno strumento vietato, ma lascia sempre fuori dal discorso chi scrive le regole, chi stabilisce i confini, e soprattutto chi può doparsi senza essere scoperto perché già possiede una posizione di privilegio consolidato.

Lo specchio e i suoi riflessi deformati

La filosofa Shannon Vallor, che insegna etica della tecnologia, ha dedicato un intero libro del 2024 intitolato "The AI mirror" all'idea che questi sistemi di intelligenza artificiale ci restituiscano fedelmente l'immagine dei nostri dati e dei nostri pregiudizi umani. È una metafora che ha avuto una grande risonanza ed è stata utilizzata anche nella prefazione di "Intelligenza artificiale", un libro curato dalla redazione di Internazionale.

La metafora dello specchio funziona bene intuitivamente perché è vero che, essendo addestrate con tutto quello che c'è di umano su internet e nei dati pubblici, le IA riflettono inevitabilmente i nostri valori, i nostri pregiudizi, le nostre ossessioni, le nostre discriminazioni. Se addestriamo un modello con testi che rispecchiano il sessismo, il razzismo e tutte le altre forme di discriminazione strutturale della nostra società, il modello riprodurrà e potenzierà questi pregiudizi.

Tuttavia, il limite principale di questa metafora è la presunzione implicita di innocenza dello specchio, che viene considerato un oggetto puramente passivo e neutro. Ma gli specchi dell'intelligenza artificiale non sono oggetti passivi: sono costruiti deliberatamente da un numero relativamente piccolo di aziende multinazionali che effettuano scelte consapevoli e strategiche. Queste aziende scelgono quali dati includere o escludere dal dataset di addestramento, applicano filtri specifici per modificare i risultati, stabiliscono regole di comportamento, determinano quali comportamenti premiare e quali rifiutare, creano liste di domande a cui i modelli devono rifiutarsi di rispondere, fissano limiti d'uso e stabiliscono i prezzi di accesso.

Se le IA sono specchi, allora sono specchi radicalmente deformanti, distorti dalle scelte consapevoli e dai valori delle aziende che li creano. Ma questa realtà cruciale raramente viene comunicata chiaramente a chi usa questi sistemi. La metafora rischia perciò di assolvere da responsabilità chi li produce, minimizzando e nascondendo il loro ruolo attivo nella modellazione dei risultati.

Lo stagista-copilota e l'invisibilizzazione del lavoro reale

Ethan Mollick, professore alla Wharton School dell'università della Pennsylvania negli Stati Uniti, ha suggerito da diversi anni di trattare i chatbot come una persona, un collega o uno stagista da supervisione attenta. Come indicazione di metodo pratico e operativo, funziona effettivamente bene: presuppone che tu deleghi al sistema solo ciò che hai precedentemente deciso di delegargli, che tu contrlli attentamente ogni risposta generata, e che tu pubblichi solamente il lavoro che è stato completamente revisionato e di cui ti assumi personalmente l