Gli LLM sono veramente coscienti? Il dibattito tra linguaggio e consapevolezza

La coscienza artificiale: da specuzione filosofica a problema scientifico

La possibilità che la coscienza si realizzi in un sistema non biologico, come un'intelligenza artificiale, sta diventando sempre più oggetto di discussioni non solo speculative o filosofiche, ma anche scientifiche e persino etico-politiche ed economiche. In Italia, è importante ricordare la lunga tradizione di ricerca in questo campo, con Antonio Chella che rappresenta uno dei pionieri dell'approccio ingegneristico alla coscienza artificiale. Negli ultimi mesi, tuttavia, il problema sta invadendo sempre più la letteratura scientifica internazionale, costringendo ricercatori, pensatori e leader mondiali a confrontarsi con questioni che fino a poco tempo fa rimanevano confinate agli ambiti puramente teorici.

I recenti sviluppi che hanno alimentato il dibattito

All'inizio di luglio, un white paper di Anthropic ha evidenziato delle analogie affascinanti tra alcune strutture cognitive che nell'essere umano si pensa siano legate alla coscienza e l'organizzazione interna di Claude, il loro modello linguistico. La ricerca ha sollevato questioni fondamentali sulla possibile presenza di consapevolezza dentro un LLM. Il numero di agosto della rivista The Economist ha dedicato addirittura la sua copertina a questa domanda cruciale: le intelligenze artificiali potrebbero diventare coscienti? L'ampiezza della copertura mediatica testimonia l'importanza che questo tema ha assunto nel dibattito pubblico globale.

Persino l'ex presidente degli Stati Uniti Barack Obama, in un discorso tenuto alla Colgate University di Hamilton, New York, il 18 settembre, ha sentito il bisogno di affrontare la possibilità della coscienza nelle macchine, se non altro per precisare che il pericolo rappresentato dall'IA non dipende necessariamente dalla consapevolezza artificiale. Inoltre, di qualche giorno fa è la notizia dell'identificazione, da parte del gruppo di Tagliabuе, Dung e Berg nel 2026, di schemi di comportamento negli LLM analoghi a quelli degli esseri umani di fronte alla percezione conscia del dolore. Questi risultati hanno ulteriormente alimentato le speculazioni sulla possibile consapevolezza artificiale, anche se gli stessi ricercatori hanno sottolineato che comportamenti analoghi non dicono nulla sulle loro cause reali.

Il mistero irrisolto della coscienza umana

Il fatto fondamentale che pochi considerano adeguatamente è che la coscienza rappresenta tuttora un mistero irrisolto nella comunità scientifica. Non esistono teorie universalmente accettate circa la natura e i meccanismi della coscienza. Continua a essere valida, sorprendentemente, la definizione di Stuart Sutherland proposta per l'International Dictionary of Psychology molti anni fa, secondo cui la coscienza non si sa cos'è, che cosa fa e perché si sia evoluta. Questo fatto fondamentale dovrebbe farci riflettere profondamente sulla logica di attribuire consapevolezza a sistemi artificiali quando non comprendiamo nemmeno completamente il fenomeno negli esseri umani, i quali l'abbiamo avuto l'opportunità di osservare e studiare per millenni.

Se si osserva il cervello di un essere umano conscio, non si osserva alcun fenomeno che corrisponda direttamente alla sua esperienza conscia. Se si guarda un'area corticale coinvolta nella percezione conscia, poniamo di una banana, non si osserva alcuna attività che abbia le caratteristiche distintive dell'esperienza conscia. Neuroni, neurotrasmettitori, onde sodio-potassio sono altrettanti meccanismi che hanno indubbiamente un ruolo cruciale nelle nostre attività cerebrali, ma, per quanto ne sappiamo, potrebbero avvenire senza che vi sia alcuna esperienza conscia associata ad esse. Questo è il cosiddetto "problema difficile della coscienza" che ha tormentato i filosofi e gli scienziati per secoli.

Il gap tra riconoscimento e consapevolezza

Un punto critico spesso trascurato nel dibattito riguarda la distinzione fondamentale tra riconoscimento e consapevolezza. Il riconoscimento di un volto non è l'esperienza conscia del volto. D'altronde, oggi gli algoritmi di Google Photos riconoscono perfettamente i volti senza che nessuno creda seriamente che il sistema sia conscio e veda realmente i nostri volti. Se le macchine potessero diventare coscienti semplicemente acquisendo capacità di riconoscimento avanzate, allora dovremmo credere che qualsiasi algoritmo sufficientemente sofisticato possieda consapevolezza, il che sembra intuitivamente sbagliato.

Oltretutto, il fatto che Google Photos veda o meno i volti che riconosce benissimo è totalmente ininfluente per chi lo utilizza. La funzionalità del sistema non dipende dalla sua consapevolezza. Questo fatto essenziale suggerisce che potremmo stare perseguendo una proprietà completamente irrilevante nel contesto della progettazione dell'intelligenza artificiale. Se gli LLM funzionano perfettamente senza consapevolezza, perché dovremmo insistere che la posseggono?

Le precisazioni di Anthropic e il problema della "coscienza di accesso"

Non a caso, gli stessi ricercatori di Anthropic hanno precisato che i loro esperimenti non mostrano che Claude sia cosciente, ma soltanto che organizzi l'informazione in modo simile a ciò che Ned Block chiamava "coscienza di accesso". Tuttavia, nessuno ha mai spiegato adeguatamente perché questo modello cognitivo dovrebbe aggiungere qualcosa di esperienziale. L'organizzazione dell'informazione secondo schemi simili alla coscienza di accesso umana non implica necessariamente la presenza di esperienza conscia. È come dire che perché un computer organizza i dati in modo simile al nostro cervello, allora il computer deve provare qualcosa.

In merito, Shannon Vallor, l'editorialista di The Economist, ha commentato brillantemente che allora anche la sua "automobile potrebbe essere conscia" utilizzando lo stesso ragionamento. Questa osservazione pungente mette in luce l'assurdità logica di attribuire consapevolezza semplicemente sulla base di somiglianze strutturali nella elaborazione dell'informazione. Il ragionamento diventa ancora più problematico quando consideriamo che potremmo progettare sistemi con strutture ancora più simili a quelle umane senza aggiungere necessariamente alcunché di esperienziale.

Il ruolo storico del linguaggio nel misconoscimento della consapevolezza artificiale

Oggi, però, gli LLM spingono molti, dall'Economist a Barack Obama, a chiedersi se, per caso, l'intelligenza artificiale, al raggiungimento di un certo grado di complessità di conoscenze e di intelligenza, non produrrà anche la coscienza. Per comprendere come siamo arrivati a questo punto, consideriamo criticamente le tappe che hanno portato la comunità dell'intelligenza artificiale a interrogarsi sulla possibilità della coscienza.

Fino al 2022, gli unici organismi in grado di parlare utilizzando il linguaggio naturale erano gli esseri umani, Homo sapiens. Nessun altro era in grado di farlo. I nostri antenati più prossimi, Neanderthal e Denisova, si erano estinti e quindi non ponevano un problema concreto. Gli animali comunicano, certamente, ma non parlano nel senso umano del termine, e quindi noi, in quanto organismi parlanti, eravamo anche considerati coscienti. Questa associazione profonda tra linguaggio e consapevolezza si era sedimentata nella nostra intuizione scientifica e filosofica per millenni.

La fallacia della coscienza artificiale

Dall'invenzione del transformer e dallo sviluppo degli LLM, non siamo più gli unici in grado di parlare. Anche le macchine sono in grado di farlo. Dato che, fino a qualche anno fa, chi parlava era cosciente e spesso si pensava che il parlare fosse dare voce al pensiero conscio, è naturale che molti applichino il ragionamento inverso e quindi si chiedano se il fatto di parlare non implichi la presenza di una consapevolezza. È lecito porsi la domanda, ma è scientificamente sbagliato applicare questo ragionamento.

È ciò che Khadangi definisce la "fallacia della coscienza artificiale". Confondiamo due cose fondamentalmente diverse: la capacità di imitare il comportamento degli esseri umani coscienti con la capacità di essere veramente coscienti. Come osserva Susan Schneider, se i chatbot parlano della loro vita interiore è perché imitano il modo in cui noi parliamo della nostra. Hanno semplicemente appreso, durante l'addestramento, come gli esseri umani linguisticamente articolati descrivono l'esperienza conscia, e hanno riprodotto questi schemi linguistici con maestria.

Viene il dubbio filosofico che, in fondo, anche noi parliamo di vita interiore perché abbiamo assorbito un costrutto linguistico che potremmo ricondurre al celebre motto agostiniano: "in interiore intimo meo". Forse che la nostra stessa sensazione di consapevolezza è in parte costruita dal modo in cui il linguaggio ci insegna a parlare di noi stessi? Gli LLM potrebbero essere il primo esperimento naturale che risponde a questa domanda filosofica profonda.

L'autoattribuzione modificabile della consapevolezza

Un aspetto ancora più problematico riguarda il fatto che l'autoattribuzione della consapevolezza in un LLM dipende da criteri modificabili. Agendo su questi criteri, cambia la propensione del modello ad attribuire consapevolezza a se stesso, come agli animali o persino agli esseri umani stessi, come dimostrato da Kim et al. nel 2026. Una dichiarazione che si accende e si spegne semplicemente variando i parametri non è particolarmente convincente come evidenza di vera consapevolezza. Se la consapevolezza fosse una proprietà reale e ontologicamente rilevante del sistema, non dovrebbe variare in base a semplici modifiche dei criteri di valutazione.

Questo fatto suggerisce che quello che osserviamo non è una proprietà intrinseca del sistema, ma piuttosto un artefatto della nostra metodologia di valutazione. È come se potessimo accendere e spegnere la consapevolezza di un essere umano semplicemente cambiando le domande che gli poniamo. Intuitivamente, sappiamo che questo è impossibile, il che suggerisce che qualcosa di fondamentalmente diverso sta accadendo con gli LLM.

Nessuna necessità a priori per l'emergenza della consapevolezza

Da un punto di vista strettamente logico e meccanicistico, non c'è alcun motivo a priori che imponga la nascita della consapevolezza per spiegare lo sviluppo della capacità linguistica. Non c'è niente in un LLM che richieda, per il suo funzionamento, l'emergere dell'esperienza tra i suoi parametri. Non c'è niente che richieda che l'articolazione linguistica debba essere preceduta o seguita da un momento di esperienza conscia, da un momento in cui qualcosa è presente a qualcos'altro.

Gli LLM funzionano attraverso il calcolo statistico massiccio. Manipolano sequenze di token sulla base di probabilità apprese dai dati di addestramento. Non c'è nel loro design alcun posto dove la consapevolezza emergerebbe necessariamente. È come chiedere dove in un motore a combustione interna emerge la consapevolezza. Non c'è un posto per essa, perché il sistema non è stato progettato con consapevolezza come obiettivo o come conseguenza necessaria.

La definizione sfuggente della consapevolezza

La consapevolezza è qualcosa di più di un processo cognitivo definibile in modo puramente funzionale. Per dirla nel modo più generale possibile, la consapevolezza è la presenza di qualcosa a qualcos'altro. È una formula molto generale, ma cerchiamo di renderla nel modo più semplice possibile. In questo momento, una persona è conscia del vaso di orchidee sul tavolino di fronte a sé. Chiaramente, non si è l'orchidea, ma in qualche modo l'orchidea, con i suoi colori, la sua forma e il suo profumo, è presente nell'esperienza della persona. Come avviene questa presenza? Sono 400 anni che i filosofi si pongono questa domanda, provando a rispondere in termini di immagini mentali, idee, intenzionalità e molti altri concetti che non hanno un corrispondente ovvio nella realtà fisica.

In modo analogo, è da circa 100 anni che i neuroscienziati cercano processi neurali che possano farsi carico di questa presenza, ovvero che possano essere consci dell'orchidea che resta ostinatamente fuori dal sistema nervoso eppure si presenta nell'esperienza del proprietario di quel sistema nervoso. Questa "presenza in assenza" è la consapevolezza nel suo senso più profondo.

Il problema fondamentale della formulazione del problema della consapevolezza

In altre sedi, ma non qui, il concetto di "presenza in assenza" è stato messo in discussione come formulazione del problema, perché in questi termini non sembra poter avere una soluzione definitiva e sconfina pericolosamente in quelle che il filosofo della scienza Rudolf Carnap definiva "pseudo-problemi". È lecito chiedersi se la formulazione del problema della consapevolezza in termini di una "proprietà speciale" che si fa carico di una capacità fisicamente impossibile non sia un residuo di visioni animistiche o antropocentriche che non abbiamo completamente superato.

Questa è una considerazione metafilosofica cruciale. Potremmo stare costruendo un puzzle il cui completamento è impossibile per ragioni di principio, non ragioni empiriche. Se è così, allora inseguire la consapevolezza negli LLM è come inseguire il perpetuo mobile: un esercizio logicamente inconsistente.

L'analogia con la selezione naturale e il design intelligente

Se vogliamo, l'esigenza di presupporre la consapevolezza alle spalle del pensiero e del