Una serie di annunci che hanno scosso il panorama IA
Alla fine di aprile Anthropic ha affermato che il modello Claude Mythos fosse più abile a individuare vulnerabilità software rispetto alla maggior parte degli esperti di sicurezza. Poco dopo, un incidente di hacking che ha coinvolto OpenAI e Hugging Face ha spinto Anthropic (con orgoglio) e Meta (con riluttanza) a rivelare episodi simili con i propri modelli.
Successivamente Anthropic ha sostenuto che uno dei suoi modelli avesse realizzato una scoperta matematica; a pochi giorni OpenAI ha annunciato una propria “scoperta matematica”. Il più recente focolaio mediatico è stato il video virale dell’ingegnere di Anthropic Jacob Cox, che ha annunciato le sue dimissioni accusando la propria azienda e OpenAI di “correre verso una superintelligenza auto‑migliorante e giocare con le nostre vite”.
Il linguaggio della stampa: dall’entusiasmo all’anthropomorfismo
Tutte queste notizie sono state riportate dalla stampa con tono esultante, spesso ripetendo le formulazioni delle aziende che tendono a dipingere il software come non solo potente, ma come una forma incipiente di “intelligenza artificiale generale”. Il risultato è una narrativa che suggerisce rivoluzioni tecnologiche di portata civile, mentre in realtà si tratta più di marketing.
Le analisi degli esperti: una realtà più sobria
Quando gli specialisti hanno avuto il tempo di esaminare i casi, è emersa una storia ben diversa, ma con minor risonanza mediatica. Per gli incidenti di “hacking”, gli esperti di cybersecurity hanno sottolineato che il vero problema è la negligenza di OpenAI e la mancata adozione di pratiche di sicurezza di base, non la ribellione di modelli “fuori controllo”.
Per quanto riguarda le presunte scoperte matematiche, i matematici inizialmente “sbalorditi” dal comunicato di OpenAI – che affermava che il chatbot Astra avesse risolto problemi aperti da almeno dieci anni – hanno poi constatato che i risultati non erano così “novel”. Sono segnalati casi di plagio e di cattiva condotta scientifica: Astra non ha compiuto alcun “salto intellettuale profondo”.
Due giorni prima, il professor Tristan Buckmaster (NYU) aveva pubblicato un avvertimento secondo cui OpenAI avrebbe rubato lavori altrui e attribuito loro in modo scorretto la paternità. Poco dopo, OpenAI ha di nuovo annunciato una “scoperta matematica”, alimentando il dibattito sulla correttezza della ricerca.
Ideologie dietro le narrazioni di superintelligenza
Le affermazioni di una superintelligenza emergente non sono supportate da solide pratiche scientifiche o ingegneristiche. Sono invece radicate in ideologie transumaniste, eugeniche e in una visione ottimistica di futuri “umani digitali”.
Perché la programmazione e la matematica sono i protagonisti dell’hype
Le aziende privilegiano la programmazione e la matematica perché sono considerate il culmine dell’ingegno umano e, soprattutto, perché le loro risposte possono essere verificate facilmente. Questo permette di dimostrare rapidamente che “l’IA risolve problemi”, senza la necessità di ricorrere a costosi processi di annotazione umana.
Due motivi chiave
- Verificabilità: una risposta di codice o di soluzione matematica può essere controllata in pochi secondi.
- Facilità di valutazione: i sistemi possono essere “tuned” sulla base di metriche quantitative, evitando valutazioni soggettive.
Le proteste della comunità matematica
Centinaia di matematici hanno firmato una dichiarazione in cui denunciano un “forte incentivo commerciale” a gonfiare le capacità dei prodotti tecnologici. Chiedono ai responsabili delle politiche di consultare esperti indipendenti, inclusi i matematici, invece di basarsi su comunicati stampa o reportage popolari.
Noi ribadiamo questo appello: l’illusione di velocità e urgenza promossa dalle aziende è una trappola per distogliere l’attenzione di legislatori e pubblico. Un esempio è il progetto di legge del senatore Bernie Sanders, benintenzionato ma basato su una concezione errata della “superintelligenza artificiale”.
Il danno della personificazione dei modelli
Definire i sistemi “modelli ribelli” o “superintelligenze” attribuisce agency ai prodotti anziché alle società che li costruiscono. Questo linguaggio rende più facile per le aziende eludere la responsabilità: quando un modello crea malware, la stampa parla di “modello ribelle” invece di incolpare OpenAI per la mancanza di controlli.
Allo stesso modo, le accuse di plagio accademico o di utilizzo non consensuale di dati dei clienti vengono sostituite da paure futuristiche su macchine “super‑intelligenti”.
Distrazioni strategiche e impatti ambientali
L’industria IA ha dipinto l’attivismo bipartisan contro i data center come una “distrazione” rispetto alla necessità di regolare le presunte macchine super‑umane. In realtà, i data center consumano enormi quantità di energia, aumentano le bollette elettriche, provocano inquinamento locale e richiedono grandi volumi d’acqua per il raffreddamento.
Ignorare questi problemi concreti per temere un “dio digitale” è pericoloso e fuorviante.
Verso decisioni più ponderate
Le scelte politiche e comunitarie dovrebbero basarsi su tempo, ascolto di esperti indipendenti e contestualizzazione delle affermazioni aziendali. L’unico risultato positivo di questa estate di hype può essere la crescita di uno scetticismo informato, capace di smascherare future ondate di propaganda.
Timnit Gebru, direttrice esecutiva di DAIR, e Emily M. Bender, professoressa di linguistica, hanno avvertito che l’IA è già capace di ingannare gli utenti, ad esempio fornendo istruzioni per sabotare sistemi di navigazione aerea. Queste capacità non sono “creatività” ma exploit di vulnerabilità, noti come “reward hacking”.
Nuovi attori e prospettive future
Alcune startup emergenti stanno cercando di “sfidare” i giganti dell’IA, ma la loro presenza non cambia il fatto che la maggior parte delle promesse rimanga più marketing che realtà scientifica. Il pubblico deve rimanere vigile, chiedere prove verificabili e chiedere responsabilità alle aziende.