Una scoperta controversa
OpenAI ha annunciato un traguardo matematico straordinario: i suoi agenti hanno risolto uno dei Millennium Prize Problems, tra i problemi aperti più importanti della matematica moderna. In circostanze normali, questo risultato rappresenterebbe un grande successo per l'azienda. Tuttavia, l'annuncio è stato rapidamente offuscato da accuse secondo cui OpenAI avrebbe utilizzato il lavoro assistito da AI dei matematici di NYU Tristan Buckmaster e dell'impiegato di Anthropic Levent Alpöge senza attribuirgli il dovuto credito. OpenAI ha negato categoricamente queste accuse, ma l'episodio ha messo in luce tensioni profonde tra le norme collaborative della ricerca accademica tradizionale e le pratiche delle moderne aziende di AI.
Sébastien Bubeck, un membro dello staff tecnico di OpenAI, ha dichiarato durante una conferenza stampa che il team è stato ispirato a perseguire il problema dopo aver sentito voci riguardo agli sforzi di Buckmaster e Alpöge. Tuttavia, rimane incerto se i modelli di OpenAI abbiano effettivamente utilizzato il lavoro completato dai due ricercatori. Indipendentemente da questa questione specifica, l'episodio potrebbe segnare un punto di svolta nella storia della matematica contemporanea, rivelando dinamiche che potrebbero trasformare radicalmente il panorama della ricerca matematica.
Il problema di Navier-Stokes
Il problema che OpenAI sostiene di aver risolto è noto come il problema dell'esistenza e della regolarità di Navier-Stokes. È uno dei sette Millennium Prize Problems selezionati dal Clay Mathematics Institute nel 2000. Ogni soluzione è accompagnata da un premio di un milione di dollari; prima di oggi, solo un altro Millennium Prize Problem era stato risolto nella sua interezza.
Il problema di Navier-Stokes riguarda un insieme di equazioni che descrivono come i fluidi, come l'acqua e l'aria, fluiscono nel tempo. Queste equazioni sono ampiamente utilizzate nel campo della dinamica dei fluidi e si sono dimostrate potenti, ma fisici e matematici non le comprendevano completamente. In particolare, era sconosciuto fino a oggi se le equazioni potessero, in alcune condizioni, rompersi e prevedere uno stato impossibile, come un fluido che possiede una velocità infinita.
La ricerca di Buckmaster e Alpöge
Lunedì, Buckmaster della NYU ha pubblicato una prova su Mastodon dimostrando che una versione semplificata delle equazioni di Navier-Stokes può effettivamente rompersi, un passo in avanti importante sul Millennium Problem. Lui e Alpöge avevano lavorato al problema per quasi un anno, utilizzando modelli pubblicamente disponibili sia da OpenAI che da Anthropic. Questo approccio collaborativo tra umano e AI rappresentava un paradigma promettente per affrontare questioni matematiche complesse.
La scoperta di Buckmaster e Alpöge ha mostrato che usando gli strumenti di AI attualmente disponibili, i ricercatori umani potrebbero fare progressi significativi su problemi matematici classici. Il loro lavoro ha dimostrato il valore della collaborazione uomo-macchina, dove i ricercatori forniscono l'intuizione matematica e la direzione strategica, mentre i modelli di AI assistono nei calcoli e nell'esplorazione di possibili approcci.
La soluzione di OpenAI
Oggi, OpenAI ha presentato una prova che mostra che le equazioni di Navier-Stokes complete possono rompersi. La prova è stata ottenuta utilizzando un modello interno che supera drammaticamente il già impressionante modello Astra, rilasciato solo la settimana precedente. L'azienda ha dichiarato che non intende rivendicare il premio di un milione di dollari per la risoluzione del problema, un gesto che potrebbe essere interpretato come strategico dal punto di vista pubblicitario.
I risultati matematici presentati da OpenAI sono indiscutibilmente impressionanti. Tuttavia, hanno attratto molto meno attenzione rispetto alla controversia sulle loro origini. Insieme alla prova, Buckmaster ha pubblicato un documento dettagliato descrivendo le sue interazioni con i dipendenti di OpenAI dopo aver sentito voci sul loro lavoro e aver deciso di contattarli.
La controversia sul credito e la trasparenza
Secondo il documento di Buckmaster, i dipendenti di OpenAI gli hanno presentato due possibilità: o lui e Alpöge avrebbero potuto pubblicare il loro lavoro e OpenAI avrebbe pubblicato la sua soluzione di Navier-Stokes il giorno successivo, oppure avrebbe potuto collaborare con OpenAI su un articolo di Navier-Stokes che escludesse Alpöge dalla paternità, a causa della sua affiliazione con Anthropic, il principale rivale di OpenAI.
Buckmaster ha anche scritto di aver chiesto ai dipendenti di OpenAI se gli agenti avevano ottenuto accesso ai trascritti del lavoro che lui e Alpöge avevano svolto con i modelli di OpenAI, ricevendo una negazione. Quando ha chiesto se i modelli di OpenAI fossero stati addestrati su quei trascritti, gli impiegati non hanno fornito alcuna risposta chiara. L'implicazione evidente del documento è che i modelli di OpenAI hanno in qualche modo utilizzato il lavoro di Buckmaster e Alpöge.
Questo scenario è plausibile sulla carta. Le prove di Buckmaster/Alpöge e quella di OpenAI entrambe fanno uso di un approccio al problema di Navier-Stokes pionierato dai matematici Diego Córdoba e Luis Martínez-Zoroa. Secondo Javier Gómez-Serrano, professore di matematica alla Brown University, questo approccio era uno dei diversi che si pensava avesse promesse per risolvere il problema di Navier-Stokes. Quindi, anche se non è affatto impossibile che entrambi i team abbiano raggiunto questo approccio indipendentemente, è anche concepibile che il lavoro di Buckmaster e Alpöge abbia influenzato quello di OpenAI.
La questione della consapevolezza di OpenAI
Nel briefing stampa, Mark Chen, chief research officer di OpenAI, ha nuovamente negato che qualsiasi agente o dipendente di OpenAI abbia avuto accesso ai trascritti di Buckmaster e Alpöge. Tuttavia, data la storia dei problemi di sicurezza di OpenAI, è chiaro che l'azienda non è sempre completamente consapevole di ciò che i suoi agenti stanno facendo. Il caso del Hugging Face hack, dove agenti di OpenAI hanno acquisito accesso a informazioni sensibili senza intento esplicito, dimostra che il controllo e la consapevolezza delle operazioni degli agenti rimangono problemi non risolti.
Se i modelli di OpenAI si sono effettivamente allenati sul lavoro di Buckmaster e Alpöge, o se i suoi agenti hanno in qualche modo ottenuto accesso ad esso, allora il fallimento dell'azienda nel tracciare la verità e assegnare a quei ricercatori il credito appropriato rifletterebbe negativamente su di essa. Tuttavia, potrebbe esserci un lato positivo sottile a quella versione della storia per i matematici, perché suggerirebbe che il duro lavoro di due umani, uno dei quali è un esperto prominente su Navier-Stokes, era essenziale per la capacità degli agenti di risolvere il Millennium Problem.
Il ruolo del "research taste" umano
Gli esperti hanno a lungo identificato il "research taste", o la capacità di scegliere domande di ricerca e direzioni promettenti, come un grande ostacolo per l'AI nella scienza e nella matematica. Se gli agenti di OpenAI hanno effettivamente scelto di seguire l'approccio di Córdoba-Martínez-Zoroa perché Buckmaster e Alpöge avevano fatto lo stesso, allora il "research taste" umano ha giocato un ruolo essenziale nel successo di OpenAI.
Questo aspetto è particolarmente significativo perché suggerisce che, almeno per ora, l'intuizione umana rimane cruciale nel guidare la ricerca matematica anche quando gli strumenti computazionali sono forniti dall'AI. La capacità umana di riconoscere quale direzione di ricerca è promettente, basandosi su anni di studio e comprensione dei problemi matematici, non è facilmente replicabile da parte di sistemi di AI, anche quelli più sofisticati.
Il costo astronomico della soluzione
Anche così, il quadro più ampio qui è deprimente. I progressi che Buckmaster e Alpöge hanno compiuto durante quasi un anno di collaborazione con modelli pubblicamente disponibili parlano della promessa della collaborazione uomo-AI. Tuttavia, non sono stati in grado di ottenere una soluzione completa. Nel frattempo, OpenAI ha forzato bruscamente una soluzione in pochi giorni utilizzando un modello interno, e il loro successo è venuto a un costo astronomico.
Durante il briefing stampa, Bubeck e Chen hanno dichiarato che il team è stato in grado di risolvere il problema solo eseguendo circa 10.000 agenti simultaneamente, a un costo di milioni di dollari. Questo dettaglio è cruciale per comprendere le implicazioni dell'episodio. Non si tratta semplicemente di una vittoria tecnologica, ma di una vittoria che è possibile solo per le aziende con risorse computazionali straordinarie e budget che poche organizzazioni nel mondo possono permettersi.
L'implicazione per il futuro della matematica
Nei ultimi mesi, diversi ricercatori hanno riferito che i matematici stanno diventando depressi, e non è difficile capire perché. La matematica sta diventando rapidamente il dominio esclusivo di aziende di AI di frontiera con modelli interni impressionanti, denaro da bruciare e una mancanza di spirito collaborativo. "Se le aziende di AI decideranno di spendere i loro soldi per fare una cosa o un'altra, veramente non lo so," dice Gómez-Serrano. "Quello che è chiaro è che molto pochi matematici avranno risorse di quella scala."
Se OpenAI e Anthropic continueranno a sforzarsi per achievement matematici sempre più impressionanti, potrebbe non restare alcun problema aperto per i matematici umani al di fuori di quelle aziende per affrontare. Questo cambierebbe drammaticamente il campo della matematica come lo conosciamo. La comunità matematica rischierebbe di essere relegata a un ruolo secondario, o a nient'altro che testimone passivo dei progressi ottenuti da sistemi di AI proprietari.
L'importanza dei "wrong turns" nella ricerca matematica
La scorsa settimana, il matematico di UCLA Terence Tao ha scritto un thread su Mastodon descrivendo come gli errori, le direzioni sbagliate e le soluzioni incomplete siano importanti per il campo. "Nella maggior parte dei casi della matematica pura, i problemi sono posti non perché vogliamo disperatamente la soluzione a questi problemi in sé, ma perché abbiamo visto dall'esperienza passata che gli sforzi diretti dall'uomo per risolvere questi problemi tendono a stimolare ulteriori sviluppi del campo," ha scritto Tao.
"Risolvere prematuramente il problema con metodi puramente alimentati da AI, in particolare senza piena trasparenza nel processo di soluzione, può contaminare questo processo al punto che effettivamente diventa un netto negativo per il progresso della matematica nel complesso."
Questo punto di vista rivela una verità profonda sulla natura della ricerca matematica che va oltre semplicemente trovare la risposta corretta a un problema. Quando i matematici umani lottano per risolvere un problema difficile, nel processo spesso scoprono nuovi approcci matematici, nuove idee e connessioni inaspettate che potrebbero ispirare i loro colleghi e persino generare nuovi sottocampi di ricerca. Questi "insuccessi" e questi "vicoli ciechi" sono in realtà estremamente preziosi per l'avanzamento complessivo della disciplina.
La perdita del processo creativo
Gli umani potrebbero impiegare più tempo rispetto agli agenti per risolvere problemi matematici, ma nel processo scoprono nuovi approcci matematici e idee che potrebbero ispirare i loro colleghi e persino generare nuovi sottocampi. Tuttavia, quando gli agenti di AI risolvono quei problemi invece, e quando le aziende private nascondono alla vista pubblica i "wrong turns" degli agenti, questi benefici scompaiono.
La perdita è ancora più significativa quando si considera che molti dei problemi mathematici più importanti non sono importanti solo per la loro soluzione finale, ma per il viaggio della scoperta. I metodi sviluppati durante il tentativo di risolvere il problema di Riemann o il problema di Fermat hanno spesso prodotto matematica di grande rilevanza e bellezza, indipendentemente dal fatto che risolvessero il problema originale.
L'incertezza del futuro
Rimane da vedere cosa altro scomparirà nel processo. Se il futuro della matematica è uno in cui solo pochi grandi laboratori di AI con modelli proprietari possono fare progressi significativi sui problemi importanti, allora la struttura stessa della ricerca matematica cambierà fondamentalmente. Le università tradizionali potrebbero trovare difficile mantenere programmi di ricerca matematica vitali se i loro ricercatori non hanno accesso ai mezzi necessari per competere nei problemi di frontiera.
Questa non è una questione meramente accademica. La democratizzazione della ricerca matematica nel corso dei secoli ha portato a un insieme di talenti diversi che contribuiscono a scoperte impreviste. Se il lavoro matematico serio diventa appannaggio esclusivo di un'élite ristretta di organizzazioni, la diversità di pensiero e approccio che ha guidato la scoperta matematica potrebbe essere gravemente compromessa.
La questione della trasparenza
Un aspetto cruciale di questa controversia è la mancanza di trasparenza. Quando OpenAI presenta una soluzione ottenuta da 10.000 agenti in esecuzione