Il grande dibattito sull'apertura dei modelli di intelligenza artificiale
Nel corso degli ultimi anni, il dibattito sui modelli di intelligenza artificiale aperti ha acquisito un'importanza sempre maggiore nel panorama tecnologico globale. Lo scorso mese, Anthropic ha rilasciato un rapporto che sostiene che il modello GLM-5.3 presenta un rischio significativo di attacchi informatici. La preoccupazione principale del rapporto riguarda il fatto che questo potente nuovo modello, rilasciato ad agosto dalla società cinese Z.ai, è liberamente disponibile per il download e la modifica da parte di chiunque. L'affermazione di Anthropic rappresenta solo l'ultimo capitolo di un lungo dibattito in corso su se i modelli di intelligenza artificiale di frontiera debbano essere resi aperti, come nel caso di GLM-5.3, oppure rimanere chiusi dietro le porte dei principali laboratori di ricerca.
Attualmente, gran parte del dibattito sulla gestione dei modelli aperti si svolge in pubblico, e vi sono ingenti somme di denaro in gioco nel suo esito. Jensen Huang, amministratore delegato di Nvidia, che avrebbe molto da guadagnare se le persone continuassero a acquistare hardware proprio per eseguire modelli aperti, sostiene con entusiasmo che gli Stati Uniti dovrebbero svilupparne di più. Al contrario, Dario Amodei, che dirige Anthropic, un'azienda che potrebbe essere minacciata da modelli potenti e a basso costo, sostiene un approccio più cauto. Tuttavia, al di là di questi incentivi commerciali, vi sono ragioni sostanziali dietro i disaccordi sui modelli aperti.
Prospettive diverse sulla sicurezza dell'IA
"Credo che il modo in cui ti posizioni nel dibattito sull'apertura sia influenzato da come ti posizioni nel dibattito più ampio sull'IA," afferma David Gray Widder, assistente professore presso la School of Information dell'Università del Texas ad Austin. Coloro che sono preoccupati per la sicurezza dell'IA avvertono che i modelli aperti possono essere facilmente utilizzati in modo improprio da attori malintenzionati. Al contrario, coloro che si concentrano maggiormente sul potenziale pratico dell'IA sostengono che questo potere non dovrebbe rimanere dietro le porte chiuse di poche grandi aziende, e che i modelli aperti potrebbero aiutare a diffonderlo più ampiamente.
Vi sono una serie di modi per gestire i modelli aperti, situati su uno spettro che va dal loro divieto totale al loro rilascio senza alcuna restrizione. Tuttavia, qualsiasi approccio che un governo o una società potrebbe adottare implica comunque compromessi tra sicurezza e democratizzazione. Decidere se supportare o limitare la produzione di modelli aperti richiede una comprensione approfondita di questi rischi e benefici.
Comprendere la differenza tra modelli aperti e chiusi
Per iniziare dalle basi, è importante chiarire le differenze fondamentali tra i due tipi di modelli. Un modello chiuso, come quelli che alimentano ChatGPT e Claude, può essere accessibile solo tramite un sito web, un'app o un'API. Un modello aperto, invece, può essere direttamente scaricato: i dettagli sulla sua struttura interna, codificati in una lunga serie di numeri conosciuti come pesi del modello, sono pubblicamente disponibili. Tali modelli sono talvolta chiamati "modelli open-weight" per distinguerli dai modelli per i quali è disponibile ancora più informazioni, come i dettagli sulla procedura di addestramento.
Attualmente, i modelli chiusi sono più capaci dei modelli aperti. Secondo la pubblicazione, i primi otto modelli sulla classifica LLM di Artificial Analysis sono tutti chiusi, anche se i modelli aperti sono solo pochi mesi indietro nello sviluppo. Tuttavia, ci sono diversi motivi per cui qualcuno potrebbe scegliere di utilizzare un modello aperto piuttosto che uno chiuso. Poiché i modelli aperti sono scaricabili, le persone possono eseguirli sui propri computer o unità disco. Possono anche riaddestrali per farli comportare diversamente, se dispongono dell'expertise e delle risorse necessarie.
Benefici dei modelli aperti per la ricerca e le aziende
Se sei un ricercatore accademico che lavora per comprendere e migliorare i sistemi di intelligenza artificiale, quasi certamente hai bisogno di lavorare con modelli aperti nella tua ricerca. Quando lavori con modelli chiusi, i ricercatori non possono fare molto più che inviare richieste e osservare le risposte. I ricercatori possono invece osservare il funzionamento interno dei modelli aperti, nonché la "catena di pensiero" che i modelli utilizzano per affrontare un problema prima di rispondere. Possono anche combinare più modelli aperti per costruire nuovi sistemi, comprimerli per renderli più efficienti e perfezionarli per nuove applicazioni.
Anche le aziende hanno motivi per preferire i modelli aperti. Anche se dipendono da un fornitore esterno per eseguirli, i modelli aperti generalmente costano meno dei modelli chiusi, secondo un rapporto recente di Mozilla. Se le aziende desiderano utilizzare l'IA per elaborare dati sensibili o informazioni proprietarie, eseguire un modello locale sul proprio hardware potrebbe essere il modo migliore per mantenere le loro operazioni al sicuro.
Tuttavia, forse la qualità più importante dei modelli aperti è che sfidano il controllo rigoroso che i laboratori di frontiera esercitano su come la maggior parte di noi usa l'IA. "L'argomento più chiaro e importante a favore dei modelli aperti riguarda la prevenzione della concentrazione massiccia di potere: si tratta di garantire che questa tecnologia fondamentale sia un bene pubblico," afferma Elizabeth Seger, consulente senior per le politiche presso il Tony Blair Institute for Global Change. "Credo che siamo in questo momento cruciale in cui la questione di chi controlla l'infrastruttura che consente all'IA di operare è importante quanto la questione di chi controlla le informazioni su Internet."
Scenari geopolitici: il ruolo dei modelli aperti
Seger vede il futuro dell'IA svilupparsi in modi diversi, a seconda del ruolo che i modelli aperti avranno. In un possibile futuro, i sistemi di intelligenza artificiale di frontiera sono controllati interamente da persone, aziende o governi selezionati, e man mano che questi sistemi diventano più potenti, questi gruppi hanno un controllo crescente su come appare il nostro mondo. I modelli di hacking più sofisticati del mondo, ad esempio, sono attualmente tutti prodotti negli Stati Uniti, quindi sta interamente alle aziende statunitensi e al governo degli Stati Uniti decidere se altri paesi possono utilizzarli per rafforzare le loro difese informatiche. Se queste aziende rimangono in testa, potremmo in linea di principio finire in un mondo in cui gli Stati Uniti sono in grado di hackerare qualsiasi altro paese, ma nessuno è in grado di hackerare gli Stati Uniti.
I modelli aperti di frontiera potrebbero cambiare questo equilibrio. "Se ogni individuo avesse un sistema di IA leale a lui stesso che fosse sicuro, penso che sarebbe un mondo molto meno preoccupante di uno in cui devono semplicemente affidarsi a un governo che dice: 'Sì, abbiamo un sistema di IA super intelligente, ha questo piano, è oscuro per tutti voi, fidatevi di noi'," afferma Hamish Hobbs, direttore delle politiche sull'IA presso il Centre for Long-Term Resilience.
I modelli aperti non sono una panacea geopolitica
Tuttavia, i modelli aperti non sono una panacea geopolitica. Paul Azunre, che ha cofondato Ghana NLP, un'organizzazione che costruisce strumenti di intelligenza artificiale open-source per le lingue ghanesi a basse risorse, osserva che i modelli aperti possono anche funzionare come un modo per le aziende di beneficiare del lavoro e dell'expertise delle nazioni meno privilegiate e consolidare più potere nelle loro mani. Identifica uno schema in cui le aziende di intelligenza artificiale rilasciano modelli apertamente, osservano come la comunità li usa e li modifica, e poi integrano gli stessi miglioramenti nei loro prodotti, senza alcun credito o compenso per le persone che hanno originato quelle innovazioni. Mark Zuckerberg stesso ha affermato che la capacità di integrare i miglioramenti della comunità nello stack di Meta è un vantaggio chiave del rilascio di modelli aperti.
"Penso che l'ideale dell'open source sia molto nobile e porti molto valore," dice Azunre. "Ma il modo in cui è effettivamente implementato nella pratica tende a essere un approccio molto estrattivo."
I rischi di sicurezza: modelli chiusi e aperti
Gli ultimi mesi hanno chiarito che la sicurezza rimane un problema complesso anche per i modelli chiusi. C'è l'hack autonomo che gli agenti di OpenAI hanno eseguito contro Hugging Face a luglio, ma l'uso improprio da parte dell'uomo è una minaccia reale anche: secondo un rapporto sui rischi recente di Anthropic, diverse operazioni di hacking estese sono state intraprese con l'assistenza di Claude.
Quindi i modelli chiusi sono abbastanza rischiosi, e i modelli aperti sarebbero probabilmente molto più facili da sfruttare. Prima che Anthropic passi una query dell'utente a uno dei suoi modelli chiusi, utilizza sistemi automatizzati per rilevare se quella query riguarda hacking, armi biologiche o altri rischi. Quando rileva che gli utenti hanno eluso questi filtri, può disattivare i loro account. Ma quando qualcuno scarica un modello e lo esegue sul proprio hardware, non c'è alcun filtro che verifica se i loro prompt sono sicuri, e non c'è modo di revocare il loro accesso al modello.
Ci sono altre importanti linee di difesa. Le aziende di intelligenza artificiale addestrano i loro modelli a rifiutare richieste dannose, quindi anche se un prompt pericoloso supera i filtri di Claude, c'è una buona possibilità che il modello dirà comunque di no. In linea di principio, questa stessa difesa potrebbe funzionare per i modelli aperti, perché è intrinseca al modello stesso. Sfortunatamente, i ricercatori hanno dimostrato che è sorprendentemente facile riaddestrare un modello aperto "sicuro" per fargli accettare di impegnarsi nei comportamenti da cui era stato precedentemente addestrato a rifiutarsi.
Il dilemma della pericolosità: una visione più complessa
A causa di questi fatti, alcune persone hanno sostenuto che i modelli aperti sono semplicemente troppo pericolosi per essere rilasciati. Un modello aperto abbastanza potente da guidare qualcuno attraverso la sintesi di un nuovo patogeno virulento, ad esempio, potrebbe rivelarsi catastrofico nelle mani sbagliate.
Tuttavia, sarebbe una semplificazione eccessiva ritenere i modelli aperti pericolosi e i modelli chiusi sicuri. Le difese che le aziende di intelligenza artificiale costruiscono attorno ai loro modelli chiusi sono tutt'altro che perfette, e le persone abusano di quei modelli tutto il tempo, come chiarisce il rapporto sui rischi di Anthropic. Anche se i modelli aperti hanno ancora meno difese contro l'uso improprio, gli attori malintenzionati potrebbero comunque scegliere di utilizzare modelli chiusi perché sono più accessibili dei modelli aperti con capacità simili, che richiedono molti chip per computer costosi per eseguirli localmente (e ancora più chip se vuoi riaddestrali).
In effetti, alcuni esperti che hanno parlato con MIT Technology Review hanno sostenuto, per analogia con il software open-source, che i modelli aperti hanno vantaggi di sicurezza rispetto ai modelli chiusi. I strumenti open-source, come il sistema operativo Linux, sono spesso considerati più sicuri dei loro omologhi closed-source perché le loro vulnerabilità sono state sondato e corrette da una vasta comunità di contributori online. Allo stesso modo, comunità di ricercatori possono testare più facilmente i modelli aperti per eventuali difetti di sicurezza, anche se la correzione di questi difetti è più difficile che riscrivere una riga di codice.
Applicazioni di difesa informatica e benefici della ricerca
I modelli aperti possono anche essere implementati più ampiamente dei modelli chiusi per la difesa informatica. Qualsiasi strumento che può essere utilizzato per l'hacking può anche essere utilizzato per prevenirlo: i difensori hackerano il loro software per scoprire difetti che necessitano di patch. Anthropic ha dimostrato come questo possa funzionare per i modelli chiusi con la sua iniziativa Project Glasswing, che consente ad alcune aziende fidate di lavorare con i modelli chiusi per la ricerca sulla sicurezza.
La questione del rilascio dei modelli aperti presenta quindi un panorama complesso e sfumato. Non si tratta semplicemente di scegliere tra sicurezza assoluta e libertà completa, ma piuttosto di navigare in un territorio intermedio dove entrambi gli aspetti hanno meriti legittimi. I ricercatori accademici, i professionisti della cybersecurity e gli innovatori tecnologici hanno molto da guadagnare dall'accesso ai modelli aperti, permettendo una innovazione più rapida e una comprensione più profonda dei sistemi di intelligenza artificiale.
Considere importanti sui compromessi tra sicurezza e democratizzazione
Le implicazioni della scelta tra modelli aperti e chiusi vanno oltre semplici considerazioni tecniche. Coinvolgono questioni fondamentali su come la società desidera strutturare l'accesso alla tecnologia dell'intelligenza artificiale, chi beneficia di questa tecnologia e come proteggersi dai suoi usi impropri potenziali. Elizabeth Seger del Tony Blair Institute sottolinea come la concentrazione del potere nei pochi laboratori di frontiera rappresenti una minaccia che potrebbe essere altrettanto significativa quanto qualsi