Il contesto del saggio
Dario Amodei, CEO di Anthropic, ha pubblicato "Politiche dell'Intelligenza Artificiale Esponenziale", un saggio accompagnato da due documenti: uno che fornisce un framework per la regolamentazione dell'AI avanzata e l'altro rivolto a gestire le perdite di lavoro. Lo studio di Amodei presenta una strategia urgente per affrontare il rischio rappresentato dall'intelligenza artificiale non regolata.
La metafora dei hobbit e di Treebeard
Amodei utilizza una trama minore de "Lo Hobbit" di J.R.R. Tolkien come metafora del ritmo lento del sistema politico confrontato con il rapido sviluppo dell'IA. Treebeard, un essere saggio ma lento, simboleggia i governi, mentre i hobbit, che tentano di svegliare Treebeard per salvare la foresta, sono coloro che si preoccupano di salvare l'IA dal rischio di essere sfruttata da un esercito avanzante – l'arma avanzata dell'AI.
Perché Anthropic non segue più la sua strategia precedente
Finora Anthropic si è concentrata su iniziative di trasparenza e legislazione di base in California, New York e Illinois per mitigare i rischi dell'IA. Amodei riconosce però che questa strategia non è più sufficiente a causa dell'accelerata economica e tecnologica dell'AI, che potrebbe causare gravi rischi in settori come la sicurezza informatica, la salute pubblica e l'autonomia.
Le nuove richieste per test obbligatori
Amodei presenta una chiamata a test obbligatori da parte di enti terzi indipendenti in quattro aree di rischio principali: sicurezza informatica, armi biologiche, perdita di controllo sui sistemi AI e R&D automatizzata capace di velocizzare tali rischi. Secondo lui, un'agenzia governativa dovrebbe essere in grado di bloccare o sospingere modelli che rappresentino un rischio per la società.
Gli elementi dell'Advanced AI Framework
La Advanced AI Framework proposta da Amodei e Anthropic è rivolta principalmente al governo federale degli Stati Uniti, tuttavia i principi sono applicabili a livello internazionale. Sono previste obbligazioni per i produttori dei modelli più avanzati e investimenti per aumentare la resilienza sociale al fine di fronteggiare attacchi biologici e cibernettici.
I criteri dei modelli soggetti alle nuove regole
- I modelli ad alta capacità, in base ad Amodei, devono soddisfare i criteri relativi ai FLOP (Floating Point Operations per Secondo) di 10^25 e devono generare più di 500 milioni di dollari di entrate nell'anno.
- I criteri vengono riveduti annualmente e, in futuro, potrebbero spostarsi da soglie di calcolo a misure basate sulle capacità reali.
- Si richiedono estese obbligazioni di divulgazione come la pubblicazione di un framework di sicurezza e segnalazioni su incidenti gravi entro 15 giorni.
Garanzie di sicurezza e protezione
Il framework sottolinea anche la sicurezza del modello e la protezione dei diritti dei whistleblower, insieme al potere di bloccare i modelli rischiosi. Su questioni di competenza federale, Anthropic argomenta che Congresso dovrebbe esigere solo leggi federali più rigorose rispetto a quelle statali.
La resilienza sociale di fronte ai rischi
Rischi biologici
- Prevenzione: standard modernizzati di biosecurity e screening fornitori di sintesi genetica.
- Rilevamento: sistemi di allerta precoce e attribuzione forense di attacchi.
- Preparazione: attrezzatura protettiva e attacchi AI accelerati per contromisure.
Minacce informatiche
- Sicurezza del software open-source e legacy.
- Supporto per operatori di infrastrutture critiche sottodimensionati.
- Utilizzo dell'AI per rilevare vulnerabilità a grande scala.
Il piano a tre livelli per la perdita di lavoro
- Livello 1 (5 % di disoccupazione): Sconto sull'imposta, riforma delle licenze professionali e sussidi per la formazione.
- Livello 2 (10 %): Espansione assicurazione disoccupazione e supporto per le esigenze di base.
- Livello 3 (disoccupazione superiore ai precedenti massimi): Raccogliere nuove fonti di tassazione, sovvenzioni universali, tesori sovrani AI e tassazione a tasso alto su guadagni di capitale.
La visione geopolitica dell'IA
Amodei non vede l'AI come semplice tecnologia di consumo, ma come un'arma di riconfigurazione geopolitica. Confronta l'IA con armi nucleari e sottolinea che una nazione con l'AI potrebbe dominare completamente un paese senza, simile ad un esercito di Marines contro spadaccini medievali.
Riflessione e chiusura
La proposta di Amodei si intreccia con la logica della guerra fredda, con una collaborazione tra democrazie e isolamento di regimi autoritari attraverso controlli sull'esportazione e catene di approvvigionamento. Egli sottolinea che il pubblico deve essere informato correttamente, e non vede la tecnologia AI come un problema di reputazione, ma come una questione democratica fondamentale.
Contesto e iniziative correlate
Anthropic sta procedendo con il lancio al mercato e ha recentemente pubblicato Claude Fable 5, primo modello di classe Mythos. L’idea di fondo rimane però la stessa: regolarsi in modo efficace per sostenere lo sviluppo responsabile dell'intelligenza artificiale.