Anthropic fa un passo avanti nell'ambito della regolamentazione dell'intelligenza artificiale (AI) e ha pubblicato due nuovi framework destinati ai governi. L'Advanced AI Framework presenta un piano mirato a prevenire i rischi catastrofici legati alla distribuzione incontrollata dei modelli AI più avanzati. I piani sono frutto di un’attenta analisi guidata dal CEO Dario Amodei.

Advanced AI Framework

L'Advanced AI Framework è focalizzato sull’affrontare i rischi che possono emergere da modelli AI estremamente potenti in ambito biologico, informatico, controllo automatizzato, ricerca e sviluppo non supervisionato. L'azienda ritiene che i governi debbano creare un quadro normativo che richieda una valutazione obbligatoria prima della distribuzione di questi modelli, seguendo un percorso simile alla proposta avanzata precedentemente da OpenAI.

Ad esempio, Anthropic ha sottolineato come modelli specifici come Claude Mythos siano in grado di scoprire decine di migliaia di vulnerabilità in software esistenti e generare codice per sfruttarle. La versione più restrittiva, Claude Fable 5, è invece limitata per motivi di sicurezza. Tuttavia, il rischio che tali tecnologie finiscano nelle mani sbagliate rimane notevole. Per questo motivo, l'azienda prevede obblighi specifici per gli sviluppatori: leggi che richiedano valutazioni indipendenti, sicurezza durante lo sviluppo e trasparenza nel rapporto finale.

Che cosa devono fare i governi

Introdurre leggi con obblighi per gli sviluppatori di AI, inclusi controlli indipendenti e valutazioni dei rischi.
Sanzionare i fornitori che non rispettano queste norme, con strumenti che arrivano al blocco o al ritiro dei modelli disponibili in mercato.
Istituire agenzie governative dedicate al controllo del rispetto degli obblighi e al monitoraggio continuo del settore.
Considerare possibili interventi correttivi in caso di violazioni o pericoli individuati.
Inserire misure preventive per ridurre la vulnerabilità informatica durante la costruzione dei modelli.

Economic Policy Framework

Un secondo framework presenta l’Economic Policy Framework, una proposta volta a gestire gli impatti dell'AI sull'economia, specialmente sulle forze lavoro. Anthropic evidenzia come l’automatizzazione porterà a velocizzare la ricerca scientifica e incrementare la produttività, ma comporterà una riduzione inevitabile nel numero di occupazioni per attività svolte oggi da lavoratori umani.

Soluzioni per mitigare gli effetti economici

Supporto economico per le famiglie interessate in base al livello di perdita di occupazione.
Incentivi alle aziende per la formazione e l’adattamento dei lavoratori.
Un sistema di distribuzione dei profitti derivanti da aziende che utilizzano AI avanzato per tornare a beneficio dei cittadini.

La proposta più provocatoria prevede un modello simile a uno ipotizzato in passato da Donald Trump, in cui il ricavato delle tecnologie AI viene redistribuito in forma di sostegno universale o di dividendo tecnologico.

Impatto sulla sicurezza globale

Anthropic ha evidenziato con forza i rischi sistemici che possono emergere da una gestione non regolamentata di AI di ultima generazione. I modelli potrebbero essere utilizzati in maniera malevola per:

sviluppare armi biologiche;
creare attacchi informatici su infrastrutture critiche;
permettere decisioni di controllo autonome non supervisionate;
ridurre la capacità umana di supervisione su sistemi autonomi.

Per minimizzare questi effetti, l’azienda propone l’auspicio che le agenzie governative collaborino con esperti indipendenti al fine di verificare e certificare la sicurezza di ogni modello AI prima della distribuzione. L’obiettivo è prevenire qualsiasi rischio di destabilizzazione economica o sociale.

Un percorso normativo ambizioso

La combinazione dei due framework proposti da Anthropic costituisce un piano avanzato con l’ambizione di creare politiche in grado di governare il rapido sviluppo tecnologico. L’approccio è multidisciplinare, coinvolgendo la sicurezza informatica, la politica economica e la protezione dei cittadini.

Sebbene le proposte possano sembrare rigorose, l’obiettivo di Anthropic è chiaro: offrire ai governi gli strumenti per gestire una transizione che, mal gestita, potrebbe avere conseguenze estremamente negative. La priorità è garantire sicurezza, trasparenza e responsabilità da parte di chi sviluppa e distribuisce tecnologie di intelligenza artificiale di elevata complessità.