Satya Nadella, amministratore delegato di Microsoft, ha lanciato un appello alle aziende affinché trattino i modelli di intelligenza artificiale come un “insider risk”, ossia un rischio interno analogo a quello di un dipendente con accesso a sistemi sensibili. Nel suo lungo post su X, Nadella ha proposto l’adozione di un freno d’emergenza capace di fermare un modello già avviato, sottolineando che la responsabilità finale resta in capo all’organizzazione che utilizza la tecnologia.

Super Intelligence: il nuovo vocabolario imposto dal comando esecutivo

Nel messaggio di Nadella non compare mai la sigla “AI”. L’uomo ha infatti parlato esclusivamente di “Super Intelligence” (SI), termini che un ordine esecutivo firmato da Donald Trump a fine settembre ha imposto alle agenzie federali statunitensi. Secondo il provvedimento, l’intelligenza artificiale deve essere ribattezzata “Super Intelligenza”, una denominazione che ora tutti i dipartimenti governativi sono tenuti a usare nei loro documenti e comunicazioni.

Comportamento dei modelli: incertezza e responsabilità aziendale

Nadella ha evidenziato che, a differenza del tradizionale software, il comportamento di un modello di IA non può più essere ricondotto a una singola porzione di codice, né è strettamente legato ai dati di addestramento o ai pesi. Non esiste quindi un sistema deterministico per prevederne le risposte. Poiché le aziende affidano a questi sistemi dati riservati e compiti critici, le garanzie del fornitore non le sollevano dalla responsabilità legale o operativa.

Separazione tra fornitura e autorità

Per mitigare i rischi, Nadella ha suggerito di gestire i modelli, sia chiusi sia a pesi aperti, come qualsiasi altra risorsa con accesso a sistemi importanti. Non perché siano intrinsecamente malevoli, ma perché possono sbagliare o essere compromessi. Ha inoltre proposto di separare “la fornitura di intelligenza dall’autorità su di essa”, affidando i controlli su cosa il modello può leggere e fare a un software esterno, detto “harness”, che orchestra il lavoro dell’IA (ad esempio l’app di Claude o di ChatGPT).

Rendibilità del ragionamento dei modelli

Nadella ha riconosciuto che rendere leggibile il ragionamento interno dei modelli, attraverso la tecnica “Chain of Thought” (CoT), è indispensabile ma non sufficiente: la comunità non conosce ancora metodi affidabili per garantire che le risposte riflettano fedelmente il processo di pensiero interno.

I sette principi per l’osservabilità dei modelli

Per garantire una gestione trasparente, Nadella ha elencato sette principi fondamentali. In sintesi:

Redundancy: nessun modello deve essere l’unico da cui dipende un risultato critico.
Indipendenza operativa: il modello non deve controllare il proprio lavoro.
Tracciabilità immutabile: ogni azione rilevante deve lasciare una traccia leggibile e resistente a manomissioni, consentendo la ricostruzione del risultato senza affidarsi alla versione del modello.
Testing continuo: i sistemi devono essere messi alla prova costantemente, includendo attacchi, guasti e casi limite, non solo su compiti riusciti.
Autonomia di controllo: le aziende devono decidere in modo indipendente a cosa il modello accede e cosa può fare, mantenendo la verifica separata dall’intelligenza stessa.
Contenimento: si parte dal presupposto che il modello possa essere compromesso; una persona autorizzata deve poterlo fermare in ogni momento. Per i modelli più avanzati occorrono tecniche di contenimento sofisticate e standard comuni.
Gestione degli incidenti: gli incidenti devono essere comunicati tempestivamente a tutte le parti coinvolte e condivisi con il settore, includendo dettagli tecnici che possano spiegare cambiamenti di comportamento durante l’esecuzione.

Pressioni politiche e linguistiche

L’appello di Nadella coincide con una pressione politica esercitata dal presidente Trump, che venerdì scorso ha pubblicato su Truth che la Casa Bianca considera “il nemico” chi continua a usare l’espressione “intelligenza artificiale”. L’ordine esecutivo, elaborato dalla Super Intelligence Force della Casa Bianca, ha intimato agli sviluppatori di segnalare e correggere le falle senza ritardi, indicando anche la necessità di uniformarsi al nuovo vocabolario.

Critiche e implicazioni democratiche

Alcuni osservatori hanno definito l’interferenza di Trump “intrinsecamente sbagliata” per il ruolo istituzionale di un presidente democratico, poiché impone a terze parti private di adottare un termine non riconosciuto dalla comunità scientifica, con minacce implicite di ritorsioni in caso di dissentimento. Finora, nessuna delle grandi aziende IA americane ha manifestato critiche pubbliche alla “Super Intelligenza” voluta dal presidente, probabilmente a causa di un sondaggio interno diffuso sui social.

Conclusioni

Il messaggio di Nadella pone l’accento sulla necessità di controlli tecnici, trasparenza e responsabilità aziendale nell’uso dell’IA, mentre l’amministrazione Trump spinge un cambiamento di linguaggio che mira a stabilire un nuovo quadro normativo. La divergenza tra i due approcci – tecnico e politico – suggerisce un futuro in cui le imprese dovranno bilanciare l’innovazione con le richieste governative, garantendo al contempo che i sistemi rimangano sicuri, tracciabili e sotto controllo umano.