OpenShell: sicurezza per gli agenti autonomi

Kubernetes è ormai la spina dorsale delle fabbriche AI, ma la crescente domanda di sicurezza e governance per gli agenti autonomi richiede strumenti più avanzati. In risposta, NVIDIA ha donato OpenShell alla Cloud Native Computing Foundation (CNCF) come progetto Sandbox. OpenShell è un runtime open source progettato per proteggere e governare gli agenti autonomi, consentendo a sviluppatori e professionisti della sicurezza di contribuire, ispezionare e migliorare la piattaforma.

Secondo Jim Zemlin, CEO della Linux Foundation, “la community cloud‑native ha una nuova sfida infrastrutturale: fornire ambienti sicuri in cui gli agenti possano operare”. L’integrazione di OpenShell nella CNCF offre una base condivisa su cui costruire e plasmare l’evoluzione della sicurezza degli agenti, favorendo una collaborazione più ampia su infrastrutture critiche per le future applicazioni cloud‑native.

Funzionalità chiave di OpenShell

    • Controlli deterministici sull’attività degli agenti, permettendo l’applicazione di policy quando gli agenti usano strumenti, accedono a servizi di inferenza o eseguono carichi di lavoro.
    • Architettura estensibile che consente l’integrazione con provider di calcolo, servizi di inferenza, archivi di credenziali e strumenti di monitoraggio esistenti.
    • Governance trasversale a diversi ambienti di deployment, con possibilità di integrazione nei sistemi enterprise già in uso.

In meno di un anno dal lancio, OpenShell è stato adottato da centinaia di organizzazioni e ha ricevuto decine di migliaia di contributi, dimostrando l’interesse della community verso una soluzione di sicurezza condivisa.

Agent Substrate: scalare l’esecuzione degli agenti su Kubernetes

Governare gli agenti è solo una parte della sfida; la loro esecuzione su larga scala richiede un’infrastruttura capace di gestire risorse in modo efficiente. NVIDIA sta contribuendo a Agent Substrate, un progetto originato da Google e anch’esso inserito nella CNCF Sandbox. Il progetto è stato potenziato per funzionare in sinergia con NVIDIA Dynamo per l’inferenza dei modelli e con KAI Scheduler per l’allocazione delle risorse di cluster condivisi.

Agent Substrate mantiene gli ambienti degli agenti tra i task, rilasciando la potenza di calcolo quando gli agenti sono inattivi. Sospendendo e riprendendo gli ambienti su un pool condiviso, le organizzazioni possono scalare i carichi di lavoro degli agenti senza mantenere risorse dedicate per ogni sessione.

Integrazione OpenShell‑Agent Substrate

NVIDIA e Google stanno collaborando per integrare OpenShell e Agent Substrate, consentendo alle imprese di proteggere e governare gli agenti sia su cloud pubblici sia su sistemi on‑premise. Questa integrazione punta a creare un ecosistema unificato per la sicurezza e la scalabilità degli agenti AI.

DSX AI Factory Platform: nuovi progetti open source per Kubernetes

Le fabbriche AI hanno bisogno di offrire servizi Kubernetes gestiti mantenendo il controllo su infrastruttura, software ed esperienza cliente. NVIDIA ha quindi esteso la DSX AI Factory Platform con tre nuovi progetti open source, tutti disponibili in anteprima pubblica.

NVIDIA Kubernetes Engine (NVKE) e NVIDIA Kubernetes Recipes (NVKR)

    • NVKE automatizza la gestione del ciclo di vita dei cluster, fornendo immagini firmate e versionate.
    • NVKR offre “ricette” predefinite per la configurazione di cluster GPU, semplificando la distribuzione di servizi AI su Kubernetes.
    • Entrambi i progetti sono supportati da un ecosistema di partner che includono Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud, vCluster, Firmus e SK Telecom.

Questa collaborazione estende la portata di NVKE e NVKR a piattaforme di infrastruttura AI e a servizi cloud, facilitando l’adozione di Kubernetes con GPU in ambienti aziendali.

NVIDIA Snapshot

Snapshot risolve il problema del tempo necessario per caricare modelli e “warm‑up” dei workload, che può ritardare la scalabilità e il recupero. Si tratta di un componente modulare open source che ripristina repliche checkpointate in pochi secondi, eliminando la necessità di ricaricare il modello o di attendere il warm‑up. Questo favorisce avvio rapido, recupero veloce ed elasticità sia per carichi di inferenza sia per workload agentici su Kubernetes.

Partner di design come Crusoe e Saturn Cloud hanno testato Snapshot su sistemi NVIDIA HGX B300. Crusoe, contribuente upstream, ha ridotto il tempo di readiness da circa otto minuti a 31 secondi per il modello GLM‑5.3. Saturn Cloud, piattaforma di token factory, ha diminuito i tempi di avvio di vLLM da 2‑8,5 minuti a 6‑34 secondi, dimostrando l’efficacia della soluzione per scenari di “scale‑from‑zero”.

Impatto sul futuro dell’infrastruttura AI

Con questi contributi, NVIDIA posiziona Kubernetes come la base principale per i carichi di lavoro AI a scala. OpenShell fornisce una governance robusta, Agent Substrate consente una scalabilità efficiente, mentre NVKE, NVKR e Snapshot semplificano la gestione di cluster GPU e accelerano il time‑to‑value delle applicazioni AI.

Le aziende potranno ora costruire infrastrutture AI più sicure, più efficienti e più agili, riducendo i costi operativi e accelerando l’innovazione. La partecipazione attiva di NVIDIA alla CNCF e la collaborazione con partner di rilievo dimostrano una strategia orientata alla comunità, in cui le soluzioni open source diventano il motore di crescita per l’intero ecosistema AI.

Come partecipare

Gli sviluppatori e le organizzazioni interessate possono approfondire le novità partecipando a KubeCon, dove NVIDIA presenterà dimostrazioni live di OpenShell, Agent Substrate e dei componenti DSX AI Factory. Tutti i progetti sono disponibili su GitHub sotto licenze permissive, con documentazione dettagliata per l’integrazione e il contributo.

In sintesi, l’ampliamento dell’impegno open source di NVIDIA rappresenta un passo decisivo verso un futuro in cui Kubernetes, potenziato da GPU, diventa la piattaforma di riferimento per le fabbriche AI, garantendo sicurezza, governance e scalabilità senza precedenti.