Un ecosistema aperto per agenti affidabili
Gli agenti sono utili solo nella misura delle informazioni che possiedono e della fiducia che ispira il loro contesto operativo. Per questo le principali imprese stanno adottando l’open source NVIDIA Agent Toolkit, ora arricchito di nuovi strumenti, per personalizzare e controllare gli agenti, usare i dati aziendali nelle loro risposte e azioni, monitorare le loro attività e definire regole di governance.
Il toolkit comprende diversi componenti chiave: la nuova NVIDIA Agent Knowledge Foundation, le librerie NVIDIA CUDA‑X, i modelli open NVIDIA (Nemotron Retriever e la famiglia Kumo), OpenShell, il runtime sicuro, NVIDIA NemoClaw con i blueprint di agenti protetti e strumenti come NeMo Relay e NeMo Compass.
Perché è necessario un stack aperto
Per costruire agenti che svolgano compiti concreti e siano affidabili dall’sviluppo alla messa in produzione, i costruttori hanno bisogno di uno stack aperto che integri modelli, harness, runtime, dati e strumenti. La NVIDIA Agent Knowledge Foundation aiuta le imprese a trasformare i dati in intelligenza aziendale fruibile dagli agenti, senza spostare i dati, ricostruire i flussi di lavoro o alterare i controlli di governance.
Componenti della Agent Knowledge Foundation
La fondazione si basa sulle librerie NVIDIA CUDA‑X, tra cui cuDF, cuGraph, cuML, cuOpt e cuVS, e sulla nuova libreria Auto‑Ontology, che traduce dati grezzi in concetti di business familiari (clienti, prodotti, ordini) e ne mappa le relazioni.
Inoltre includono i modelli open NVIDIA Nemotron Retriever e Kumo Structured (Kumo Tabular, Kumo Relational, Kumo Time Series e Kumo Forecast), che consentono agli agenti di trovare informazioni rilevanti, rispondere a domande e fare previsioni.
OpenShell fornisce il runtime sicuro, consentendo alle imprese di controllare l’accesso e le azioni degli agenti. I blueprint NemoClaw offrono design di riferimento per agenti specializzati e sicuri; il più recente blueprint per l’ottimizzazione degli agenti fornisce una guida passo‑passo per migliorare l’intelligenza operativa nel tempo.
Adottare la Knowledge Foundation: casi d’uso reali
Molte organizzazioni hanno già integrato la nuova fondazione:
- Palantir: attraverso Palantir Foundry, Ontology e AIP, utilizza agenti specializzati per generare intelligence azionabile, prevedere risultati e ottimizzare le decisioni.
- Databricks: combina NVIDIA Kumo Anomaly con Databricks Genie Ontology per alimentare agenti contestuali.
- Snowflake: permette ai clienti di sfruttare i modelli Kumo Engine e Kumo Relational nei notebook Snowflake, ampliando le capacità predittive.
- Amazon OpenSearch Service: usa i modelli Nemotron Retriever per migliorare la rilevanza della ricerca con meno passaggi e quasi nessuna latenza aggiuntiva.
- SAP: il suo reranker ottimizzato è quasi 3 volte più veloce.
- ServiceNow: ha migliorato la qualità del reranking riducendo la latenza di circa il 25%.
- Zoom: utilizza Nemotron Retriever per potenziare la comprensione dei documenti, la rilevanza delle ricerche e il recupero di contesto nei Zoom AI Services.
Altri partner, tra cui Amazon Web Services, ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst e VAST Data, stanno anch’essi costruendo soluzioni basate sulla Agent Knowledge Foundation.
Prospettive future e risorse
Per approfondire la costruzione, il deployment e l’ottimizzazione di agenti specializzati in produzione, è possibile partecipare alla sessione GTC Berlin dedicata al tema. L’evento fornisce dimostrazioni pratiche e linee guida per sfruttare al meglio il nuovo toolkit.
In sintesi, l’espansione dell’NVIDIA Agent Toolkit rappresenta un passo decisivo verso agenti aziendali più intelligenti, sicuri e strettamente integrati ai dati interni, consentendo alle imprese di trasformare le proprie informazioni in valore operativo concreto.