Che cos'è il LangSmith Tool Gateway?
Il 19 novembre 2026 LangChain ha annunciato il lancio di LangSmith Tool Gateway, una piattaforma di governance per le chiamate degli agenti IA verso strumenti esterni. Il servizio è disponibile in beta pubblica nei piani LangSmith Plus ed Enterprise e offre alle organizzazioni un modo gestito per definire quali strumenti possono essere invocati, con quali credenziali e come ogni azione viene registrata.
Tool Gateway funge da intermediario tra gli agenti e i server di strumenti MCP (Managed Call Platform), centralizzando autenticazione, regole di accesso e registri delle chiamate. In assenza di questa infrastruttura, ogni agente dovrebbe implementare separatamente meccanismi di sicurezza, token di rinnovo e audit, aumentando complessità e margini di errore.
Motivazioni operative
LangChain interviene in scenari reali in cui gli agenti assistono utenti con autorizzazioni diverse, i token devono essere periodicamente rinnovati e i team di sicurezza hanno bisogno di una visione end‑to‑end per gli audit. Senza un punto di controllo condiviso, le credenziali potrebbero essere hard‑coded nel codice o gli agenti potrebbero avere accesso indiscriminato a interi server, creando vulnerabilità critiche.
Case study: un grande rivenditore statunitense
LangChain ha illustrato il caso di un importante retailer americano che gestisce più di 50 server MCP e mette a disposizione oltre 1.000 strumenti per gli agenti operanti nei negozi e nella gestione delle scorte. Alcuni esempi:
- Un assistente per i negozi deve operare con le credenziali di ciascun dipendente per aggiornare scorte, turni ed e‑mail.
- Un agente addetto alle scorte riconcilia le giacenze alle 3 del mattino utilizzando credenziali di servizio.
In assenza di Tool Gateway, le credenziali sarebbero spesso codificate direttamente nel codice o l'agente avrebbe accesso a un intero server, impedendo controlli deterministici sull'identità o sullo strumento autorizzato. Inoltre, i team di sicurezza non avrebbero una vista completa del flusso per gli audit.
Kit di strumenti e identità del chiamante
Gli amministratori possono registrare una volta un server MCP remoto oppure abilitare un server integrato ospitato da LangSmith. Da lì è possibile raggruppare strumenti provenienti da server diversi in un kit di strumenti accessibile tramite un unico URL MCP. Il kit definisce quali strumenti sono visibili all'agente.
Per cataloghi molto ampi, la modalità di ricerca consente all'agente di interrogare il kit e caricare solo gli strumenti pertinenti al momento dell'esecuzione, evitando di caricare l'intero set.
L'identità del chiamante si basa su due modalità:
- Acting‑as‑user: applica le credenziali dell'utente finale, identificato tramite Okta o Entra ID. Un utente non ancora autenticato riceve un link, completa l'accesso e la chiamata prosegue.
- Acting‑as‑agent: utilizza le credenziali dell'agente stesso o un profilo con credenziali condivise, configurate una sola volta da un amministratore. Questa modalità è ideale per processi in background pianificati.
La distinzione permette, ad esempio, a un processo automatizzato di operare con autorizzazioni di servizio, mentre un assistente rivolto ai dipendenti mantiene le autorizzazioni individuali del dipendente.
Policy, tracciamento e approvazioni
La documentazione di Tool Gateway descrive un flusso preciso per ogni richiesta:
- Identificazione dell'utente, agente o profilo.
- Applicazione delle policy di diniego (es. blocco per utenti specifici o chiavi di servizio).
- Associazione di una credenziale salvata o avvio di una connessione.
- Verifica delle policy di approvazione (eventuale conferma umana).
- Inoltro della chiamata allo strumento.
- Registrazione della traccia, se il tracciamento è abilitato.
Le regole di diniego possono essere definite a livello di organizzazione o di area di lavoro, includendo eccezioni specifiche. Le policy di approvazione introducono un controllo umano in tempo reale prima dell'esecuzione di chiamate sensibili. Per esempio, uno strumento che scrive dati nel magazzino può richiedere la conferma di un operatore per ogni tentativo di scrittura, evitando affidamenti solo a audit successivi.
Registri e audit
Quando il tracciamento è attivo, il registro di una chiamata contiene:
- Strumento invocato
- Server di appartenenza
- Identità dell'utente o dell'agente
- Esito della chiamata
- Durata dell'operazione
Importante: i dati inviati allo strumento o restituiti da esso non vengono salvati nel registro, garantendo la privacy dei contenuti sensibili.
I piani Enterprise includono inoltre un registro di audit a livello di organizzazione, che mostra quale strumento è stato eseguito e con quale identità, fornendo ai team di sicurezza una visione unificata dell'attività degli agenti.
Integrazioni supportate
Tool Gateway gestisce l'accesso a numerosi servizi tramite integrazioni native:
- Google, Microsoft, Salesforce, GitHub, Linear, LinkedIn (autenticazione gestita).
- Strumenti accessibili via chiave API o pubblicamente: Parallel, Exa, Tavily, Apollo, Ashby, Pylon, lettura di pagine web.
I kit di strumenti risultanti sono compatibili con client MCP quali LangChain, Deep Agents, Managed Deep Agents, Claude Code e Cursor, facilitando l'adozione da parte di team di sviluppo diversi.
Piani beta e supporto regionale
La beta è disponibile per i piani LangSmith Plus ed Enterprise. Il servizio è erogato su LangSmith Cloud con supporto nelle seguenti regioni:
- GCP US, GCP EU, GCP APAC
- AWS US (Azure US è esclusa)
I clienti Enterprise ricevono inoltre il registro di audit a livello di organizzazione, elemento chiave per le aziende con requisiti di conformità stringenti.
Governance completa: LLM Gateway + Tool Gateway
Con l'introduzione di Tool Gateway, LangChain completa il suo approccio alla governance degli agenti IA. Il LLM Gateway controlla le chiamate ai modelli di linguaggio, offrendo limiti di spesa e meccanismi di ripiego. Parallelamente, Tool Gateway governa le interazioni con strumenti esterni.
Per le organizzazioni, questa combinazione riunisce sotto LangSmith il controllo sia sull'uso dei modelli sia sulle azioni eseguite dagli strumenti, semplificando policy, audit e monitoraggio.
Prospettive future
L'ecosistema LangChain punta a estendere ulteriormente le capacità di governance, includendo funzioni di analisi predittiva delle chiamate, integrazioni con sistemi di Identity‑and‑Access‑Management (IAM) più avanzati e supporto per ambienti multicloud più ampi. Il feedback della beta guiderà l'evoluzione delle policy di approvazione e delle opzioni di tracciamento, rendendo la piattaforma sempre più adatta a contesti regolamentati come finanza, sanità e pubblica amministrazione.
In conclusione, LangSmith Tool Gateway rappresenta un passo significativo verso la creazione di agenti IA sicuri, trasparenti e conformi, fornendo alle aziende gli strumenti necessari per gestire in modo centralizzato e controllato le complesse interazioni tra intelligenza artificiale e infrastrutture operative.