Che cos’è l’Agent Compute Engine

Agent Compute Engine (ACE) è il nuovo servizio di Google Cloud pensato esclusivamente per l’esecuzione di agenti di intelligenza artificiale. A differenza delle macchine virtuali tradizionali, ACE fornisce a ciascun agente una microVM dedicata, una macchina virtuale estremamente leggera che si avvia in pochi millisecondi e si ferma automaticamente quando non è in uso. La microVM è protetta da isolamento hardware grazie al chip proprietario di Google, il Titanium, che garantisce che le risorse di calcolo non vengano condivise a livello di processore tra più tenant.

La prima implementazione di ACE è già alla base di Gemini, il modello di linguaggio multimodale di Google, e sarà resa disponibile come anteprima nei prossimi mesi. L’obiettivo è offrire una piattaforma che riduca al minimo la latenza di avvio, ottimizzi l’uso della memoria e consenta un controllo preciso dei costi per gli sviluppatori di agenti autonomi.

Architettura delle microVM e vantaggi operativi

Le microVM di ACE sono progettate per essere stateless e altamente scalabili. Ogni agente riceve:

Una CPU virtuale dedicata, isolata a livello hardware dal chip Titanium.
Una quota di RAM condivisa, gestita da un kernel ottimizzato per il rapido swapping in caso di inattività.
Un ambiente di rete virtuale con regole di firewall predefinite per proteggere le comunicazioni esterne.

Grazie a queste caratteristiche, le microVM possono avviarsi in meno di 50 ms e passare in modalità “pause” quando l’agente è inattivo, riducendo il consumo energetico fino al 70 % rispetto a una VM tradizionale. Inoltre, la condivisione della memoria tra microVM consente di risparmiare spazio su disco e velocizzare il caricamento dei modelli di IA.

Gestione automatica delle risorse

ACE integra un sistema di monitoraggio che rileva il carico di lavoro in tempo reale. Quando il traffico diminuisce, le microVM entrano in uno stato di ibernazione a livello di hypervisor, mantenendo intatti i token di sicurezza e le credenziali. Al ripristino del carico, le macchine si riattivano senza perdita di stato, garantendo una continuità operativa ideale per chatbot, assistenti virtuali e agenti di automazione.

Agent Substrate: l’alternativa open‑source per Kubernetes

Per gli utenti che preferiscono gestire gli agenti su infrastrutture proprie, Google ha rilasciato Agent Substrate, un progetto open‑source basato su Kubernetes. Substrate consente di distribuire microVM su cluster Kubernetes, sfruttando le capacità di orchestrazione native di K8s e ottenendo una densità di calcolo fino a dieci volte superiore rispetto a una distribuzione tradizionale di pod.

In un benchmark interno, Google ha eseguito 200.000 agenti simultaneamente su un cluster di 500 nodi, mantenendo una latenza inferiore a 500 ms per ogni agente. Questo risultato è stato possibile grazie a:

Un runtime ottimizzato per la creazione rapida di microVM.
Un meccanismo di pooling della memoria che evita la frammentazione.
Un sistema di scheduling basato su priorità di carico, che assegna le risorse più veloci ai task più critici.

Gli sviluppatori possono integrare Agent Substrate con i propri pipeline CI/CD, utilizzando Helm chart predefiniti e API REST per il provisioning automatico delle microVM.

Governance, sicurezza e integrazioni esterne

Google sta ampliando le funzionalità di governance di ACE per includere ambienti di runtime aggiuntivi come Cloud Run, Google Kubernetes Engine (GKE) e persino dispositivi edge locali. Le nuove funzioni comprendono:

Token‑Management: un servizio centralizzato per gestire le chiavi di accesso, impostare quote di spesa e monitorare l’utilizzo in tempo reale.
Model‑Routing: la capacità di indirizzare le richieste verso versioni specifiche di modelli di IA (ad esempio Gemini‑1.5 vs Gemini‑2) in base a criteri di latenza o costo.
Autorizzazione via terze parti: integrazione con provider di identità come Ping Identity e SailPoint, che consentono policy di accesso basate su ruoli e attributi aziendali.

Queste opzioni permettono alle imprese di mantenere il controllo su chi può avviare, modificare o terminare gli agenti, riducendo il rischio di abusi o di spese impreviste.

Esempi pratici di utilizzo

Un’azienda di e‑commerce ha adottato ACE per gestire un assistente virtuale che risponde a domande sui prodotti. Grazie alle microVM, l’assistente è stato in grado di scalare da 10 a 10.000 sessioni simultanee durante le promozioni, mantenendo una latenza di risposta inferiore a 200 ms. Il token‑management ha permesso di impostare un budget mensile di 5.000 USD, con avvisi automatici al superamento del 80 %.

Un’altra realtà, un provider di servizi finanziari, ha utilizzato Agent Substrate su un cluster Kubernetes on‑premise per eseguire agenti di monitoraggio delle transazioni in tempo reale. La densità di calcolo offerta da Substrate ha consentito di ridurre l’infrastruttura hardware del 40 % rispetto alla precedente soluzione basata su VM standard.

Prospettive future e considerazioni finali

Con ACE, Google punta a consolidare la sua posizione nel mercato dei servizi di intelligenza artificiale, offrendo una piattaforma che combina velocità, sicurezza e flessibilità. La capacità di isolare ogni agente in una microVM dedicata riduce i rischi di contaminazione tra workload, mentre l’opzione open‑source di Agent Substrate garantisce che le aziende possano mantenere il controllo totale sull’infrastruttura.

Nel medio termine, ci si può attendere l’integrazione di ulteriori funzionalità di edge computing, permettendo agli agenti di operare direttamente su dispositivi IoT con latenza quasi nulla. Inoltre, l’espansione delle policy di governance e delle API di monitoraggio dovrebbe facilitare l’adozione di ACE da parte di settori regolamentati come quello sanitario e bancario.

In sintesi, Agent Compute Engine rappresenta un passo significativo verso una computazione più “agent‑centric”, dove la rapidità di avvio, la gestione automatica delle risorse e la sicurezza hardware diventano standard di riferimento per lo sviluppo di soluzioni IA avanzate.