AWS ha ampliato le capacità esecutive degli agenti IA nel suo servizio Bedrock AgentCore, permettendo a imprese e organizzazioni di adottare su larga scala le tecnologie basate sull’intelligenza artificiale in modo più fluido ed efficiente, evitando di dover superare procedure complesse e tempi di attesa prolungati.
Una Capacità Eseguibile Più Elevata
La versione aggiornata di AgentCore riesce ad accogliere una quantità significativamente maggiore di sessioni attive simultanee. Secondo AWS, le regioni USA Est (Virginia del Nord) e USA Ovest (Oregon) sono ora in grado di supportare fino a 5.000 sessioni attive (prima erano 1.000) mentre tutte le altre regioni gestiscono fino a 2.500 sessioni attive (rispetto a 500 precedentemente). Inoltre, la capacità di elaborare le interazioni tra utente e modello IA è stata incrementata: da 25 a 200 jetons al secondo in tutte le aree supportate.
Questo aumento di efficienza si sposa bene con l’esigenza delle aziende di gestire un numero crescente di richieste utente contemporaneamente, un aspetto cruciale negli agenti d'AI ad elevate prestazioni.
Capacità Di Creazione Di Sessioni Ottimizzata
In aggiunta, AWS ha anche quadruplicato la frequenza con cui vengono create nuove sessioni per gli agenti IA depositate tramite conteneatori, portando il limite dagli attuali 100 a 400 transactioni al minuto (TPM). Questo vantaggio aiuta il business a scalare velocemente quando ci sono periodi di alta domanda.
Quando Passare Da Sperimentazione A Produzione
Charlie Dai, principale analista di Forrester, osserva che questa revisione dei limiti di esecuzione è una risposta diretta al rapido passaggio delle aziende dallo sviluppo sperimentale di agenti AI al loro utilizzo reale in contesti produttivi.
La Scomposizione Della Transizione AI
Secondo Dai, il cambiamento chiave non risiede tanto nel numero di agenti, quanto nella graduale transizione da assistente semplice con scopi unici a agenti complessi e di alto valore industriale, in grado di supportare una platea più estesa di utenti. «Il movimento ha visto aziende passare da agenti monofunzionali a una pluralità di agenti di alto livello, che interagiscono in orchestrazioni complesse», spiega.
Il risultato di questa evoluzione sono agenti che operano su schiere di utenti e con tempi di esecuzione più lunghi rispetto ai progetti iniziali, sostenuti da orchestrazioni ben più intricate rispetto ai modelli previsti originalmente.
Quelli Al Di Sotto Della Superficie
Le nuove capacità di AgentCore riducono notevolmente l’impedimento che le aziende affrontano durante la scalabilità. Secondo Amit Chandak, direttore di analisi presso Kanerika, l'aumentare dei limiti di default aiuta ad evitare processi di richiesta formalizzata per incrementare i limiti, richiesta che richiede spesso giorni o addirittura settimane, durante il passaggio da soluzioni pilota a sistemi su larga scala.
Questo processo, riferisce Chandak, coinvolge aprire un ticket, fornire giustificativi aziendali e passare attraverso un lungo meccanismo di validazione. «Maggiore attenzione dovrebbe essere data alla riduzione del lavoro amministrativo, visto che spesso è una distrazione costante durante il deployment», conclude.
Dal Piano Di Esecuzione Al Progetto Architettonico
Le organizzazioni, inoltre, progettano le proprie architetture in base a limiti predefiniti. «Un maggior livello di questi limiti modifica l'approccio che l'azienda è propensa ad adottare prima di procedere», spiega Chandak. Ciò influenza quindi le decisioni architetturali non solo a livello operativo, ma anche strategico.
I Rischi Della Saturazione
Un’altra considerazione cruciale riguarda le situazioni in cui la saturazione del sistema può interrompere le applicazioni e i workflow multi-agente. Chandak fa notare che le sessioni degli agenti sono stateful, il che significa che mantengono uno stato intermedio. «Se la sessione viene interrotta o rifiutata a causa del limite del servizio, il contesto intermedio potrebbe andare perso e il recupero di quel contesto è molto più complesso rispetto ad un semplice ripetere una chiamata API senza stato», spiega.
Una Soluzione Specifica Per Il Contesto D’Uso
Questa evoluzione non è però ad alta adozione trasversale. Gaurav Dewan, direttore di ricerche presso Avasant, indica chiaramente che i benefici saranno concentrati soprattutto in quelle aziende che gestiscono carichi d'AI ad alta intensità e ad alta frequenza di utilizzo, come il supporto clienti, il DevOps, l’automazione operativa, la gestione del ciclo finanziario, l’health IT e la logistica delle forniture di prodotti o servizi.
Ecco I Settori Chiave
Secondo Dewan, le industrie dove l'utilizzo di moduli IA ad alta simultaneità è la norma beneficeranno maggiormente di questi limiti aumentati. Questi includono:
- I centri di assistenza clienti.
- L’automazione del codice e le operazioni DevOps.
- Gli IT Operations.
- Le operazioni finanziarie.
- La sanità (gestione e supporto).
- La logistica e la gestione interna della supply chain.
- Le operazioni dedicate alla cyber-security.
Dai Concorrenti, Diverse Strade
I rivali di AWS, come Microsoft e Google, stanno adottando percorsi diversi. Microsoft, ad esempio, con il suo Azure Foundry Agent Service, ha scelto di fissare i limiti di esecuzione in modo definitivo.
«Molte delle sue capacità di esecuzione dell’agente non possono essere aumentate nemmeno su richiesta», afferma Chandak. «Invece, Microsoft ha portato la scalabilità a livello di deployment modello – dove i limiti sono personalizzabili – rispetto al piano di esecuzione». Questo rappresenta una scelta architetturale diversa da quella adottata da AWS con AgentCore.
Gli incrementi di capacità di Bedrock AgentCore saranno applicati automaticamente a tutti i clienti AWS, senza ulteriore intervento da parte dell’utente.