Amazon Web Services (AWS) ha lanciato Strands Box, una sandbox open-source per agenti AI che utilizza l'isolamento a livello di sistema operativo e altri strumenti open-source per controllare il comportamento degli agenti autonomi. La piattaforma è progettata per prevenire disastri in modalità YOLO, in cui gli agenti approvano ogni azione senza revisione umana.
Il problema con i container e i microVM utilizzati per isolare gli agenti AI è che la loro forte isolazione non viene accompagnata da un controllo delle regole contestuali. Ciò significa che quando un agente containerizzato o virtualizzato ottiene accesso a uno strumento, potrebbe non esserci modo di fermarlo dal fare ciò che vuole, come cancellare un database di produzione o accedere a Internet e causare danni.
La soluzione di AWS
Strands Box utilizza il Dogwood Local Engine per fornire una consapevolezza temporale e verificare le azioni degli agenti contro le regole definite. Ad esempio, un agente potrebbe essere autorizzato a pubblicare aggiornamenti di stato su Slack, ma non più di tre volte ogni dieci minuti per prevenire lo spamming dei suoi operatori umani.
Strands Box include anche Strands Shell e Monty per Python, che espongono le operazioni di shell e Python al motore di policy di Dogwood e alla storia degli eventi, rendendo le azioni degli agenti più chiare per gli sviluppatori e consentendo loro di scrivere politiche più precise per prevenire azioni dannose.
Il ruolo del Dogwood Local Engine
Il Dogwood Local Engine è un componente chiave di Strands Box, poiché fornisce la consapevolezza temporale necessaria per verificare le azioni degli agenti contro le regole definite. Ciò consente agli sviluppatori di scrivere politiche più precise e di prevenire azioni dannose.
Secondo Marc Brooker, VP e ingegnere distinto di AWS, il Dogwood Local Engine è un componente fondamentale di Strands Box, poiché consente di fornire una consapevolezza temporale e di verificare le azioni degli agenti contro le regole definite.
La disponibilità di Strands Box
Strands Box è disponibile su GitHub e supporta qualsiasi agente o harness che si desidera confinare all'interno della sua struttura. Attualmente, è disponibile solo per macOS, ma il supporto per Linux è in sviluppo e un client Windows è "sotto osservazione", anche se non ci sono date di rilascio pianificate. La distribuzione su piattaforme come AgentCore, ECS e Kubernetes è anche pianificata.
La sicurezza degli agenti AI è un'area in cui l'industria deve ancora lavorare molto, e AWS è impegnata a continuare a investire in essa, sia all'interno del cloud AWS che nel codice open-source.
Strands Box è un passo importante nella direzione giusta, poiché fornisce uno strumento potente per controllare il comportamento degli agenti autonomi e prevenire disastri in modalità YOLO. Gli sviluppatori possono utilizzare Strands Box per creare politiche più precise e prevenire azioni dannose, e la piattaforma è progettata per essere estensibile e personalizzabile.
In sintesi, Strands Box è una sandbox open-source per agenti AI che utilizza l'isolamento a livello di sistema operativo e altri strumenti open-source per controllare il comportamento degli agenti autonomi. La piattaforma è progettata per prevenire disastri in modalità YOLO e fornisce uno strumento potente per gli sviluppatori per creare politiche più precise e prevenire azioni dannose.
Conclusioni
Strands Box è un passo importante nella direzione giusta per la sicurezza degli agenti AI, e AWS è impegnata a continuare a investire in essa. La piattaforma è progettata per essere estensibile e personalizzabile, e gli sviluppatori possono utilizzarla per creare politiche più precise e prevenire azioni dannose. Con Strands Box, AWS fornisce uno strumento potente per controllare il comportamento degli agenti autonomi e prevenire disastri in modalità YOLO.