Amazon Web Services annuncia un’integrazione diretta tra Hugging Face e Amazon SageMaker AI, che consente agli sviluppatori di passare rapidamente e facilmente dalla scoperta di un modello all’ambiente di lavoro di SageMaker Studio con un singolo clic. Ora, quando si sceglie di fine-tunare un modello da Amazon SageMaker JumpStart o di deployarlo su un endpoint di Amazon SageMaker Inference, si può atterrare direttamente nel flusso di lavoro pertinente di SageMaker Studio.

Più velocità e meno passaggi per iniziare a sperimentare

In precedenza, utilizzare SageMaker Studio dopo aver scoperto un modello su Hugging Face richiedeva diversi passaggi: aprire l’AWS Console, creare un dominio, configurare le autorizzazioni IAM e in alcuni casi richiedere una quota GPU. Per gli sviluppatori che vogliono iterare velocemente, questa esperienza frenava il passaggio da un'idea all’implementazione. L’integrazione appena rilasciata riduce al massimo l'attrito tra scoperta e sperimentazione, facilitando il trasferimento diretto nel cloud.

Parola d’ordine: controllo

“A Arcee, costruiamo modelli open source perché i developer e le aziende abbiano pieno controllo su ciò che eseguono: possono esaminare i pesi, addestrare post-training con i propri dati e distribuire in autonomia. Questa integrazione porta il vantaggio dell'open model al punto finale. Passare da un modello open su Hugging Face direttamente in SageMaker Studio in un clic, e poi fine-tunare o distribuire in proprio ambiente AWS senza dover configurare nulla, è esattamente quello che i modelli open hanno sempre mancato. Pesi open che tu possiedi, eseguiti in un cloud che controlli tu. Questa è la combinazione che i nostri clienti richiedono.”

Con l'introduzione del flusso one-click, quando si seleziona “Customize” o “Deploy” nell'interfaccia SageMaker AI – su un modello Hugging Face supportato – si atterra direttamente nella console di Studio. SageMaker AI crea automaticamente un nuovo dominio con le autorizzazioni preconfigurate in pochi secondi, trasferendo contestualmente il contesto del modello selezionato.

Le tre nuove funzionalità

La novità introduce tre funzionalità specifiche che abbreviano il percorso da un modello su Hugging Face al funzionamento su SageMaker Studio:

    • Button Action su Hugging Face: Quando si naviga tra i modelli su Hugging Face, vengono visualizzati nuovi pulsanti di azione direttamente allineati ai flussi di lavoro di SageMaker Studio.
    • Preservare il contesto: Ogni entry point mantiene il contesto, in modo da non dover cercare nuovamente il modello all’interno di Studio.
    • Permessi preconfigurati: Gli ambienti Studio creati tramite queste integrazioni arrivano già dotati di autorizzazioni complete per sfruttare appieno i modelli SageMaker AI.

Studio preconfigurato e pronto all’uso

I nuovi ambienti Studio, generati con questa funzione, includono già configurati i permessi necessari per personalizzare i modelli, effettuare addestramenti, sperimentare con notebook e distribuire endpoint. Per semplificare ulteriormente il processo, viene creata e aggiunta automaticamente una politica gestione dedicata: AmazonSageMakerModelCustomizationCoreAccess. Questa permette l’uso di addestramenti supervisionati (SFT), l’ottimizzazione diretta delle preferenze (DPO), l'apprendimento rinforzato con rimunerazione verificabile (RLVR) e la retroazione AI-guidata (RLAIF), con deployment su endpoint Amazon Bedrock o SageMaker AI.

Con questa impostazione non c’è bisogno di creare e configurare manualmente le autorizzazioni IAM prima di iniziare a sperimentare. Per gli ambienti Studio esistenti, invece, vengono forniti messaggi diretti con collegamenti al supporto per aggiungere queste autorizzazioni manuale.

Gestione delle quote e scelta ottimizzata dell’istanza

Quando si sceglie il tipo di istanza per distribuzione o allenamento, l’interfaccia Studio mostra direttamente la disponibilità delle quote. Si può immediatamente verificare, ad esempio, se le istanze GPU G5 o G6 del proprio account AWS sono limitate e, in mancanza, richiedere l’aumento direttamente dal menu.

Passo passo: come sfruttare questa nuova esperienza

Vediamo insieme l’esperienza di modifica o distribuzione partendo da un modello Hugging Face:

    • Vai alla pagina del modello su Hugging Face. Clicca su "Deploy" e seleziona “Amazon SageMaker AI”. Se il modello è supportato, vedrai due pulsanti: “Deploy on SageMaker AI” e “Customize on SageMaker AI”.
    • Seleziona “Customize on SageMaker AI” per un modello supportato.
    • Verrai chiesto di autenticarti su AWS con le tue credenziali esistenti. Se hai già una sessione attiva, questo passo lo skip automaticamente.
    • Arrivi direttamente alla pagina di model customization in SageMaker Studio, con il modello già pre-selezionato. Configura i tuoi parametri di fine-tuning, come i dati di addestramento, gli iperparametri e il tipo di istanza, e invia il lavoro.
    • Oppure seleziona “Deploy on SageMaker AI” che apre direttamente la pagina di distribuzione, con il modello pre-configurato. Scegli il tipo di istanza (con visibilità delle quote), controlla le impostazioni e distribuisci.
    • Dopo la distribuzione dell’endpoint, puoi testare immediatamente l’inferenza utilizzando l'interfaccia di test integrata in Studio.

La conclusione: uno strumento per chi cerca velocità e controllo

Il lancio della funzionalità one-click riduce al minimo l’effetto di frizione tra discovery e sperimentazione dei modelli AI da parte degli sviluppatori. Collegando direttamente Hugging Face ai flussi di lavoro di SageMaker Studio, gli utenti mantengono il contesto, senza dover abbandonare il loro flusso e senza dover configurare l'ambiente manuale.

Per iniziare subito, visita la pagina Amazon SageMaker Studio, oppure scorri i modelli sulla piattaforma Hugging Face e seleziona “Deploy” o “Customize” su SageMaker AI.