Esegui carichi di lavoro AI generativa scalabili con Cohere Command R & R+ su Amazon Bedrock

Le capacità dell'intelligenza artificiale generativa continuano a evolversi, offrendo opportunità senza precedenti per le aziende di innovare e ottimizzare le proprie operazioni. In questo contesto di rapida espansione, Amazon Web Services (AWS) ha annunciato un'importante novità: i modelli Cohere Command R e Command R+ sono ora disponibili su Amazon Bedrock. Questa aggiunta si basa su precedenti integrazioni, come quella avvenuta nel novembre 2023 con i modelli Cohere Command Light e Cohere Embed English, ampliando ulteriormente la gamma di strumenti di intelligenza artificiale di livello aziendale a disposizione degli sviluppatori e delle imprese.

Le organizzazioni moderne necessitano di modelli di intelligenza artificiale generativa (AI generativa) che possano interagire in modo sicuro ed efficiente con le vaste quantità di informazioni archiviate nelle loro fonti di dati aziendali. Sia Command R che Command R+ rispondono a questa esigenza, presentandosi come potenti e scalabili grandi modelli linguistici (LLM), appositamente costruiti per carichi di lavoro reali di livello aziendale. Questi modelli si distinguono per la loro natura multilingue e per un approccio equilibrato tra alta efficienza e forte precisione. Eccellono in capacità chiave come la generazione aumentata da recupero (RAG) e l'uso di strumenti, consentendo alle imprese di superare la fase di prova di concetto (POC) e di passare alla produzione completa utilizzando l'intelligenza artificiale (AI).

Differenze e capacità dei modelli Command R e Command R+

Sebbene entrambi i modelli siano progettati per scenari aziendali, presentano caratteristiche distintive che li rendono adatti a diverse esigenze:

Command R: È un modello generativo multilingue scalabile, specificamente mirato alle applicazioni RAG e all'uso di strumenti. La sua progettazione è orientata a consentire un'AI su scala di produzione per le imprese, offrendo flessibilità e robustezza per affrontare un'ampia gamma di compiti.
Command R+: Rappresenta un modello all'avanguardia ottimizzato per RAG, progettato per affrontare i carichi di lavoro di livello aziendale più complessi e per ottimizzare le applicazioni di AI aziendale. Command R+ è particolarmente ottimizzato per la RAG avanzata, fornendo risposte altamente affidabili e verificabili, pronte per l'uso aziendale, grazie alle citazioni in linea che sono standard con questo modello. Questa funzionalità è cruciale per le applicazioni che richiedono elevata accuratezza e tracciabilità delle informazioni.

L'uso di strumenti è una capacità fondamentale disponibile anche in Command R+, permettendo ai modelli di interagire con API esterne o sistemi interni per estendere le loro funzionalità. Command R+ è un robusto modello multilingue e, analogamente a Command R, presenta un tokenizer che comprime il testo non inglese molto meglio rispetto ai tokenizer utilizzati per altri modelli sul mercato. Questa caratteristica migliora significativamente l'efficienza e le prestazioni in ambienti multilingue.

Con l'introduzione di questi nuovi modelli Cohere in Bedrock, le aziende possono scalare le proprie operazioni con l'AI per trovare rapidamente le informazioni più pertinenti a supporto di attività in diverse funzioni aziendali. Queste includono finanza, risorse umane (HR), vendite, marketing e assistenza clienti, tra le altre, in una vasta gamma di settori commerciali. Questo potenziale di applicazione trasversale evidenzia la versatilità e l'impatto trasformativo che questi modelli possono avere.

Come iniziare con Command R e Command R+

Per iniziare a utilizzare entrambi i modelli in Amazon Bedrock, è necessario prima ottenere l'accesso ai modelli. Il processo è semplice e può essere completato attraverso la console di Amazon Bedrock:

Nella console di Amazon Bedrock, scegliere Accesso al modello.
Successivamente, scegliere Gestisci l'accesso al modello.
Scegliere il modello o i modelli preferiti (ad esempio, Command R e Command R+).
Infine, scegliere Salva modifiche.

Una volta completati questi passaggi, si avrà accesso a un totale di sei modelli Cohere tra cui scegliere in Amazon Bedrock, inclusi Command R e Command R+. Questa ampia scelta e flessibilità consentono di utilizzare i modelli ottimali per le proprie specifiche esigenze aziendali. Dopo aver ottenuto l'accesso, è sufficiente aggiornare la tabella dei modelli di base per visualizzare lo stato aggiornato e iniziare a utilizzare il modello desiderato.

Capacità multilingue in azione

I modelli sono stati addestrati per rispondere nella lingua dell'utente, supportando un'ampia gamma di idiomi tra cui inglese, francese, spagnolo, italiano, tedesco, portoghese brasiliano, giapponese, coreano, cinese semplificato e arabo. Questo li rende estremamente versatili per applicazioni globali. Ecco un esempio pratico di come il modello può generare testo in francese:

Prompt:

<s>"Écris une description de produit pour une voiture électrique en 50 à 75 mots"

Output:

Découvrez la voiture électrique qui va révolutionner votre façon de conduire.
Avec son design élégant, cette voiture offre une expérience de conduite unique
avec une accélération puissante et une autonomie impressionnante. Sa
technologie avancée vous garantit une charge rapide et une fiabilité inégalée.
Avec sa conception innovante et durable, cette voiture est parfaite pour les 
trajets urbains et les longues distances. Profitez d'une conduite silencieuse
et vivez l'expérience de la voiture électrique!

Interazione programmatica con Command R e Command R+

Oltre all'interfaccia della console, è possibile interagire con i modelli Command R e Command R+ in modo programmatico utilizzando l'AWS Command Line Interface (CLI) e l'AWS Software Development Kit (SDK) per effettuare varie chiamate tramite le API di Amazon Bedrock. Di seguito, un esempio di codice Python che interagisce con le API di runtime di Amazon Bedrock utilizzando l'AWS SDK.

Per prima cosa, è possibile eseguire una chiamata API ListFoundationModels per scoprire l'modelId per Command R:

import boto3
import json
import numpy

bedrock = boto3.client(service_name='bedrock', region_name='us-east-1')

listModels = bedrock.list_foundation_models(byProvider='cohere')
print("\n".join(list(map(lambda x: f"{x['modelName']} : { x['modelId'] }", listModels['modelSummaries']))))

L'esecuzione di questo codice fornisce un elenco simile al seguente:

Command : cohere.command-text-v14
Command Light : cohere.command-light-text-v14
Embed English : cohere.embed-english-v3
Embed Multilingual : cohere.embed-multilingual-v3
Command R: cohere.command-r-v1:0
Command R+: cohere.command-r-plus-v1:0

Da questo elenco, si può selezionare l'ID del modello cohere.command-r-v1:0 e scrivere il codice per generare il testo, come mostrato in precedenza. L'esempio seguente riproduce l'interazione per generare la descrizione della vettura elettrica:

import boto3
import json

bedrock = boto3.client(service_name="bedrock-runtime", region_name='us-east-1')

prompt = "<s>Écris une description de produit pour une voiture électrique en 50 à 75 mots"

body = json.dumps({
    "message": prompt,
    "max_tokens": 512,
    "temperature": 0.5,
    "p": 0.8
})

modelId = "cohere.command-r-v1:0"

accept = "application/json"
contentType = "application/json"

response = bedrock.invoke_model(
    body=body,
    modelId=modelId,
    accept=accept,
    contentType=contentType
)

print(json.loads(response.get('body').read()))

Questo codice produrrà un output formattato JSON, contenente il testo generato, che sarà simile a quello già visto:

Découvrez la voiture électrique qui va révolutionner votre façon de conduire.
Avec son design élégant, cette voiture offre une expérience de conduite unique
avec une accélération puissante et une autonomie impressionnante. Sa
technologie avancée vous garantit une charge rapide et une fiabilité inégalée.
Avec sa conception innovante et durable, cette voiture est parfaite pour les 
trajets urbains et les longues distances. Profitez d'une conduite silencieuse
et vivez l'expérience de la voiture électrique!

Disponibilità e risorse aggiuntive

I modelli Command R e Command R+, insieme agli altri modelli Cohere, sono disponibili da oggi in Amazon Bedrock nelle regioni US East (N. Virginia) e US West (Oregon). È consigliabile consultare l'elenco completo delle regioni per futuri aggiornamenti sulla disponibilità. Questa espansione rende più accessibili queste potenti capacità di intelligenza artificiale per un pubblico più ampio di sviluppatori e aziende.

Per coloro che desiderano approfondire le conoscenze tecniche e scoprire come le comunità di builder stanno utilizzando Amazon Bedrock nelle loro soluzioni, è possibile visitare il sito community.aws. Per provare Command R e Command R+ direttamente, si può accedere alla console di Amazon Bedrock oggi stesso. Il feedback è un elemento prezioso per il miglioramento continuo, e può essere inviato a AWS re:Post for Amazon Bedrock o tramite i consueti contatti di supporto AWS.

Questi nuovi modelli Cohere rappresentano un passo significativo nel rendere l'AI generativa di livello aziendale più accessibile e potente, consentendo alle organizzazioni di sbloccare nuove opportunità di innovazione e efficienza.