I grandi modelli linguistici (LLM) incontrano un limite fondamentale: essendo addestrati con set di dati statici, non possono recuperare informazioni in tempo reale. Questo articolo esplora come il Function Calling e gli agenti di intelligenza artificiale superano questa barriera, fornendo ai modelli di IA capacità in tempo reale, rendendoli sistemi dinamici e interattivi.

Sono un appassionato di judo e la mia judoka preferita è Inbar Lanir. Una volta, chiesi al mio assistente AI preferito: "Inbar Lanir ha vinto una medaglia olimpica?" L'IA rispose con sicurezza – basandosi però su informazioni obsolete o errate: affermò che Inbar non aveva vinto alcuna medaglia, quando in realtà Inbar Lanir ha conquistato l'argento olimpico a Parigi nel 2024.

Il problema: quando l'IA sbaglia

Questa esperienza frustrante evidenzia una limitazione fondamentale dei Large Language Models (LLM). Essi sono addestrati con set di dati statici e una "data di cut-off della conoscenza". Non hanno accesso a informazioni in tempo reale e non possono confrontare i fatti con fonti di dati attuali. Questa incapacità di rimanere aggiornati è una sfida significativa nell'era dell'informazione in continua evoluzione, dove la pertinenza e l'accuratezza dipendono spesso dalla disponibilità delle informazioni più recenti. Immaginate se la nostra IA potesse navigare nel web proprio come facciamo noi quando abbiamo bisogno delle ultime notizie o dati? È qui che entrano in gioco il Function Calling e gli agenti di intelligenza artificiale. Essi sono il ponte che trasforma i modelli di IA statici in sistemi dinamici e intelligenti, capaci di interagire con il mondo reale e di fornire risposte che riflettono lo stato attuale delle cose.

Invece di essere confinati a una conoscenza predeterminata, questi sistemi possono estendere le loro capacità, rendendo le loro interazioni non solo più utili ma anche intrinsecamente più affidabili. La capacità di recuperare informazioni fresche e pertinenti è ciò che distingue un assistente AI davvero efficace da uno che è destinato a commettere errori di fatto, come dimostrato dall'esempio di Inbar Lanir. Questa evoluzione è cruciale per la prossima generazione di applicazioni AI, dove l'accuratezza e la tempestività sono tanto importanti quanto la coerenza e la fluidità linguistica.

Come funzionano gli LLM: l'architettura a tre strati

Prima di immergerci nel Function Calling, è essenziale comprendere la struttura fondamentale con cui stiamo interagendo. I Large Language Models sono sistemi di machine learning altamente sofisticati, progettati per comprendere e generare testo che suona simile al linguaggio umano. Ottengono questo analizzando set di dati vastissimi di modelli linguistici, apprendendo le complesse relazioni tra parole, frasi e concetti. Si possono immaginare gli LLM come una torta a tre strati, ciascuno dei quali contribuisce alla loro straordinaria capacità.

Strato 1: Algoritmi di Machine Learning

Questi sono i metodi statistici fondamentali che abilitano il riconoscimento di pattern e l'apprendimento dai dati. Al loro nucleo, gli algoritmi di machine learning sono progettati per identificare regolarità e fare previsioni basate su dati osservati. Nel contesto di un problema di classificazione, il modello di machine learning viene addestrato con un set di dati e crea una funzione. Questa funzione, basandosi su vari parametri, è in grado di determinare la risposta a una domanda per nuovi dati che non ha mai visto prima. In sostanza, il modello genera una rappresentazione matematica delle relazioni presenti nei dati di addestramento e può quindi utilizzare questa funzione per calcolare una risposta per qualsiasi nuovo set di dati. Questo strato è la base computazionale che permette all'IA di "imparare".

La figura 1 (come esempio concettuale) illustra una semplice funzione di classificazione che tenta di determinare il prezzo di un appartamento a Londra in base a due parametri: il numero di stanze e la distanza dal centro città. Dopo che la funzione è stata creata, la risposta per un nuovo set di dati si ottiene dalla sua posizione nel sistema di coordinate definito da questi parametri. Più complessa è la relazione, più sofisticata deve essere la funzione, ma il principio di base rimane lo stesso: trasformare gli input in output significativi attraverso una mappatura appresa.

Strato 2: Reti neurali/Deep Learning

Nella pratica, le sfide che affrontiamo spesso coinvolgono milioni o addirittura miliardi di parametri. In tali situazioni, una semplice funzione matematica lineare o polinomiale non è sufficiente per catturare le complesse interdipendenze presenti nei dati del mondo reale. Per elaborare una tale quantità e complessità di parametri, abbiamo bisogno di reti complesse che possano stabilire relazioni intricate tra i vari punti di dati. A questo scopo, utilizziamo le reti neurali. Questi sono modelli computazionali ispirati alla struttura e alla funzione del cervello umano, composti da "neuroni" artificiali che ricevono input, li elaborano e trasmettono output ad altri neuroni nella rete. Le reti neurali profonde, che consistono in molti strati di neuroni, sono particolarmente efficaci nel rilevare pattern gerarchici e non lineari. Modelli moderni come ChatGPT, ad esempio, contengono circa 175 miliardi di neuroni – un numero quasi doppio rispetto ai circa 100 miliardi di neuroni presenti nel cervello umano. Questa vasta scala permette loro di apprendere e rappresentare una quantità incredibile di informazioni e relazioni linguistiche.

Strato 3: L'LLM stesso

Questo è il sistema completo che elabora e genera testo, principalmente prevedendo la parola successiva più probabile in una sequenza data. Al suo centro, un LLM risolve un problema di classificazione su larga scala: data una sequenza di parole, quale parola dovrebbe venire dopo per completare il significato in modo coerente e grammaticale? Consideriamo la frase: "Il bambino gioca volentieri con la…" Il modello calcola quindi le probabilità per le parole successive, come ad esempio:

Palla: 0,7
Zebra: 0,1
Scarpa: 0,05

La parola successiva che verrà scelta è "Palla" – la parola con la probabilità più alta. In realtà, le tabelle di probabilità sono considerevolmente più estese e contengono migliaia di righe, riflettendo la vastità del vocabolario e la complessità delle strutture linguistiche. Questo approccio probabilistico, combinato con il grado di esplorazione (che determina quanto "avventuroso" è il modello nella scelta di opzioni meno probabili, come descritto nella sezione "Componenti essenziali degli LLM"), definisce quale parola il modello sceglie come successiva. Questo influenza sia la sua creatività, permettendogli di generare testo originale e sorprendente, sia la sua consistenza, assicurando che le risposte siano generalmente sensate e pertinenti al contesto.

Componenti essenziali degli LLM

Per comprendere appieno il funzionamento e le capacità degli LLM, è utile familiarizzare con alcuni dei loro blocchi costitutivi fondamentali:

Grado di esplorazione (Temperature): Questo parametro controlla quanto il modello è "avventuroso" nella scelta di opzioni meno probabili. Una temperatura alta incoraggia il modello a selezionare parole più casualmente, il che può portare a risposte più creative o, al contrario, a risposte confuse e prive di senso che potremmo non capire. Una temperatura bassa rende il modello più deterministico e conservativo, favorendo le opzioni più probabili.
Token: Sono le unità fondamentali della elaborazione del testo. Tutto il testo viene suddiviso in token, che possono essere parole intere, parti di parole o anche singoli caratteri, a seconda della tokenizzazione utilizzata dal modello. Questi token sono le "monete" con cui il modello opera.
Prompt: Un prompt è l'input testuale fornito a un LLM per generare una risposta. Solitamente si tratta di una stringa di testo che include istruzioni, contesto, domande o esempi, guidando il modello a produrre un output che sia allineato all'intenzione dell'utente. La qualità del prompt influisce direttamente sulla qualità della risposta.
Finestra di contesto: Si riferisce alla quantità di dati testuali che il modello può accettare per ogni singola domanda e utilizzare per generare una risposta. Questi dati vengono aggiunti ai dati di addestramento statici che hanno costruito la conoscenza del modello. La finestra di contesto è cruciale per mantenere conversazioni coerenti e per elaborare documenti di grandi dimensioni, poiché permette al modello di "ricordare" le parti precedenti di un dialogo o di un testo.
Embeddings: Questo è il processo di conversione di parole e frasi in rappresentazioni numeriche – tipicamente vettori – che il modello può elaborare matematicamente. Gli embeddings catturano il significato semantico delle parole, consentendo al modello di comprendere le relazioni tra di esse e di eseguire operazioni di ragionamento.
Allucinazioni: Forse il concetto più importante da comprendere. Le allucinazioni si verificano quando gli LLM generano risposte che sono grammaticalmente perfette e suonano convincenti, ma sono di fatto false o inventate. Nonostante la loro sofisticazione, gli LLM non "capiscono" la verità nel senso umano e possono "inventare" informazioni. Un modo per evitare le allucinazioni è un prompting accurato e strategico, che chieda al modello di ammettere l'incertezza quando non è sicuro della risposta.

Esempio di prompt engineering efficace

Il modo in cui formuliamo i prompt può avere un impatto significativo sulla qualità e affidabilità delle risposte generate da un LLM. Una strategia efficace di prompt engineering può mitigare problemi come le allucinazioni e aumentare l'utilità del modello. Consideriamo questi esempi:

Prompt base: "Sei un assistente utile che aiuta gli sviluppatori a trovare errori nel loro codice." Questo prompt stabilisce il ruolo dell'assistente ma non fornisce indicazioni su come gestire l'incertezza.
Prompt migliorato: "Sei un assistente utile che aiuta gli sviluppatori a trovare errori nel loro codice. Se non conosci la risposta, dì che non la sai. Non inventare mai una risposta." Questa semplice aggiunta migliora notevolmente l'affidabilità delle risposte, poiché il modello riceve esplicitamente il permesso di ammettere l'incertezza. Incoraggiando il modello a riconoscere i limiti della propria conoscenza, si riduce drasticamente la probabilità di ricevere informazioni false ma presentate come fatti, rendendo l'assistente molto più affidabile in contesti professionali e critici.

Function Calling: superpoteri per l'IA

Come accennato, i modelli di intelligenza artificiale sono addestrati con dati statici, il che significa che i loro dati di addestramento non possono essere aggiornati dinamicamente per riflettere le ultime informazioni. È qui che il Function Calling opera la sua magia: permette al modello di accedere ai dati più attuali per ogni singola domanda posta dall'utente. Il Function Calling, o chiamata di funzione, consente a un LLM di interagire con codice esterno, API e fonti di dati che vanno oltre i suoi dati di addestramento originali. Anziché essere limitata alla sua conoscenza preesistente, l'IA può ora estendere le sue capacità in modi rivoluzionari:

Recuperare dati in tempo reale da siti web: Questo include notizie fresche, quotazioni di borsa aggiornate, previsioni meteorologiche, risultati sportivi o qualsiasi altra informazione disponibile pubblicamente sul web.
Eseguire calcoli con strumenti specializzati: L'IA può invocare una calcolatrice, un convertitore di valuta, un risolutore matematico o qualsiasi altro strumento software per eseguire operazioni complesse che non può gestire internamente solo con la sua capacità linguistica.
Compilare moduli e cambiare lo stato dell'applicazione: Può interagire con interfacce utente, compilare campi di testo, cliccare pulsanti o eseguire azioni all'interno di un'applicazione, trasformando l'IA da un semplice conversatore a un attore attivo.
Accedere a database e servizi esterni: L'IA può recuperare informazioni specifiche da database aziendali, interagire con API di terze parti per prenotare voli, inviare email o controllare lo stato degli ordini.

Questo meccanismo rappresenta un metodo estremamente pratico per introdurre dati attuali e pertinenti direttamente nella finestra di contesto dell'LLM per ogni singola query dell'utente. Il risultato è che le risposte fornite dall'IA diventano significativamente più pertinenti, aggiornate e, soprattutto, corrette. Il Function Calling trasforma l'LLM da un semplice generatore di testo a un potente motore di ragionamento e azione, capace di interagire dinamicamente con l'ambiente digitale e fisico.

Un semplice esempio di Function Calling

Per comprendere meglio il Function Calling, iniziamo con un esempio semplice che coinvolge un calcolatore. Immaginiamo di voler fornire al nostro LLM uno strumento per eseguire operazioni matematiche di base. In un contesto di sviluppo, questo strumento sarebbe definito e messo a disposizione dell'LLM. Ad esempio, la figura 2 (concettualmente) potrebbe mostrare la definizione di una semplice funzione add(a, b) che prende due numeri e restituisce la loro somma. Successivamente, poniamo una domanda all'LLM. Come mostrato nella figura 3 (concettualmente), la domanda dell'utente potrebbe essere: "Quanto fa 5+17?"

Cosa succede a questo punto? L'LLM, ricevendo la domanda ("Quanto fa 5+17?"), non tenta di calcolare la somma basandosi sulla sua memoria interna o sui dati di addestramento (che potrebbero essere obsoleti o non ottimizzati per calcoli precisi). Invece, l'LLM decide che la domanda può essere meglio risolta invocando una funzione esterna. Riconosce che l'operazione richiesta corrisponde alla capacità di uno degli strumenti che gli sono stati messi a disposizione. Pertanto, l'LLM restituisce un "tool call" (una chiamata allo strumento) alla funzione _add_, specificando gli argomenti 5 e 17.

Il codice host (che ospita l'LLM) intercetta questa chiamata allo strumento. A questo punto, il codice esegue la funzione _add_ con i parametri forniti (5 e 17), ottenendo il risultato 22. Questo risultato viene quindi aggiunto alla conversazione (o al contesto del prompt) e rispedito all'LLM. Con il risultato del calcolo ora disponibile nel suo contesto, l'LLM può formulare una risposta in modo naturale, utilizzando il risultato della funzione. Ad esempio, potrebbe rispondere: "5 più 17 fa 22."

Questo semplice esempio illustra il concetto centrale del Function Calling: l'LLM riconosce quando ha bisogno di aiuto esterno per completare un compito o rispondere a una domanda e invoca automaticamente lo strumento appropriato. Invece di essere un mero "predittore della parola successiva", l'LLM si trasforma in un "motore di ragionamento" capace di orchestrare l'uso di diversi strumenti. Questo lo rende non solo in grado di rispondere a domande basate sulla memoria, ma anche di eseguire azioni complesse e risolvere problemi dinamici nel mondo reale. Questo meccanismo di interazione dinamica con strumenti esterni è la base su cui vengono costruiti gli agenti intelligenti, i workflow autonomi e le applicazioni LLM realmente utili e potenti nel mondo contemporaneo.