Introduzione

Tre architetture si contendono il ruolo di “memoria esterna” per i Large Language Model nel 2026, e la scelta sbagliata può costare a un’azienda fino a 500.000 dollari al mese in bolletta cloud. RAG (Retrieval‑Augmented Generation) ha dominato dal 2020 al 2024, poi è arrivato il pattern LLM Wiki proposto da Andrej Karpathy nell’aprile 2026, mentre l’agentic search ha consolidato la sua posizione come standard de facto per le applicazioni enterprise complesse.

Secondo i dati raccolti da Techment, il 75 % delle applicazioni enterprise userà architetture ibride entro la fine del 2026, combinando questi tre approcci invece di sceglierne uno solo.

Aggiornamenti recenti

Aggiornamento del 5 maggio 2026: il quadro va integrato con la PR #15162 di Salvatore Sanfilippo (antirez) che porta in Redis il tipo Array e il comando ARGREP, una struttura nativa che unifica memoria breve, cache e knowledge graph testuale in un singolo backbone in RAM.

Aggiornamento del 30 aprile 2026: tutte le novità NotebookLM del mese – rollout mobile, Cinematic Video Overviews e sync bidirezionale con Gemini – sono riassunte nella nostra guida completa NotebookLM aprile 2026.

Le tre architetture in 60 secondi

Per chiarire le differenze, consideriamo un’azienda di consulenza con 50.000 documenti interni (contratti, report, slide, paper) che vuole consentire ai dipendenti di interrogarli in linguaggio naturale.

RAG tradizionale

Ogni documento viene spezzato in chunk da 500‑1000 token, ciascun chunk è trasformato in un vettore numerico e salvato in un database vettoriale come Pinecone o Weaviate. Quando l’utente pone una domanda, il sistema cerca i chunk più simili e li passa all’LLM insieme alla query. È un processo veloce ma stateless: ogni domanda riparte da zero.

LLM Wiki di Karpathy

L’agente AI legge i documenti una sola volta, estrae i concetti chiave e costruisce un wiki in markdown organizzato per topic, entità e relazioni. Il wiki diventa un artefatto persistente che cresce nel tempo; quando arriva una nuova domanda, l’LLM consulta direttamente le pagine già sintetizzate, senza vector search.

Agentic Search

Il modello agisce come un ricercatore: decide autonomamente quali fonti interrogare, raffina le query iterativamente, valuta la qualità dei risultati e, se necessario, lancia nuove ricerche fino ad avere informazioni sufficienti per rispondere. Ogni interazione è un workflow multi‑step orchestrato dall’agente, non una semplice lookup.

Nota tecnica: queste tre architetture non sono mutuamente esclusive. Le implementazioni enterprise più moderne nel 2026 combinano agentic loop, retrieval vettoriale e wiki strutturati in pipeline ibride, dove l’agente decide quale strumento usare in base al tipo di query.

RAG: come funziona e perché ha rivoluzionato l’AI (2020‑2024)

Il termine RAG nasce nel 2020 con il paper di Patrick Lewis e colleghi di Facebook AI Research, che proponevano di affiancare alla generazione del modello un motore di retrieval per ridurre le allucinazioni. L’idea era semplice: oltre alla memoria parametrica, fornire al modello contesto fresco recuperato da una fonte esterna verificabile.

Il vero salto di scala arriva nel 2022 con RETRO (Retrieval‑Enhanced Transformer) di DeepMind, dimostrando che un modello da 7,5 miliardi di parametri può eguagliare le prestazioni di GPT‑3 da 175 miliardi se ha accesso a un retrieval engine ben costruito. Da quel momento RAG diventa il pattern di riferimento per quasi tutti i prodotti enterprise basati su LLM, da Notion AI a Microsoft Copilot, fino agli assistenti documentali interni di banche, studi legali e aziende sanitarie.

Architettura tipica di un sistema RAG nel 2026

Ingestion: caricamento e parsing dei documenti.
Chunking: divisione in frammenti gestibili.
Embedding: trasformazione di ogni chunk in un vettore numerico (es. OpenAI text‑embedding‑3, Cohere embed).
Indexing: salvataggio in un database vettoriale.
Query‑time retrieval: ricerca dei chunk più simili al momento della domanda.

Su questa base si aggiungono tecniche come hybrid search (combinazione di ricerca vettoriale e keyword search BM25), reranking con modelli dedicati e citation extraction per attribuire ogni affermazione a una fonte specifica.

I limiti emersi nel 2024‑2025

Il chunking spezza il contesto: un frammento da 500 token estratto da un report di 50 pagine perde gran parte del significato circostante, e l’LLM riceve informazioni decontestualizzate. La ricerca vettoriale può confondere documenti simili; ad esempio, per la query “differenza tra modello A e modello B” il sistema spesso recupera testi che parlano di entrambi senza distinguerli, generando risposte miste e inaccurate.

Le allucinazioni non spariscono: come hanno notato i ricercatori di Ars Technica nel 2025, “RAG non è una soluzione diretta perché l’LLM può ancora allucinare sopra il materiale recuperato”. Inoltre, i costi crescono linearmente con il volume di query, perché ogni domanda paga embedding, vector search e una finestra di contesto allungata.

Costo nascosto del RAG enterprise: a 50 milioni di query mensili, l’overhead della finestra di contesto allungata raggiunge circa 43.750 dollari al mese in costi LLM aggiuntivi, secondo le analisi di Stratagem Systems del marzo 2026.

LLM Wiki: il pattern di Karpathy che bypassa il vector store

Il 18 aprile 2026 Andrej Karpathy, ex direttore AI di Tesla e co‑fondatore di OpenAI, pubblica un gist su GitHub intitolato “llm‑wiki.md” descrivendo un’architettura radicalmente diversa per l’accesso alla conoscenza. Il post diventa