Introduzione: tre paradigmi a confronto nel 2026

Nel panorama dell'intelligenza artificiale applicata, il 2026 rappresenta un punto di inflessione cruciale per le architetture di gestione della conoscenza nei Large Language Model. La domanda che ogni azienda si pone non è più "userò un LLM?", bensì "quale architettura di memoria esterna devo implementare?". La risposta ha implicazioni enormi sul budget: una scelta sbagliata può comportare costi aggiuntivi fino a 500.000 dollari mensili sulla bolletta cloud.

Tre paradigmi principali si contendono questo spazio: il RAG (Retrieval-Augmented Generation), che ha dominato dal 2020 al 2024; il pattern LLM Wiki, formalmente proposto da Andrej Karpathy ad aprile 2026; e l'agentic search, che ha consolidato la sua posizione come standard de facto per le applicazioni enterprise complesse. Secondo i dati raccolti da Techment, il 75% delle applicazioni enterprise userà entro la fine del 2026 architetture ibride che combinano questi tre approcci invece di sceglierne uno solo.

Questo articolo analizza in profondità le tre architetture con dati verificabili sui costi, esempi pratici di adozione e un confronto onesto su vantaggi e svantaggi reali. La differenza non è meramente accademica: tocca direttamente il TCO (Total Cost of Ownership) e la qualità delle risposte che gli utenti finali ricevono ogni giorno.

Le tre architetture di knowledge base AI in 60 secondi

Prima di entrare nei dettagli è utile stabilire definizioni precise con un esempio concreto che useremo poi per il confronto pratico. Immaginiamo un'azienda di consulenza che dispone di 50.000 documenti interni (contratti, report, slide, paper) e vuole permettere ai dipendenti di interrogarli in linguaggio naturale.

RAG tradizionale: il lookup veloce e stateless

Con il RAG tradizionale ogni documento viene spezzato in chunk da 500-1000 token, ciascun chunk viene trasformato in un vettore numerico e salvato in un database vettoriale come Pinecone o Weaviate. Quando l'utente formula una domanda, il sistema ricerca i chunk più simili e li passa all'LLM insieme alla query. È un processo veloce ma fundamentalmente stateless: ogni domanda riparte da zero, senza memoria della conversazione precedente integrata nella struttura di conoscenza.

LLM Wiki: la compilazione anticipata della conoscenza

Con la LLM Wiki di Karpathy l'agente AI legge i documenti una sola volta, ne estrae i concetti chiave e costruisce un wiki in markdown organizzato per topic, entità e relazioni. Il wiki diventa un artefatto persistente che cresce nel tempo, e quando arriva una nuova domanda l'LLM consulta direttamente le pagine già sintetizzate, senza necessità di vector search o similarity matching.

Agentic search: il modello come ricercatore autonomo

Con l'agentic search il modello agisce come un vero ricercatore: decide autonomamente quali fonti interrogare, raffina le query iterativamente, valuta la qualità dei risultati e, se serve, lancia nuove ricerche fino ad avere abbastanza informazioni per rispondere in modo completo e verificato. Ogni interazione è un workflow multi-step orchestrato dall'agente, non una semplice lookup single-pass.

Nota tecnica importante: queste tre architetture non sono mutuamente esclusive. Le implementazioni enterprise più moderne nel 2026 combinano agentic loop, retrieval vettoriale e wiki strutturati in pipeline ibride, dove l'agente decide quale strumento usare in base al tipo di query e al contesto della ricerca.

RAG: come funziona e perché ha rivoluzionato l'AI dal 2020 al 2024

Il termine RAG nasce nel 2020 con il paper di Patrick Lewis e colleghi, ricercatori allora a Facebook AI Research, che proponevano di affiancare alla generazione del modello un motore di retrieval per ridurre le allucinazioni. L'idea fondamentale era semplice ma potente: invece di chiedere al modello di rispondere solo dalla sua memoria parametrica (i pesi addestrati durante l'allenamento), gli si fornisce contesto fresco recuperato da una fonte esterna verificabile e controllabile.

Il vero salto di scala arriva nel 2022 con RETRO (Retrieval-Enhanced Transformer) di DeepMind, che dimostra come un modello da 7,5 miliardi di parametri possa eguagliare le prestazioni di GPT-3 da 175 miliardi di parametri se ha accesso a un retrieval engine ben costruito e ottimizzato. Da quel momento RAG diventa il pattern di riferimento per praticamente tutti i prodotti enterprise basati su LLM, da Notion AI a Microsoft Copilot, fino agli assistenti documentali interni di banche, studi legali e aziende sanitarie.

L'architettura tipica di un sistema RAG nel 2026

Una pipeline RAG completa nel 2026 articolata in cinque livelli ben distinti:

Ingestion: caricamento e parsing dei documenti in formati eterogenei (PDF, DOCX, HTML, immagini)
Chunking: divisione in frammenti gestibili, tipicamente 500-1000 token per bilanciare contesto e granularità
Embedding: trasformazione di ogni chunk in un vettore numerico tramite modelli specializzati come OpenAI text-embedding-3 o Cohere embed
Indexing: salvataggio in un database vettoriale (Pinecone, Weaviate, Milvus, Qdrant) con metadati associati
Query-time retrieval: ricerca dei chunk più simili al momento della domanda usando similarity search (cosine similarity, L2 distance)

Su questa base fondamentale si possono aggiungere tecniche più sofisticate come hybrid search (combinazione di ricerca vettoriale e keyword search BM25 per catturare sia la similarità semantica che la corrispondenza esatta), reranking con modelli dedicati (che ricalcolano il rank dei risultati usando modelli cross-encoder specializzati), e citation extraction per attribuire ogni affermazione a una fonte specifica e verificabile.

I limiti emersi nel 2024-2025

Sotto la patina di affidabilità, RAG ha mostrato fragilità importanti che hanno spinto la comunità verso architetture alternative.

Il chunking spezza il contesto: un frammento da 500 token estratto da un report di 50 pagine perde gran parte del significato circostante. L'LLM riceve informazioni decontestualizzate che possono portare a interpretazioni errate o incomplete. Quale dato è importante per la decisione finale? Come si collega ai paragrafi precedenti? Queste informazioni rimangono irraggiungibili.

La ricerca vettoriale confonde documenti simili: se cerco "differenza tra modello A e modello B" il sistema spesso recupera testi che parlano di entrambi senza distinguerli o contrapporli chiaramente, generando risposte miste e inaccurate. I vettori catturano la similarità generale, non le sfumature contrastive.

Le allucinazioni non spariscono: come hanno notato i ricercatori di Ars Technica nel 2025, "RAG non è una soluzione diretta perché l'LLM può ancora allucinare sopra il materiale recuperato". Se il contesto recuperato è ambiguo o incompleto, il modello può comunque inventare dettagli plausibili che non appaiono nella fonte.

I costi crescono linearmente con il volume: ogni domanda paga il costo di embedding, vector search e finestra di contesto allungata nel modello. A 50 milioni di query mensili, l'overhead della finestra di contesto allungata raggiunge circa 43.750 dollari al mese in costi LLM aggiuntivi, secondo le analisi di Stratagem Systems del marzo 2026.

LLM Wiki: il pattern di Karpathy che bypassa il vector store

Il 18 aprile 2026 Andrej Karpathy, ex direttore AI di Tesla e co-fondatore di OpenAI, pubblica un gist su GitHub intitolato "llm-wiki.md" in cui descrive un'architettura radicalmente diversa per l'accesso alla conoscenza. Il post diventa virale nelle 24 ore successive e ispira una decina di implementazioni open-source nelle settimane immediatamente successive, dimostrando come il problema fosse sentito urgentemente dalla comunità.

Implementazioni notevoli includono:

llmwiki di Lucas Astorian, la prima implementazione reference
Agent Skills di Astro-Han, che integra il pattern nel framework di agent orchestration
Second-brain di Nicholas Spisak per Obsidian, che connette la filosofia di Karpathy con l'ecosistema di knowledge management

L'intuizione di fondo è che gli LLM moderni sono straordinariamente bravi a sintetizzare e comprendere relazioni complesse, ma vengono usati nei sistemi RAG come semplici motori di lookup. Karpathy capovolge la prospettiva: invece di interrogare i documenti raw a ogni query, l'LLM compila una volta sola una conoscenza strutturata in markdown e poi consulta questa conoscenza già digerita. Il wiki diventa un artefatto persistente che cresce, si auto-corregge e mantiene cross-reference esplicite tra concetti.

L'architettura a tre strati del pattern LLM Wiki

Il pattern LLM Wiki si articola in tre directory ben distinte con ruoli complementari:

Directory raw/: contiene le fonti originali immutabili (paper, articoli, screenshot, trascrizioni). Questi file rimangono inalterati e servono come fonte di verità autoritativa. Ogni volta che una asserzione del wiki viene richiesta, può essere tracciata fino alla fonte originale.

Directory wiki/: raccoglie le pagine markdown generate dall'LLM, organizzate per entità, concetti e topic. Qui viene memorizzata la conoscenza sintetizzata, non il testo raw. Ogni pagina è un documento strutturato, leggibile da umani e facilmente navigabile.

File CLAUDE.md: definisce lo schema, le convenzioni di naming e il workflow di compilazione. Questo file agisce come "contratto" tra il sistema e l'LLM, stabilendo regole precise per come il wiki deve essere organizzato e aggiornato.

Quando si aggiunge una nuova fonte, il flusso di lavoro è il seguente:

L'agente AI legge il documento
Identifica le entità menzionate e i concetti principali
Aggiorna le pagine wiki esistenti con nuove informazioni
Crea nuove pagine se scopre concetti precedentemente non documentati
Segnala contraddizioni con quanto già scritto, permettendo la resoluzione manuale o automatica

Il vantaggio della compilazione una tantum

Karpathy stesso lo riassume con una frase efficace nel suo gist: "Obsidian è l'IDE; l'LLM è il programmatore; il wiki è il codebase". Il punto centrale è che il lavoro di sintesi viene fatto in fase di ingest, non in fase di query. Quando un utente fa una domanda, l'LLM lavora con sintesi pulite, dense e ben organizzate invece che con prosa raw chunkizzata in modo arbitrario.

Le implicazioni sono profonde:

Non serve embedding: eliminando il passaggio di vectorizzazione si riducono i costi computazionali e la latenza
Non serve similarity search: la struttura del wiki guida direttamente la navigazione, come un buon indice in un manuale tecnico
Non serve reranking: i documenti sono già organizzati per rilevanza strutturale
Trasparenza totale: il wiki è leggibile e verificabile da umani, mentre i vettori in Pinecone rimangono opachi e non interpretabili
Scalabilità controllata: il costo cresce con la dimensione della knowledge base, non con il volume di query

Quando LLM Wiki batte RAG: casi d'uso ideali

Il pattern emerge come superiore in scenari specifici:

Knowledge base finite e ben definite: 20-50 documenti su un dominio chiuso (FAQ aziendale, manuale di prodotto, libro di studio). In questi contesti il vantaggio di una base di conoscenza curata e strutturata è massimo.

Domini concettuali ricchi di relazioni: dove le entità si rimandano l'una all'altra (ricerca scientifica con citazioni incrociate, knowledge graph aziendali, alberi genealogici). Il wiki cattura naturalmente queste relazioni tramite link interni.

Casi d'uso personali: tracciamento obiettivi, lettura libri, ricerca tematica su settimane o mesi. Il wiki diventa effettivamente un "secondo cervello" che cresce consapevolmente.

Esigenza di trasparenza totale: nel contesto legale, medico o finanziario dove ogni affermazione deve essere tracciabile e verificabile.

Il pattern si sposa naturalmente con strumenti come Obsidian abbinato a Claude Code per costruire un secondo cervello persistente e consultabile. Diversi sviluppatori stanno già usando il pattern di Karpathy come base per le proprie skill personali e sistemi di knowledge