heise+ | Intelligenza artificiale locale come assistente di scrittura: usare LLM in LibreOffice, Obsidian e altri

Perché usare una KI locale per la scrittura

Il continuo scambio di testo tra una finestra di chat e il documento di lavoro è diventato un vero fastidio per chi scrive quotidianamente. Copiare, incollare, poi riformattare o correggere manualmente richiede tempo e aumenta il rischio di errori. Una soluzione efficace è quella di far operare l’intelligenza artificiale direttamente all’interno dell’editor, in modo che possa correggere, ottimizzare o completare i contenuti senza mai uscire dall’applicazione.

Utilizzare LLM in locale garantisce due benefici fondamentali: la privacy, perché i dati non lasciano mai il proprio computer, e la velocità, poiché il modello gira sulla scheda grafica (GPU) disponibile, senza dipendere da connessioni internet instabili o da limiti di quota dei provider cloud.

Come integrare LLM in LibreOffice

LibreOffice, la suite di produttività open source, può essere potenziata con un’estensione che funge da interfaccia tra l’editor di testi e un modello LLM locale. Il procedimento prevede i seguenti passaggi:

• Installare Open WebUI, un’interfaccia web leggera per gestire modelli come Llama 2 o Mistral.
• Configurare il server locale in modo che ascolti sulla porta 8080 e utilizzi la GPU tramite CUDA o ROCm.
• Scaricare l’estensione LibreOffice‑AI dal repository ufficiale e attivarla nelle impostazioni delle estensioni.
• Associare l’estensione al server Open WebUI inserendo l’indirizzo http://localhost:8080/api nelle preferenze.
• Usare la nuova barra degli strumenti “AI” per richiedere correzioni grammaticali, riscritture di paragrafi o generazione di testo a partire da brevi prompt.

Una volta configurata, l’interazione avviene con un semplice click: il testo selezionato viene inviato al modello, che restituisce la risposta direttamente nel documento, mantenendo formattazione e stili.

Obsidian come supporto per note intelligenti

Obsidian, noto per la sua gestione di note in formato markdown, può anch’esso beneficiare di un assistente KI locale. L’integrazione avviene mediante un plugin chiamato Obsidian‑LLM, che comunica con lo stesso server Open WebUI utilizzato per LibreOffice.

Il plugin permette di:

• Generare automaticamente sommari per pagine lunghe.
• Espandere punti elenco incompleti con contenuti coerenti.
• Correggere errori di sintassi markdown e suggerire tag appropriati.
• Creare collegamenti interni basati su concetti similari identificati dal modello.

Grazie alla natura locale, le note rimangono criptate e non vi è alcun rischio che dati sensibili vengano inviati a server esterni.

Open WebUI: il cuore della soluzione

Open WebUI è una interfaccia web open source che semplifica il deployment di LLM su hardware domestico. Supporta diversi modelli, tra cui Llama 2, Mistral‑7B e Gemma, ed è compatibile con Linux, Windows e macOS. Una volta avviata, fornisce endpoint REST che le estensioni di LibreOffice e Obsidian possono chiamare per ottenere risposte in tempo reale.

Le principali caratteristiche di Open WebUI includono:

• Gestione della memoria GPU per evitare sovraccarichi.
• Modalità chat e completion per adattarsi a diversi casi d’uso.
• Interfaccia di amministrazione per monitorare i token consumati e i tempi di risposta.
• Supporto a plugin aggiuntivi per filtri di contenuto e personalizzazioni linguistiche.

Requisiti tecnici e configurazione della GPU

Per eseguire un modello LLM localmente è necessario disporre di una GPU con almeno 8 GB di VRAM, preferibilmente NVIDIA con driver aggiornati a supporto CUDA 11 o superiore. In alternativa, le GPU AMD sono supportate tramite ROCm, anche se la compatibilità può variare a seconda del modello scelto.

La procedura tipica di installazione comprende:

• Installare i driver più recenti per la propria scheda grafica.
• Creare un ambiente Python virtuale e installare torch con il supporto CUDA/ROCm.
• Clonare il repository di Open WebUI da GitHub e avviare docker compose up -d o il comando python server.py se si preferisce una esecuzione nativa.
• Scaricare il modello desiderato (ad esempio Llama‑2‑7B‑Chat) e posizionarlo nella cartella models/ di Open WebUI.
• Verificare il funzionamento inviando una richiesta di prova tramite curl http://localhost:8080/api/v1/completions.

Una volta testata la risposta, si può procedere con la configurazione delle estensioni di LibreOffice e Obsidian, inserendo l’URL del server e impostando eventuali parametri di temperatura o lunghezza massima del testo.

Altri spunti dal mondo tech

Nel contesto più ampio dell’intelligenza artificiale, diversi sviluppi meritano attenzione:

• Vibe‑Coding genera il codice ma richiede ancora l’inserimento manuale; il Agentic Coding automatizza anche il debugging.
• Microsoft ha annunciato la versione 26H2, che porta miglioramenti già noti, dimostrando che gli aggiornamenti di funzionalità stanno evolvendo verso una nuova logica di rilascio.
• Tim Burton ha satirizzato i film di invasione, mostrando quanto siano vulnerabili le risposte governative alle crisi.
• Con Home Assistant e sensori di apertura finestre è possibile documentare il comportamento di ventilazione, fornendo dati utili per discussioni su muffe con i proprietari.
• Le nuove funzioni degli AirPods di Apple, introdotte nella quinta generazione, sono state testate per verificare se rappresentano reali progressi.

← Retour aux actualités