RAG: fai domande ai tuoi documenti

RAG — Retrieval Augmented Generation, generazione potenziata con ricerca — è il modo più semplice per far rispondere un modello locale a domande sui tuoi documenti. Carichi i file, fai la domanda, la risposta arriva supportata dal contenuto che hai caricato tu.

Perché un modello da solo non basta

Un modello linguistico conosce molto, ma non conosce le tue cose: i tuoi manuali, i regolamenti interni, le specifiche dei tuoi prodotti. Se gli chiedi qualcosa che non c'è nel suo addestramento, risponde comunque — spesso inventando con una sicurezza che è proprio il problema.

Inoltre, l'addestramento ha una data limite: tutto ciò che è successo dopo, e tutto ciò che non è pubblico (e la maggior parte dei documenti aziendali non lo è), non può conoscerlo.

RAG risolve proprio questo: prima di rispondere, il sistema cerca nei tuoi documenti il passaggio pertinente e lo mette a disposizione del modello. Il modello risponde sulla base di ciò che ha letto, non sulla base di ciò che ricorda.

Come funziona, in tre componenti

1. Embedding. Un modello di embedding trasforma il testo in vettori: liste di numeri che rappresentano il significato. Frasi con significati simili finiscono vicine in questo spazio vettoriale. È il passaggio che permette di "cercare per significato" invece che per parola esatta.

2. Database vettoriale. I vettori vengono salvati in un database che sa rispondere rapidamente alla domanda "quali vettori sono più vicini a questo?". La ricerca è per somiglianza, non per corrispondenza letterale: "freno" e "impianto frenante" sono due parole diverse, ma i loro vettori sono vicini.

3. Il ciclo di recupero. Quando fai una domanda, il sistema la converte in un vettore, cerca i passaggi più simili nel database e costruisce il prompt aggiungendo quel contesto alla tua domanda. Il modello risponde vedendo i passaggi trovati.

I documenti vengono prima suddivisi in piccoli blocchi (chunking): un manuale da 200 pagine non si interroga intero, si interroga a pezzi di poche decine di righe, e i pezzi pertinenti sono quelli che finiscono nel prompt.

Il percorso completo di una domanda

1. Prepari i documenti e li carichi (una volta, o ogni volta che cambiano).
2. Il sistema li suddivide in blocchi e li trasforma in vettori con il modello di embedding.
3. I vettori vanno nel database vettoriale, sul tuo hardware.
4. Fai la domanda: viene trasformata in un vettore e confrontata con quelli salvati.
5. I blocchi più simili vengono inseriti nel prompt insieme alla domanda.
6. Il modello risponde usando quel contesto.

Tutto gira in locale: documenti, vettori e modello. Nessuna copia dei tuoi file passa a un servizio esterno.

Esempio concreto con tool locali

Il percorso più corto è Ollama per il modello e Open WebUI per i documenti. Carichi i PDF o i testi dalla sezione documenti, scegli un modello di embedding (ad esempio nomic-embed-text, scaricabile con Ollama), e i file vengono suddivisi e indicizzati in automatico. Poi, in una conversazione, attivi "usa nella chat corrente" sul documento e fai la domanda: la risposta mostra da quale passaggio proviene.

Il punto importante: l'indicizzazione è una tantum. Il lavoro pesante (suddivisione, embedding, salvataggio) si fa una volta al caricamento; la conversazione resta veloce, e ogni domanda consulta solo i blocchi rilevanti, non l'intero archivio.

I limiti

RAG non è magia. Se il documento non contiene la risposta, il modello non la inventa — a patto che il prompt glielo consenta. E se la ricerca non trova il blocco giusto, la risposta è sbagliata per quanto il modello sia bravo: la qualità della ricerca è il soffitto della qualità della risposta.

Funziona meglio con documenti ben scritti e strutturati, e i dettagli contano: la dimensione dei blocchi, il modello di embedding, quanti blocchi recuperare. Sono le prime cose da regolare quando i risultati non convincono.

Se vuoi capire meglio i singoli passaggi, guarda cos'è l'IA locale e come scegliere il primo modello. E se il tuo obiettivo è far rispondere il modello ai documenti di lavoro, Open WebUI è il punto di partenza più semplice.

In sintesi

RAG collega un modello locale ai tuoi documenti: il modello legge prima, risponde dopo. Tre componenti — embedding, database vettoriale, ciclo di recupero — e nessun dato che lascia il tuo hardware. Per chi ha già installato un modello locale, è il passo che trasforma la chat in uno strumento di lavoro: domande reali, risposte supportate dai tuoi documenti.

Articolo generato con IA