Un modello linguistico non conosce i tuoi listini, le tue procedure o le tue condizioni di garanzia. Se glielo chiedi, risponde comunque: è addestrato a produrre testo plausibile, non a dire "non lo so". Tutto il lavoro di un assistente aziendale serio consiste nel vincolarlo ai tuoi contenuti e nel definire cosa può e cosa non può fare.
L'architettura minima
- Indicizzazione: i documenti (FAQ, schede, manuali) vengono divisi in blocchi, trasformati in vettori numerici (embedding) e salvati in un indice.
- Recupero: la domanda dell'utente viene trasformata nello stesso spazio vettoriale e si recuperano i blocchi più simili. È la parte che dà il nome alla tecnica: RAG, generazione aumentata dal recupero.
- Generazione vincolata: il modello riceve la domanda e i blocchi recuperati, con l'istruzione di rispondere solo sulla base di quelli.
- Azioni: dove serve, il modello non risponde ma richiama una funzione - prenotare, aprire un ticket, registrare un contatto - con parametri che il codice valida prima di eseguire.
- Passaggio a un umano: sempre disponibile, e obbligatorio nei casi delicati.
La qualità si gioca nel recupero, non nel modello
È il punto che sorprende chi si aspetta che basti "un modello migliore". Se il blocco che contiene la risposta non viene recuperato, nessun modello può rispondere correttamente: ha in mano solo i passaggi sbagliati. Contano quindi la dimensione dei blocchi (troppo grandi diluiscono, troppo piccoli perdono contesto), la sovrapposizione tra blocchi contigui, i metadati per filtrare per prodotto o per lingua, e la riformulazione della domanda quando è ambigua o fa riferimento ai messaggi precedenti.
Le allucinazioni si riducono, non si azzerano
Le contromisure che funzionano sono cumulative: istruire il modello a rispondere solo dai passaggi forniti, fargli citare la fonte di ogni affermazione, e rifiutare esplicitamente quando il recupero non trova nulla sopra una soglia di somiglianza - una risposta mancata è meno costosa di una sbagliata. Soprattutto, il comportamento va misurato: si prepara un insieme di domande con le risposte attese e lo si riesegue a ogni modifica, altrimenti ogni intervento è un'impressione.
I costi da mettere in conto
- Costo per conversazione, proporzionale al traffico: a differenza di una pagina, ogni risposta consuma token.
- Manutenzione dell'indice: quando i contenuti cambiano, l'indice va rigenerato, altrimenti l'assistente risponde con informazioni superate - con la sicurezza di chi le crede attuali.
- Latenza: recupero più generazione, con un servizio esterno nel mezzo.
- Responsabilità: ciò che l'assistente dice è un'affermazione dell'azienda, non del fornitore del modello.
Quando non conviene
Con volumi bassi il tempo speso a curare i contenuti e a controllare le risposte supera quello risparmiato: un buon insieme di FAQ e un modulo ben fatto rendono di più. Non conviene neanche quando le domande richiedono dati in tempo reale che nessun sistema espone (in quel caso il problema da risolvere è l'integrazione, non il chatbot) o quando una risposta sbagliata ha conseguenze contrattuali o legali: lì serve una ricerca guidata e deterministica, non un modello generativo.
Vedi anche: SEO tecnica: come rendere i contenuti trovabili.