Un assistente IA che risponde correttamente a una domanda ma indica come fonte un passaggio che non dice affatto ciò che afferma: è il paradosso messo a fuoco da una serie di studi pubblicati nel 2026 e rilanciato in questi giorni dalla stampa tecnologica. Il messaggio è scomodo per chiunque usi l'IA per lavoro intellettuale: la risposta giusta non garantisce una citazione giusta.
Il tema riguarda direttamente strumenti diventati popolarissimi — da Perplexity alle modalità "AI" dei motori di ricerca, fino agli assistenti che leggono i nostri PDF — tutti basati sulla tecnica del retrieval-augmented generation (RAG), in cui il modello recupera documenti e poi genera una risposta citandoli.
Quanto spesso le citazioni non reggono
I numeri raccolti dalla ricerca recente sono severi. Diverse analisi indicano che tra il 50% e il 90% delle citazioni prodotte dagli "answer engine" non sostiene pienamente l'affermazione a cui sono associate. Gli autori parlano apertamente di "falsa promessa di risposte fattuali e verificabili": la presenza di un link accanto a una frase trasmette autorevolezza, ma quel link spesso non contiene davvero l'informazione citata, o la contiene in forma diversa.
Il problema non è solo la qualità del recupero. Un lavoro come Stable-RAG mostra che i sistemi RAG sono "tutt'altro che privi di allucinazioni": basta riordinare gli stessi documenti recuperati per ottenere una risposta diversa, e in alcuni casi il modello ignora il documento corretto anche quando è presente. È quella che i ricercatori chiamano instabilità nell'integrazione delle prove: il difetto non sta solo nel cercare, ma nel modo in cui il modello combina ciò che ha trovato.
La "sicofantia da recupero" e le premesse false
C'è poi un fenomeno più insidioso, descritto come retrieval sycophancy. Se l'utente formula una domanda partendo da una premessa falsa, il sistema tende a recuperare documenti coerenti con quella premessa, finendo per "allucinare con tanto di citazioni": fornisce cioè una risposta sbagliata ma corredata di fonti, apparentemente solida. È il rischio più grave per chi cerca conferme a un'idea preconcetta, perché l'IA può restituire esattamente l'eco che cerca.
Perché conta in medicina, diritto e ricerca
Le conseguenze non sono accademiche. Un'analisi sui lavori scientifici indicizzati in PubMed ha rilevato un'impennata di errori riconducibili all'IA: nel 2026 un articolo su 277 conterrebbe riferimenti bibliografici fabbricati, in netto aumento rispetto a uno su 458 del 2025 e uno su 2.828 del 2023. In ambito legale, negli ultimi due anni non sono mancati i casi di avvocati sanzionati per aver depositato atti con sentenze inesistenti suggerite da un chatbot.
Il punto comune è che la citazione svolge una funzione di responsabilità: serve a permettere a un altro essere umano di verificare. Se la citazione è plausibile ma falsa, l'IA non riduce il lavoro di controllo, lo nasconde. In settori dove la verifica delle fonti è il cuore del mestiere — sanità, diritto, giornalismo, accademia — affidarsi alle citazioni generate senza controllarle è un rischio concreto.
Come usare gli assistenti IA senza farsi ingannare
Alcune precauzioni pratiche riducono molto il pericolo. Primo: aprire sempre le fonti citate e verificare che contengano davvero l'affermazione, invece di fidarsi del solo titolo. Secondo: diffidare delle risposte che confermano in pieno una premessa che abbiamo formulato noi, soprattutto se controversa. Terzo: per i compiti delicati, chiedere all'assistente di citare passaggi testuali brevi e puntuali, più facili da controllare rispetto a un generico rimando a una pagina. Quarto: usare più strumenti e confrontare, perché l'errore raramente è identico tra modelli diversi.
La ricerca, intanto, prova a migliorare i sistemi con citazioni "a livello di sotto-frase" e metodi che verificano se la prova recuperata sostiene effettivamente la conclusione. Ma finché questi approcci non saranno standard, la regola d'oro resta semplice: l'IA può accelerare la ricerca, non sostituire la verifica.
