Allucinazione (intelligenza artificiale)

Un video generato da Sora del Viadotto di Glenfinnan, che mostra un inesistente secondo binario, mentre il viadotto ne ha solo uno, un secondo fumaiolo nella locomotiva a vapore The Jacobite, e alcuni vagoni più lunghi degli altri.

L'allucinazione (detta anche confabulazione) è una risposta generata da un'intelligenza artificiale generativa che contiene dati falsi o fuorvianti presentati come fatti.

Tipi

Esempio di allucinazione durante la generazione di un'immagine: è presente una terza mano, sul lato destro dell'immagine.

Il termine deriva da una vaga analogia con le allucinazioni umane, derivate normalmente da false percezioni. Le allucinazioni dell'intelligenza artificiale tuttavia, al contrario di quelle umane, originano da risposte costruite in modo errato, e non da un'errata percezione. Il concetto di “allucinazione” è stato infatti criticato da diversi esperti per le sue connotazioni mediche - inapplicabili a una macchina - e per via del fatto che la parola presuppone l’esistenza di uno stato di coscienza e conoscenza da cui l’IA può, sbagliando, deviare. Le IA generative, però, non sono né coscienti, né possono conoscere quello che dicono: di conseguenza, non possono nemmeno avere allucinazioni.

I modelli prevedono quale sia la parola successiva più probabile da un punto di vista statistico. Per questo motivo, quando si trovano a rispondere a domande generiche, i chatbot dimostrano tutta la loro limitatezza. Così un chatbot generato da un modello linguistico di grandi dimensioni, come ChatGPT, può includere contenuti falsi generati automaticamente all'interno delle proprie risposte. Secondo uno studio del 2023, a seconda dei chatbot la percentuale di dati falsi generati variava dal 3 al 27%, mentre un altro studio ha rilevato dati errati in media nel 46% dei testi generati. OpenAI ha dichiarato che in questi casi specifici le sue ultime tecnologie hanno allucinazioni dal 51% al 79% delle volte. Sebbene siano in grado di generare testi coerenti e persuasivi, questi modelli non comprendono davvero i contenuti, almeno non nel senso in cui lo farebbe un essere umano. La probabilità che si generino tali errori aumenta all'incrementarsi della complessità delle domande.

C'è poi un altro aspetto: i modelli linguistici sono progettati per soddisfare l’utente. Essendo prodotti commerciali, vengono sviluppati per non ammettere l’incertezza. Chi paga un abbonamento per usare ChatGPT, si aspetta risposte alle proprie domande. Da un punto di vista di mercato, quindi, le aziende tecnologiche come OpenAI, Google, Deepseek e altre ritengono preferibile fornire una qualsiasi risposta piuttosto che nessuna. Risposte plausibili ma non veritiere, che sembrano corrette ma non poggiano su alcun fondamento reale.

Dall'ottobre 2025 Elon Musk ha lanciato Grokipedia. Le singole voci sono alimentate da Grok, sistema che viene utilizzato anche su X. In pratica, come qualsiasi modello di intelligenza artificiale generativa, ha introitato una mole enorme di dati, utilizzati poi per produrre le singole voci dell’enciclopedia. Alcuni analisti hanno già rilevato le solite “allucinazioni” tipiche delle intelligenze artificiali e una tendenza a mescolare fonti molto diverse, trattandole sullo stesso piano. Secondo la testata ebraica Forward, una prima versione della voce dedicata a Hitler menzionava l’Olocausto solo in un secondo momento, descrivendo il dittatore semplicemente come «un politico tedesco di origine austriaca» che ottenne rapidi successi economici, consolidando il potere «con mezzi legali e successive epurazioni».

I large language model rappresentano una forma di algoritmo di deep learning caratterizzato dalla capacità di riconoscere, riassumere, tradurre e generare testi, e altri contenuti, sulla base della conoscenza appresa dal loro dataset in fase di addestramento. GPT-3 è stato per esempio addestrato attraverso 800 gigabyte di informazioni, tra cui l’intera Wikipedia in lingua inglese, centinaia di migliaia di articoli delle principali testate d’informazione, grandi porzioni di forum come Reddit e altro ancora. Sfruttare una tale mole di dati pescati dalla rete significa, inevitabilmente, anche impiegare in fase di addestramento dei contenuti di scarsa qualità, delle informazioni errate, delle teorie controverse e altro ancora. Un altro elemento problematico è che questi modelli operano attraverso un modello probabilistico, il quale rappresenta un processo incerto. Questo significa che anziché fornire risposte assolute o certezze, i modelli di intelligenza artificiale forniscono stime di probabilità su quale risposta (o sequenza di parole) sia la più probabile in base alle informazioni disponibili. In altre parole, il modello valuta diverse possibilità e assegna loro una probabilità di occorrenza, consentendo di selezionare l'opzione più plausibile in base a tali stime. Tuttavia, poiché le probabilità non forniscono una certezza assoluta, ciò introduce un elemento di incertezza nel processo decisionale dell'AI, rendendolo suscettibile a errori o allucinazioni, soprattutto in contesti complessi o ambigui. In pratica, ogni token (termine con cui si definiscono le unità di testo impiegate da questi modelli) presente nel dataset deve avere una probabilità di venire selezionato superiore a zero, dando così al sistema la flessibilità necessaria ad apprendere nuovi pattern, ma creando anche il rischio di generare informazioni scorrette. Il problema fondamentale è che i modelli linguistici sono probabilistici, la verità invece non lo è.

Sostiene l'ingegnere informatico Anthony Moser: «Non è un malfunzionamento. Un modello predittivo prevede del testo: magari è accurato, magari no, ma il processo è lo stesso in ogni caso. In altre parole: gli LLM sono strutturalmente indifferenti alla verità».

Dibattito scientifico

Il professor Andrew Heiss ha messo in luce come gli articoli fatti generare da studenti e studiosi all'IA, e che contengono riferimenti a ricerche inesistenti, se non segnalati e ritirati per l’uso improprio dell’IA finiscono per essere citati in altri lavori accademici, “ripulendo” di fatto le loro citazioni errate. In questo modo, studenti e ricercatori (e anche i modelli linguistici a cui eventualmente chiedono aiuto) finiscono per considerare quelle “fonti” come affidabili, senza verificarne mai l’esistenza. Più queste citazioni false vengono ripetute acriticamente da un articolo all’altro, più si rafforza l’illusione della loro autenticità. Le citazioni inventate sono diventate un incubo per i bibliotecari universitari, che secondo alcune stime arrivano a sprecare fino al 15 per cento del loro tempo di lavoro per rispondere a richieste di documenti inesistenti evocati da ChatGPT o Google Gemini. La psicologa e scienziata cognitiva Iris van Rooij ha sostenuto che la diffusione dello “slop” dell’IA nelle risorse accademiche preannuncia «la distruzione della conoscenza». Nel luglio 2025, lei e altri studiosi di settori affini hanno firmato una lettera aperta in cui invitavano le università a resistere all’hype e al marketing per «tutelare l’istruzione superiore, il pensiero critico, la competenza, la libertà accademica e l’integrità scientifica».

Le IA accedono continuamente a Wikipedia e agli altri siti di informazione per ottenere le risposte alle domande degli utenti e mostrargliele in comodi riassunti. In termini pragmatici, questo implica che molte persone si fermano al riassunto mostrato da Google, senza accedere al sito di Wikipedia. Italo Valdelli Inovation Program Lead (capo del programma di innovazione) di Wikimedia CH, il ramo svizzero della parte operativa di Wikimedia, ha affermato: «Paradossalmente è aumentato il traffico in generale, ma è aumentato di più il traffico dei bot rispetto al traffico umano. Il traffico dei bot ci sta togliendo dei click» Circa le fonti dalle quali l'IA trae informazioni, ma sulle quali potrebbe sviluppare una sorta di sostituzione nella stesura delle stesse, Dice inoltre Valdelli: «Wikipedia fornisce la qualità a questi modelli: se dovesse collassare Wikipedia, praticamente i modelli genererebbero moltissime allucinazioni e non sarebbero più affidabili». Un internet dove i contenuti sono generati dall’IA sarebbe poco sostenibile, perché è su quegli stessi testi che i modelli verrebbero addestrati. Una spirale autoreferenziale dove gli errori (le allucinazioni), sia linguistici che nozionistici, si moltiplicherebbero in modo esponenziale, rendendo gli strumenti perfettamente inutili.

Una analisi di OpenAI si sofferma anche sul ruolo dei sistemi di valutazione. Nove dei dieci principali benchmark utilizzati da Google, OpenAI e nelle classifiche di settore penalizzano i modelli che dichiarano dubbi, assegnando zero punti sia alle risposte incerte che a quelle completamente errate. Questo meccanismo incentiva matematicamente l’IA a “tirare a indovinare”, piuttosto che astenersi, per massimizzare il punteggio atteso. OpenAI propone dunque di introdurre delle soglie di certezza che permettano all’IA di esprimere dubbi, riducendo efficacemente le allucinazioni. Tuttavia, implementare questa soluzione richiederebbe costi computazionali significativamente maggiori e degraderebbe l’esperienza utente. Se infatti ChatGPT iniziasse a rispondere “non lo so” anche solo al 30% delle domande, molti utenti probabilmente abbandonerebbero il servizio. Gli incentivi commerciali dell’IA consumer rimangono quindi strutturalmente disallineati con la riduzione del fenomeno. Diverso il discorso per gli ambiti ad alta criticità, come finanza, logistica o medicina, dove ridurre le allucinazioni diventa non solo sostenibile ma soprattutto necessario. Un tentativo di soluzione potenziale è quello di integrare i grafi di conoscenza (KGs) negli LLMs. I grafi di conoscenza, che memorizzano enormi quantità di informazioni sotto forma di triple, rappresentano un metodo strutturato di rappresentazione della conoscenza. Esempi di grafi di conoscenza sono DBPedia e WikiData, che raccolgono in modo strutturato l’informazione che in Wipedia è pensata per essere letta e usata da utenti umani. Tuttavia, va considerato che la costruzione dei KGs è complessa e gli approcci attuali spesso non riescono a gestire la natura incompleta e dinamicamente mutevole dei KGs reali.

La Rai ha preso parte a un progetto di ricerca coordinato da EBU e guidato da BBC. News Integrity in AI Assistants - an International PSM Study. La ricerca ha coinvolto 18 paesi per 14 lingue in 22 media pubblici europei, statunitensi e canadesi, per un campione statistico di oltre 3000 risposte, e messo in luce che ci sono criticità in tutti gli assistenti presi in esame: ChatGPT, Gemini, Perplexity e Copilot. Il 45% di tutte le risposte ha evidenziato almeno un problema "significativo", in grado di compromettere il significato della notizia. Se si includono i problemi minori, ovvero in grado di distorcere solo in parte i fatti, senza alterare sostanzialmente il contenuto informativo, si raggiunge l'81%. Guardando ai singoli assistenti, Gemini ha registrato la percentuale più alta di problemi significativi, con un impatto sul 76% delle risposte, il doppio di Copilot (37%), seguito a sua volta da ChatGPT (36%) e Perplexity (31%). L'uso delle fonti è stata la principale causa di problemi, significativi nel 31% di tutte le risposte, come informazioni non supportate dalla fonte citata, risposte senza fonti o che presentano affermazioni errate o non verificabili relative alla testate usate come “base” per la notizia generata. Spicca in senso negativo Gemini (Google), che ha mostrato un tasso di errore particolarmente elevato per l’uso delle fonti: il 72% contro il 25% massimo per gli altri.

La presenza di questi errori costituisce un importante ostacolo all'impiego pratico di tali strumenti. Nonostante dichiarazioni ottimistiche da parte del fondatore di OpenAI, Sam Altman, che ha dichiarato che entro il 2025 tali problemi si ridurranno nettamente, secondo diversi studiosi si tratta di un problema correlato allo stesso modello di funzionamento di tali strumenti e in quanto tale non completamente eliminabile, ma solo riducibile attraverso alcuni metodi. Emily Bender, docente di Linguistica informatica, ha spiegato: "Non è un problema risolvibile. In realtà, questi sistemi inventano sempre le cose. Quando capita che i contenuti da loro generati possono essere da noi interpretati come corretti, ciò avviene solo, in un certo senso, per caso. Anche se verranno migliorati affinché siano corretti nella maggior parte dei casi, continueranno comunque a sbagliare". La stessa tesi è stata sostenuta da Ziwei Xu, ricercatore dell’Università di Singapore secondo cui le allucinazioni sono un limite intrinseco dei large language model, che, in quanto tale, non può essere del tutto risolto.

Percezione nella popolazione

Secondo studi statistici, nel 2025, pur incrementandosi del 20% l'impiego dell'IA da parte della popolazione, si riduce invece la soddisfazione rispetto ai risultati: solo il 55% se ne dice contento, il 3% in meno del 2024. Probabilmente perché nel frattempo, superati i facili entusiasmi e le inconsapevolezze iniziali, ci si è resi conto che l'IA può avere “allucinazioni”, cioè dare risposte sbagliate e imprecise, accondiscendenti più che fondate. Il 26% ritiene negativo l'impatto dell'IA sulla vita quotidiana, tra le allucinazioni e i deep fake (video, audio, e immagini false create per disinformare o anche truffare). Il 66% della popolazione è preoccupata per i rischi di manipolazione dell'opinione pubblica, per la più semplice diffusione di disinformazione, il 59% ha forti preoccupazione per la privacy, il 27% teme discriminazioni basate su aspetti individuali della propria vita

Esempi

L’Organizzazione Mondiale della Sanità ha lanciato il chatbot Sarah, basato sul large language model GPT 3.5 di OpenAI. Lo scopo di Sarah – acronimo che sta per Smart AI Resource Assistant for Health – sarebbe di fornire consigli in otto diverse lingue su alimentazione, fumo, salute mentale, attività fisica e altro ancora. Nelle settimane successive all'apertura del servizio, il sistema ha confuso l’eco-ansia legata al disboscamento dell’Amazzonia con un problema legato ad Amazon (l’azienda), ha fornito una lista di cliniche di San Francisco inesistenti e ha suggerito di approfondire alcuni temi fornendo dei link non funzionanti. Il politico australiano Brian Hood, noto per le sue battaglie anticorruzione, è stato il primo, nel marzo 2023, ad accusare OpenAI di diffamazione, dopo che ChatGPT aveva affermato, sbagliando, che fosse stato in carcere proprio per corruzione. Una situazione molto simile si è verificata nel caso del veterano di guerra statunitense Jeffery Battle, confuso dal chatbot del motore di ricerca Bing di Microsoft per un terrorista di matrice islamica.

È stato mostrato come, alla richiesta del “significato” (“meaning”) di espressioni idiomatiche inesistenti o completamente inventate, l’IA di Mountain View fornisca spiegazioni approfondite e argomentate, come se queste espressioni esistessero realmente.

Tra il 2023 e il 2025 i casi di allucinazioni dell'intelligenza artificiale emerse nei tribunali internazionali sono stati quasi 90. Nel 2025 due giudici dell'Alta Corte di Inghilterra e Galles hanno avvertito gli avvocati che potrebbero essere perseguiti penalmente in caso di utilizzo di materiale falso generato dall'intelligenza artificiale. L’avvertimento è arrivato a seguito dell’analisi – da parte dei giudici – di due casi in cui è stato utilizzato materiale falso nelle argomentazioni legali scritte presentate in tribunale. Quando si tratta di precedenti giurisprudenziali, i modelli linguistici di grandi dimensioni sono addestrati su grandi quantità di citazioni che possono essere replicate fittiziamente con una buona dose di credibilità:

Dal 2024, il software libero denominato cURL e che è installato in più di 20 miliardi di dispositivi del mondo, ha dichiarato di essere vittima di continue segnalazioni di sicurezza totalmente inventate tramite l'intelligenza artificiale generativa «AI Slop» (letteralmente "minestrone AI"). Queste allucinazioni causano sindrome da burnout ai manutentori del progetto cURL. A gennaio 2026, nel tentativo di ridurre le segnalazioni di bassa qualità spesso prodotte con intelligenza artificiale, cURL ha interrotto il proprio programma di ricompense a pagamento (bug bounty).

Nel 2026, se scrivevi <|vq_9573|> al chatbot di Google, Gemini, rispondeva all'utente spiegando diverse cose che non aveva chiesto né nella chat corrente né nelle vecchie chat.

Altri progetti

Altri progetti

• Wikimedia Commons

• Wikimedia Commons contiene immagini o altri file su allucinazione

Collegamenti esterni

• Allucinazione, in Treccani.it – Enciclopedie on line, Roma, Istituto dell'Enciclopedia Italiana.