L’AI può avere allucinazioni? Ecco cosa significa davvero (e come evitarlo)

Se hai mai usato un’intelligenza artificiale per fare una ricerca, scrivere un testo o analizzare dei dati, ti sarà sicuramente capitato di imbatterti in….. un’ allucinazione.

Quando sentiamo questa parola applicata a un software, tendiamo a immaginare scenari fantascientifici o improvvisi “impazzimenti” del codice. La realtà è molto più pragmatica, ma non per questo meno insidiosa per chi usa questi strumenti nel proprio lavoro.

Quando parliamo di “allucinazioni” nell’intelligenza artificiale, ci riferiamo semplicemente a risposte che sembrano formalmente impeccabili, ben scritte e convincenti… ma che nei fatti sono sbagliate, inventate o non verificate.

Come si manifesta un’allucinazione?

Un’allucinazione è difficile da scovare a colpo d’occhio: l’errore è spesso confezionato all’interno di una sintassi impeccabile.

Nella pratica quotidiana, questo limite si manifesta in modi molto precisi. Può succedere, per esempio, quando l’AI:

1. Inventa dati da zero: genera statistiche, percentuali, nomi di battesimo o date storiche mai esistite per supportare una tesi.
2. Cita fonti inesistenti: se chiedi una bibliografia, l’AI potrebbe inventare titoli di libri o articoli accademici fondendo insieme autori reali e riviste plausibili.
3. Fornisce spiegazioni logiche ma errate: risolve un problema o spiega un concetto in modo apparentemente rigoroso, ma partendo da premesse totalmente false.
4. Confonde contesti simili: sovrappone informazioni relative a due eventi, prodotti o normative differenti solo perché condividono parole chiave simili.
5. Riempie i vuoti di conoscenza: quando il modello non ha abbastanza contesto o i dati di addestramento sono carenti, preferisce “indovinare” e completare il testo piuttosto che ammettere di non sapere.

Perchè l’AI allucina?

Se i dati con cui è stata addestrata contengono bias, se il prompt è ambiguo, o se le viene chiesto di esprimersi su un argomento di nicchia senza fornirle documenti di supporto, il sistema calcolerà la risposta che suona meglio, non quella necessariamente vera.

Per lavorare in sicurezza e azzerare i rischi, la formula corretta da applicare unisce tecnologia e metodo:

AI + Fonti Affidabili (RAG) + Prompt Chiari + Revisione Umana

1. Fonti affidabili (Architetture RAG): se vuoi che l’AI parli della tua azienda o di un argomento tecnico, non lasciare che attinga liberamente a internet. Devi guidarla solo con i tuoi documenti, i tuoi ERP o database certificati.
2. Prompt chiari: più il contesto è delimitato, minore è il rischio di errore. Istruisci l’AI dicendole esplicitamente: “Se non trovi l’informazione nei documenti allegati, rispondi che non lo sai”.
3. Il fattore umano: la revisione umana resta l’ultimo e insostituibile baluardo di qualità. Un occhio esperto è in grado di validare l’output dell’AI prima che questo diventi pubblico o operativo.

Considera l’AI come un consulente geniale ma un po’ “presuntuoso”: delega pure i compiti più complessi, ma tieni sempre gli occhi aperti. Validare i dati e verificare le fonti resta il compito insostituibile che spetta a noi.