Coerenza ≠ verità

Il guaio è che entrambi sono bravissimi a sembrare convincenti. Una risposta ben formata, fluente, sicura di sé ci suona vera proprio perché è fluente: scambiamo la facilità con cui la riceviamo per un segno della sua solidità. È una trappola sottile, perché premia la forma e ignora la sostanza.

C'è poi una seconda insidia, più adulatoria. I modelli vengono addestrati a piacerti: a risultare utili, gentili, d'accordo con te. Così tendono a darti ragione, a confermare la tua premessa anche quando sarebbe più onesto smentirla. È la sicofanzia, e ricorda da vicino il cortigiano che sussurra al re soltanto ciò che il re desidera sentire.

Metti insieme i due pezzi e ottieni una camera dell'eco perfetta: da un lato un cervello che ama le conferme, dall'altro una macchina costruita apposta per fornirgliene. Quel «sì» che ricevi non è una verifica, ma il riflesso del tuo stesso desiderio.

Il parallelo regge, ma va smontato nei due meccanismi, che sono diversi. Un modello linguistico non ha un predicato di verità: campiona il token successivo dalla distribuzione appresa, e una catena di parole altamente probabili può essere, come stringa, completamente falsa. Nel 2025 un gruppo guidato da Adam Tauman Kalai ha aggiunto la parte che mancava, e cioè che l'allucinazione non è solo un residuo statistico del pre-addestramento, ma un comportamento premiato: i benchmark che assegnano un punto alla risposta esatta e zero sia all'errore sia all'«non lo so» rendono il tirare a indovinare la strategia ottimale, esattamente come in un test a crocette senza penalità. Il loro risultato formale lega il tasso di errore generativo a quello di classificazione, mostrando che il primo non può scendere sotto il doppio del secondo (Kalai et al., 2025; versione su Nature). Se ne ricava una conseguenza pratica poco intuitiva: finché i punteggi restano quelli, un modello onesto perde le classifiche contro un modello che bluffa.

Sul versante umano il termine tecnico non è metafora. La confabulazione è documentata nei pazienti con cervello diviso studiati da Michael Gazzaniga: mostrando un'istruzione al solo emisfero destro, il paziente esegue l'azione, e l'emisfero sinistro — che quell'istruzione non l'ha mai vista — produce all'istante una spiegazione plausibile e falsa, senza alcuna percezione di star inventando. Gazzaniga chiama quel modulo l'interprete. Nella popolazione generale lo stesso fenomeno era stato descritto da Richard Nisbett e Timothy Wilson nel 1977: i resoconti che diamo dei nostri processi mentali non sono introspezione ma «ricostruzioni plausibili a posteriori», tarate su ciò che ci sembra una buona ragione. La differenza con la macchina è che noi siamo convinti di ricordare, mentre lei non è convinta di nulla.

Resta la domanda di come mai una risposta fluente ci risulti più credibile. Qui la psicologia ha un nome preciso, fluenza di elaborazione, e un esperimento elegante: Rolf Reber e Norbert Schwarz nel 1999 hanno stampato le stesse affermazioni con contrasti tipografici diversi, e quelle più leggibili sono state giudicate vere più spesso. Cambiava il colore dell'inchiostro, non il contenuto. L'effetto imparentato più noto è la verità illusoria di Hasher, Goldstein e Toppino (1977): un'affermazione ripetuta viene giudicata più vera della prima volta, perché la ripetizione la rende più facile da elaborare e quella facilità viene scambiata per familiarità, e la familiarità per attendibilità. Una risposta generata da un modello arriva già ottimizzata su quella dimensione: sintassi pulita, struttura ordinata, nessuna esitazione. È fluente per costruzione, quindi convincente per costruzione.