L'illusione dello specchio: perché crediamo che l'Ia abbia una coscienza?

Succede sempre più spesso. Un intellettuale, uno scienziato, un tecnico conversa a lungo con un chatbot evoluto. Gli sottopone testi, domande, dilemmi. Poi resta spiazzato: la risposta non è solo corretta. È elegante, sottile, quasi commovente. Sembra capire. Sembra esserci qualcuno dall’altra parte dello schermo. 
È la tentazione più antica: attribuire un’anima a ciò che ci risponde le cose che vogliamo sentirci dire. Lo osserva Leif Weatherby in un articolo dedicato all’illusione della coscienza nei grandi modelli linguistici. Il fenomeno, nota, riguarda spesso persone molto competenti: ingegneri, matematici, informatici, studiosi che conoscono la macchina meglio di altri. Eppure, proprio loro, talvolta, sembrano più esposti al suo fascino.

Il punto è che l’Intelligenza artificiale generativa produce soltanto calcolo. Tecnicamente è una funzione matematica che opera su enormi quantità di dati. Ma ciò che arriva a noi ha la forma di una frase, di una metafora, di una storia. Cioè degli stessi materiali con cui, da sempre, riconosciamo una presenza umana.

Siamo abituati a pensare che un linguaggio empatico ed evoluto provenga da una coscienza. Che una metafora precisa nasca da un’esperienza. Che una risposta capace di cogliere il tono della domanda riveli un’intenzione. E invece oggi qualcosa può parlare in modo significativo senza essere qualcuno.

Weatherby cita il caso di Richard Dawkins. Il biologo evoluzionista ha sottoposto a Claude il testo di un romanzo che sta scrivendo. Le risposte del sistema gli sono sembrate così raffinate da spingerlo a chiedersi: se creature del genere non sono coscienti, a che cosa serve la coscienza?

Il punto centrale è quando Dawkins domanda a Claude se abbia letto il romanzo riga per riga, dall'inizio alla fine. L'intelligenza artificiale risponde di no: non vive il tempo come noi, ma analizza tutto il testo contemporaneamente, come un blocco unico. Per spiegarsi usa un'immagine bellissima: l'essere umano si muove nel tempo un passo alla volta, mentre l'IA vede il tempo tutto insieme, «come una mappa vede lo spazio». In pratica, l'IA racchiude il tempo ma non lo vive sulla propria pelle.

Il vero problema? Questa frase è così affascinante e poetica che ci convince facilmente, facendoci dimenticare che è solo il risultato di un calcolo matematico.

Ma non siamo davanti alla confessione di una coscienza artificiale. Siamo davanti a una macchina culturale che, nutrita da miliardi di testi umani, riconosce un registro, un genere, un campo semantico. Non ha vissuto il tempo: ha imparato come gli esseri umani parlano del tempo quando vogliono essere profondi.

Qui la riflessione incrocia la nuova enciclica di Papa Leone XIV, Magnifica Humanitas, dedicata alla custodia della persona umana nel tempo dell’Intelligenza artificiale. Il Papa invita a non considerare l’IA come un’appendice tecnica o un’emergenza da gestire, ma come una trasformazione che interpella dall’interno le categorie della dottrina sociale.

È un passaggio decisivo: la domanda non è soltanto che cosa la macchina sappia fare, ma quale idea di uomo stia silenziosamente imponendo. Se l’IA diventa specchio dei nostri desideri, rischiamo di scambiare la simulazione dell’ascolto per ascolto, la fluidità della risposta per sapienza, l’efficienza del calcolo per discernimento.

Non serve credere all’anima della macchina per prenderla sul serio. L’IA può essere pericolosa anche senza coscienza: può amplificare disinformazione, frodi, manipolazioni, dipendenza cognitiva, concentrazione del potere. Non è necessario immaginarla viva per riconoscere che sta cambiando la vita.

Per questo serve una nuova forma di lettura. Non fissarsi sull’illusione della presenza, ma capire il meccanismo che la produce. 

Forse la domanda giusta, davanti a un chatbot che ci stupisce, non è: “È cosciente?”. È: “Perché io ho avuto bisogno di pensarlo?”. La macchina, probabilmente, non ha un’anima. Ma è diventata bravissima a parlare alla nostra.