Giovanni Salmeri: «L’AI ci costringe a ripensare che cosa significa pensare»

Professore, prima ancora di chiederci che cosa l’intelligenza artificiale possa fare, dovremmo forse chiederci che cosa intendiamo per “intelligenza”?
Giustissima osservazione. La parola «intelligenza» ha un significato intuitivo che usiamo in molte occasioni, ma darne una definizione precisa è difficile. Potremmo per esempio dire che essa è la capacità di analizzare in maniera simbolica e astratta la realtà, e grazie a questa analisi trovare soluzioni a problemi vecchi o nuovi. Molti sarebbero grosso modo d’accordo con una descrizione di questo tipo, ma utilizzarla per distinguere che cosa sia intelligenza e che cosa non lo sia non è facile. Evidentemente proprio l’informatica contemporanea ha costretto a ripensare a tale questione. Forse dobbiamo ricordare che anche una cosa tanto semplice come calcolare un’addizione è stata tradizionalmente considerata espressione di intelligenza tipicamente umana, perché richiede la capacità di concepire quell’entità astratta che chiamiamo «numero»: ma allora anche una semplice macchina per fare addizioni è intelligente? Io non avrei nessun problema a tirare questa conclusione: se non troviamo terribile il fatto che un’automobile «cammini» come un essere umano, e anzi molto più velocemente, non dovremmo neppure giudicare terribile il fatto che una calcolatrice sia «aritmeticamente intelligente» quanto e più di noi. Rimane però sempre aperto il problema della coscienza, dell’interiorità, di quella capacità di dire «io» che noi spontaneamente attribuiamo a noi stessi e agli altri esseri umani, ma non ad una macchina artificiale. Io però preferirei distinguere questa capacità (la cui comprensione può richiedere una prospettiva spirituale se non addirittura religiosa) dall’intelligenza in senso stretto. Cambiare continuamente la definizione di intelligenza e renderla sempre più esigente in maniera da poter trionfalmente concludere «solo gli esseri umani sono intelligenti!» non mi pare molto utile, sembra anzi talvolta un modo per evitare problemi più urgenti.

Nel suo lavoro su Turing lei affronta anche il tema delle “emozioni artificiali”. Una macchina può simulare emozioni: ma può davvero provarle? E soprattutto, perché questa domanda è importante per capire l’essere umano?
Ecco, questa è esattamente una domanda che tocca il problema dell’interiorità. Il punto è che quando parliamo di intelligenza intendiamo un processo che ha un qualche risultato, che quindi posso delegare ad un’altra persona e anche ad una macchina (anziché calcolare io un’addizione, affido il noioso compito ad una calcolatrice e raccolgo la somma). Quando invece parliamo di emozioni non pensiamo ad un risultato, ma ad un’esperienza personale. Ad una persona posso chiedere: «Scusa, puoi fare questo calcolo al posto mio?», ma non: «Scusa, puoi essere felice al posto mio?». Tanto più questo vale per una macchina. Se qualcuno, quindi, vuole dire che il segnale di batteria carica in un computer è la sua «gioia», può anche farlo: ma è un po’ futile, perché non c’è nessun risultato di «gioia» che noi possiamo utilizzare (anche se, ovviamente, un computer carico ci è utile). È per questo che appena parliamo di emozioni giustamente pensiamo subito al fatto che esse siano «vere» quando c’è un soggetto cosciente che le prova, che insomma esse possono appartenere solo ad un essere umano o almeno ad un essere vivente.

La tradizione cristiana ha spesso legato l’intelligenza al logos, alla ragione, alla capacità di verità. Che cosa mette in crisi l’IA di questa visione, e che cosa invece potrebbe aiutarci a riscoprire?
Questa è una domanda difficile, anche perché le concezioni di intelligenza sono state molto varie lungo la storia del cristianesimo: è sempre esistita per esempio una tendenza a diffidare dell’intelligenza (anche oggi è presente). Certamente gli sviluppi dell’IA in una certa misura rafforzano questa tendenza: perché vantarsi tanto dell’intelligenza umana se anche delle macchine possono ottenere gli stessi risultati, o anche migliori? Questo può essere un bagno di umiltà, e l’invito a cercare l’essenziale dell’umanità in qualcosa di diverso. Dall’altra parte il discorso può essere capovolto, e spesso giustamente lo è: riuscire a costruire macchine «intelligenti» (qualsiasi cosa questa espressione significhi) è sicuramente un grande risultato, una delle cose più grandi che siano state fatte lungo la storia. Forse persino lo stupore del salmo 8 potrebbe essere letto con una convinzione nuova: «gli hai dato potere sulle opere delle tue mani, tutto hai posto sotto i suoi piedi».

Qual è il rischio più grande: credere che le macchine siano umane o iniziare a trattare gli uomini come macchine prevedibili e profilabili?
Mi sto convincendo sempre più che entrambe sono semplificazioni non utilissime. O per meglio dire, sono rischi reali sì, ma non c’è bisogno dell’IA per concretizzarli: Aristotele già teorizzava gli schiavi come macchine che accidentalmente avevano anche un’anima (un’idea che peraltro può essere applicata anche a qualsiasi lavoratore libero e stipendiato!), e anche l’umanizzazione delle macchine non è esattamente una novità, ne parlava già Sherry Turkle negli anni 80 del secolo scorso. Anche ciò che si dice sulla mentalità «tecnocratica» è sì giustissimo, ma rischia di cadere facilmente in una retorica un po’ vacua: perfino Kant riconosceva che è inevitabile trattare gli altri esseri umani anche come un mezzo, ciò che è decisivo è non trattarli solo come un mezzo. Io in questo momento vedo i rischi più gravi, già ampiamente concretizzati, in una rapida alterazione della struttura della società umana a causa di una crescente delega della propria intelligenza all’intelligenza meccanica. Il caso più clamoroso è la scuola: se una percentuale altissima di studenti ormai «fa i compiti con ChatGPT», come si usa dire, ciò significa che non usa più la propria testa. Che cosa accadrà quando in Occidente tra una ventina d’anni avremo un’intera gioventù non più in grado di ragionare? Continuare a dire «la tecnologia non può essere tenuta fuori dalla scuola, bisogna insegnare ad usarla!» mi pare in teoria giusto, ma in pratica disastroso.

L’IA rischia di accentuare diseguaglianze tra chi possiede dati e potenza di calcolo e chi invece subisce le decisioni algoritmiche. È anche una questione di giustizia sociale?
Certamente è una questione di giustizia sociale: il calcolo è una risorsa come tutte le altre. Tuttavia credo anche che bisogna essere cauti nel pensare che l’IA dia davvero sempre un vantaggio decisivo. Da molti punti di vista il panorama è ancora incerto, c’è chi tra i possibili scenari immagina il crollo di una speculazione che ora pare eccessiva (non sarebbe la prima volta nella storia della tecnologia, basta ricordare la clamorosa bolla «dot-com» all’inizio degli anni Duemila!). Per tornare al problema dell’istruzione: e se tra vent’anni gli unici giovani in grado di pensare fossero quelli dei paesi più poveri, che avranno imparato a scrivere a mano con la penna anziché fare taglia e incolla con ChatGPT? È difficile prevedere gli scenari. Ma soprattutto la cosa più importante non è fare previsioni, ma impegnarsi per far accadere gli esiti positivi.

Nell’università, l’IA è vista spesso come un problema. Come sta cambiando l’idea stessa di formazione?
Certamente spesso viene vista come un problema, come una novità difficile da gestire, soprattutto tenendo conto dei tempi di reazione delle grandi istituzioni. Dall’altra parte sono anche in corso sperimentazioni e studi per capire se l’IA può aiutare le pratiche formative. In generale non ho nulla in contrario: la tecnologia, dall’invenzione della stampa in poi, ha svolto un grande ruolo positivo nella diffusione della cultura. Alla metà del secolo scorso si immaginò anche che le macchine (non ancora i computer!) potessero svolgere un ruolo importante per adattare le modalità di insegnamento al singolo studente: era l’idea della cosiddetta «istruzione programmata». Detto questo, è anche importante sottolineare però che non qualsiasi innovazione è buona, e soprattutto bisogna stare attenti a non modificare surrettiziamente gli obiettivi. Per fare un esempio ovvio: certamente l’IA può aiutare moltissimo gli studenti a preparare migliori tesine e tesi di laurea, ma ciò il più delle volte significa semplicemente che il lavoro non viene fatto da loro, e che quindi i veri obiettivi educativi sono completamente mancati. Prima quindi di promuovere l’uso di una certa tecnologia perché essa permette «risultati» migliori devo aver chiaro quale risultato voglio: una persona intelligente, colta ed esercitata che mi consegna una discreta tesi, o un ebete che mi consegna una bellissima tesi? Da questo punto di vista la tradizione educativa cristiana penso che avrebbe molto da dire, se solo lo volesse fare.

Lei sostiene il software libero… perché?
Il software libero è in generale quello distribuito in maniera tale da permettere a qualsiasi persona competente di essere esaminato, studiato e modificato e ridistribuito. Ci possono essere diversi motivi per sostenere la superiorità del software libero (i sostenitori litigano tra loro su quale sia il motivo decisivo!), ma credo che tutti possano essere d’accordo almeno su una cosa: il software libero assomiglia a ciò che è avvenuto in molti altri campi nella cultura umana. Se compro un romanzo, ho il diritto di leggerlo, di studiarlo, di lasciarmi ispirare dalle sue idee, dal suo stile, ho anche il diritto di imitarlo: tutto questo non viene toccato dalle pur esistenti leggi sul diritto d’autore. Se io ascolto una musica, ho il diritto se ne sono capace di esaminarla fino all’ultima nota e l’ultima sfumatura. Mi pare che l’evoluzione dell’umanità abbia funzionato prevalentemente sempre in questo modo: gli oggetti intellettuali e spirituali sono stati un bene per tutti, che può e deve essere condiviso. La segretezza pure ha svolto un ruolo, ma molto minore e discutibile. Il problema del software è che esso permette molto facilmente la segretezza: basta distribuire solo l’incomprensibile codice «compilato», cioè quello eseguibile dal computer, anziché il codice «sorgente», quello cioè effettivamente scritto dal programmatore. Il programma sarà allora sì utilizzabile, ma come una scatola nera misteriosa. Questo è un problema enorme, destinato a diventare sempre maggiore. Spesso parlando di IA viene invocata la «trasparenza»: bisogna sapere che cosa un sistema faccia e in base a quali procedure! Giustissimo: ma chi sostiene questo per coerenza dovrebbe sostenere anche l’idea di software libero, perché non esiste nessun altro modo in cui un sistema possa essere trasparente se non dando a tutti la possibilità di essere esaminato.