IA, la Commissione teologica: va protetto il pensiero critico

Cosa succede alla nostra intelligenza quando deleghiamo il pensiero ad una macchina? Prova a dare una risposta il documento della Commissione teologica internazionale «Quo vadis, humanitas?» - dove vai, umanità? — pubblicato stamattina, approvato all'unanimità dalla Commissione, rilasciato con il via libera del Cardinale Víctor Manuel Fernández, Prefetto del Dicastero per la Dottrina della Fede, e del Santo Padre Leone XIV. Nasce nel solco del 60° anniversario della “Gaudium et spes”, la costituzione conciliare che per prima provò a leggere la condizione umana nel suo tempo. Ma il mondo, da allora, è cambiato parecchio. Il documento affronta molti temi: il transumanesimo, il postumanesimo, il rapporto tra corpo e tecnologia, il senso della storia. Ma chi lavora nel mondo dell'educazione farà bene a soffermarsi su alcuni passaggi che riguardano direttamente il cuore della questione formativa del nostro tempo. Il primo riguarda ciò che il testo chiama il rischio di «ridurre l'orizzonte della conoscenza umana, delimitandola a quelle forme di sapere che corrispondono a ciò che l'IA può elaborare, con una forte ricaduta sull'ambiente educativo (nelle scuole e nelle università)». In altre parole: se l'unica conoscenza che consideriamo valida è quella che un sistema di intelligenza artificiale sa processare, allora le domande di senso, le questioni etiche, filosofiche, teologiche rischiano di finire ai margini.

La Commissione Teologica avverte che in questo modo «l'IA potrebbe decidere di fatto ciò che è consentito di sapere». Il documento cita esplicitamente uno studio condotto dal MIT Media Lab — il laboratorio di ricerca del Massachusetts Institute of Technology — dal titolo «Your Brain on ChatGPT» (il tuo cervello su ChatGPT), che ha misurato attraverso elettroencefalogrammi l'attività cerebrale di studenti universitari durante la scrittura di alcuni saggi. I risultati sono significativi: chi scriveva con l'aiuto di un modello di linguaggio di grandi dimensioni — un LLM (Large Language Model), cioè il tipo di tecnologia alla base di strumenti come ChatGPT — mostrava una connettività cerebrale più debole rispetto a chi scriveva senza assistenza digitale. I ricercatori hanno coniato l'espressione «cognitive debt» (debito cognitivo) per descrivere il fenomeno: l'intelligenza artificiale fa risparmiare fatica mentale nel breve periodo, ma nel lungo periodo il conto si presenta sotto forma di pensiero critico indebolito, creatività ridotta e minore capacità di ricordare ciò che si è scritto. Su tutto colpisce un dato: la stragrande maggioranza degli studenti che avevano usato l'assistente artificiale non era in grado di citare a memoria neppure una frase del proprio elaborato, eppure era stato scritto pochi minuti prima.

È indispensabile precisare, però, che la Commissione Teologica non usa questi dati per demonizzare la tecnologia, anzi, al contrario, il documento riconosce il valore positivo delle innovazioni legate all’Ai: le campagne di prevenzione sanitaria, le diagnosi precoci, le nuove possibilità comunicative. Ma distingue con chiarezza gli strumenti tecnologici che potenziano lo spostamento fisico — l'automobile, il treno, l'aereo — da quelli che il testo chiama «tecnologie intellettuali», cioè strumenti che intendono potenziare «cosa e come pensiamo». La differenza conta, perché «la tecnologia digitale non è più solo uno strumento, ma costituisce un vero e proprio ambiente di vita» e quindi chi cresce dentro quell'ambiente viene plasmato da esso. Il passaggio che più direttamente interpella educatori e genitori riguarda i bambini e i giovani: il documento ricorda che «Internet e le reti sociali hanno creato un nuovo modo di comunicare e stabilire legami» e che rappresentano una piazza dove i ragazzi passano gran parte del loro tempo. Ma subito dopo avverte che «l'ambiente digitale è anche un territorio di solitudine, manipolazione, sfruttamento e violenza»; cyberbullismo, pornografia, gioco d'azzardo online: il testo non gira intorno alle parole e poi aggiunge un elemento meno discusso ma altrettanto insidioso: la tendenza dei social media a creare una «tribalizzazione» del dibattito, con gruppi omogenei chiusi nei propri «like» e incapaci di confronto reale. Leone XIV aveva già messo a fuoco questa preoccupazione, il documento, infatti, lo cita quando ricorda che «l'umanità si trova a un bivio dinanzi all'immenso potenziale generato dalla rivoluzione digitale guidata dall'intelligenza artificiale». Il Papa aveva anche sottolineato, nel suo messaggio all'AI for good Summit del luglio 2025, che lo sviluppo tecnologico «deve andare di pari passo con il rispetto dei valori umani e sociali, la capacità di giudicare con coscienza tranquilla e la crescita nella responsabilità umana». Non a caso, il Pontefice lo scorso dicembre, parlando a un convegno sull'IA e la cura della casa comune, aveva insistito sulla «libertà e la spiritualità dei nostri bambini e dei nostri giovani», chiedendo di vigilare sulle «possibili conseguenze della tecnologia sul loro sviluppo intellettivo e neurologico».

Ma la parte forse più originale del documento, che è molto rilevante per chi si occupa di educazione, è quella che riguarda l'idea stessa di conoscenza. Il testo osserva che nell'era dei big data si tende a sostituire la ricerca di spiegazioni e di senso con la semplice correlazione statistica tra informazioni. Quindi, così facendo, non si riesce più di capire perché accade qualcosa, ma semplicemente si calcola con quanta probabilità accadrà di nuovo. Questo approccio ha conseguenze profonde sul modo in cui si insegna e si impara, perché la delega di operazioni come «il calcolo, il ragionamento, la traduzione» ai sistemi automatici «potrebbe diminuire l'agilità mentale e la creatività del singolo». Il documento, inoltre, dedica pagine importanti alla distinzione tra l'IA in senso stretto — quella che già usiamo ogni giorno, dai traduttori automatici ai chatbot — e l'IA generale, in inglese Artificial General Intelligence o AGI, cioè una tecnologia futura, ancora ipotetica, capace di sostituire tutti gli aspetti dell'intelligenza umana. Il testo non la considera come fantascienza, piuttosto avverte che «esiste un'intensa corsa a colmare sempre di più il divario» tra uomo e macchina e che, qualora gli aspetti specifici dell'intelligenza umana «venissero consapevolmente indeboliti o abbandonati», le conseguenze «rischiano di sfuggire al controllo della ragione umana».

Un tipo di sapere «senza corpo, né limiti, né legami, né senso morale» è esattamente ciò su cui si fondano i sogni del transumanesimo. La Commissione Teologica, a questo proposito, prende posizione: questo sapere «costituisce una minaccia rispetto al vero bene dell'umanità». La proposta alternativa del documento è un invito a riscoprire ciò che nessun algoritmo sa fare: educare il cuore, accompagnare la crescita di una persona nella sua interezza, coltivare il legame tra generazioni. Il testo parla di «vocazione integrale», di un'umanità che non si riduce a prestazione, calcolo o ottimizzazione. E per illustrarlo sceglie un'immagine molto lontana dall'efficientismo digitale: quella del bambino, che «non è un vuoto da riempire, ma una pienezza donata e promessa, da accompagnare nell'avventura di dare forma all'esistenza». Esiste una frase che può parlare in modo più diretto a un insegnante, un formatore, un sacerdote?

La Commissione teologica, infine, definisce le correnti transumaniste e postumaniste come forme di «neo-gnosticismo», rileggendole alla luce delle antiche eresie che promettevano la salvezza attraverso la fuga dal corpo e dalla materia. È un parallelo che fa riflettere: anche oggi, avverte il documento, c'è chi cerca di «liberare la persona dal corpo e dal cosmo materiale», non più attraverso pratiche esoteriche ma attraverso il potenziamento tecnologico, il rischio è arrivare a chiedersi «se la condizione umana attuale abbia ancora diritto ad esistere o se gli esseri umani particolari siano diventati “superflui”». La tentazione, vecchia di secoli, è la stessa: pensare che i limiti dell'essere umano siano un difetto da correggere, invece di una condizione da abitare con intelligenza e responsabilità. Il testo si chiude con un richiamo che potremmo assumere come programma educativo del nostro tempo: serve «un permanente lavoro di discernimento critico», una collaborazione tra teologia, scienze, arti, istituzioni educative e culturali per orientare il progresso senza fermarlo. Perché la vera domanda, in fondo, non è se l'intelligenza artificiale cambierà la scuola e l'università, ma se sapremo fare in modo che quel cambiamento resti al servizio di chi impara, e non il contrario.