Leone XIV e l’IA: il discernimento corregge gli algoritmi

Se una macchina a guida autonoma viaggia a velocità sostenuta e improvvisamente tagliano la strada da una parte un anziano e dalla parte opposta un bambino, la macchina chi decide di investire? Il bambino o l'anziano? Chi programma un'auto a guida autonoma deve scrivere la risposta nel codice sorgente . Nella vita reale nessun guidatore affronterà mai una scelta formulata così; la macchina, però, ha bisogno di un'istruzione esplicita. Monsignor Lucio Adrián Ruiz, segretario del Dicastero per la Comunicazione della Santa Sede, ha posto questa domanda al centro del suo intervento il 19 giugno nell'Aula Magna dell'Università Mediterranea di Reggio Calabria, durante il convegno sull’enciclica Magnifica Humanitas organizzato dall'Arcidiocesi e dall'Ateneo. «Colui che programma deve decidere, perché nell'ipotetico caso che avvenisse un incidente e c'è il bambino e il vecchietto, la macchina dovrà scegliere»: un codice etico incorporato nel software, che opera al posto nostro senza che nessuno ne abbia discusso.

Ruiz ha usato questo esempio per rendere visibile un meccanismo che riguarda ogni interazione con l'intelligenza artificiale: quando si interroga un chatbot, generalmente lo si tratta come un consigliere neutro e oggettivo, ma «dietro c'è un'idea programmata, chi l'ha desiderata, chi ha messo il suo cuore, la sua testa lì». Ogni modello di IA rispecchia le priorità di chi l'ha costruito e finanziato, per questo oggi, ha ricordato il segretario del Dicastero, il motore dell'innovazione è nelle mani di pochi attori privati transnazionali, dotati di risorse superiori a quelle di molti governi: «non possono essere i privati, queste quattro, cinque aziende a decidere tutto il nostro presente e tutto il nostro futuro».

Da qui il ragionamento si è allargato perché ogni volta che un grande artefatto tecnologico è entrato nella vita dell'umanità (il fuoco, la scrittura, la macchina a vapore, l’automobile) ha provocato quella che Ruiz ha chiamato una «crisi di geografia esistenziale»: ha costretto gli esseri umani a ridefinire dove sono, con chi si relazionano, chi sono. L'intelligenza artificiale è l'ultima di queste fratture, e la domanda al centro della prima enciclica di Leone XIV la rispecchia: «come possiamo rimanere umani quando le tecnologie trasformano ogni cosa?».

Per Ruiz parte della risposta sta nel riconoscere il valore del limite, ed infatti l'enciclica ricorda che l'umano matura proprio là dove incontra i propri confini: «Impariamo l'amore perché abbiamo bisogno degli altri, ricorda il sacerdote argentino, impariamo la fiducia perché non controlliamo tutto, impariamo la speranza perché facciamo esperienza dell'incertezza». Ruiz ha offerto un'analogia: la medicina ci ha regalato vent'anni di vita in più in buona salute, eppure la società non ha avuto il tempo di creare istituzioni e condizioni perché quegli anni abbiano senso.

Lo stesso rischia di accadere con l'intelligenza artificiale nella scuola e nell'università: strumenti molto potenti consegnati a studenti e cittadini senza avere il tempo per maturare il discernimento necessario. Per questo Ruiz ha lanciato una provocazione: «noi vediamo ormai che i nostri studenti delegano la lettura, la ricerca, la sintesi all'IA, distruggendo così la loro capacità di giudizio e la loro creatività», perché la velocità con cui si ottengono risultati abitua a smettere di cercare risposte proprie.

Disarmare l'intelligenza artificiale, un'espressione dell'enciclica cara a Leone, secondo Ruiz «significa sottrarla alla logica della competizione armata, che oggi non è più solo militare, ma è economica e cognitiva», e restituirla alla discussione pubblica.

Leone XIV, ha concluso Ruiz, mette in guardia da due tentazioni speculari: «l'entusiasmo ingenuo» e «la paura paralizzante»…in mezzo c'è il cammino del discernimento, che per un educatore si traduce in una domanda operativa: quali passaggi del pensiero possono essere assistiti dalle macchine e quali devono restare appannaggio della persona?