Cosa ha detto papa Leone sull'Intelligenza artificiale e sul cyberbullismo

Il punto è che non si tratta PIù di una «sfida tecnologica» ma «antropologica». In piena epoca di “rivoluzione digitale” papa Leone XIV, nel Messaggio per la 60° Giornata mondiale delle Comunicazioni sociali, che si celebrerà il prossimo 17 maggio, ha ribaltato la prospettiva. La vera missione affidata ai comunicatori, in una società che è già in rapidissimo cambiamento, è quella di «Custodire voci e volti umani» dai rischi dell'IA, come recita il titolo stesso del testo, pubblicato oggi, nel giorno in cui si celebra la memoria liturgica di San Francesco di Sales. «Voci e volti» di ciascuno che sono “sacri” perché, ha proseguito il Papa, «ci sono stati donati da Dio, che ci ha creati a sua immagine e somiglianza». Custodirli nella loro unicità significa «custodire questo sigillo, questo riflesso indelebile dell’amore di Dio», si legge nelle prime righe. E dunque non si tratta «di fermare l'innovazione digitale», ma di «guidarla», educarla al rispetto della dignità umana. 

Preservare “volti e voci umani”, e la loro unicità, significa per prima cosa, ha proseguito il Pontefice, proteggere dall'assalto della tecnologia quelli che sono «pilastri fondamentali della civiltà umana», poiché l’essere umano non è «una specie fatta di algoritmi biochimici, definiti in anticipo». Ciascuno, invece, «ha una vocazione insostituibile e inimitabile che emerge dalla vita e che si manifesta proprio nella comunicazione con gli altri». L’intelligenza artificiale, simulando le voci e i volti degli uomini, infatti, non solo interferisce «negli ecosistemi informativi» ma invade «anche il livello più profondo della comunicazione, quello del rapporto tra persone umane». Più volte Prevost aveva denunciato i rischi legati agli algoritmi, che «chiudono le persone in bolle di facile consenso e facile indignazione» e «indeboliscono la capacità di ascolto e di pensiero critico», aumentando la «polarizzazione sociale».

L’altra grande preoccupazione, legata anche a tristi vicende di cronaca degli ultimi mesi in cui sono rimasti coinvolti per lo più adolescenti e giovani, è l’«affidamento ingenuamente acritico all’intelligenza artificiale come “amica” onnisciente, dispensatrice di ogni informazione, archivio di ogni memoria, “oracolo” di ogni consiglio», ha specificato il Pontefice. Allo stesso modo l’«assistenza nella gestione di compiti comunicativi», rischia «a lungo andare di erodere le nostre capacità cognitive, emotive e comunicative». Questo, ha aggiunto, rischia anche di smantellare «gran parte dell’industria creativa umana», sostituendola con «l’etichetta “Powered by AI"», mentre «i capolavori del genio umano nel campo di musica, arte e letteratura vengono ridotti a un mero campo di addestramento delle macchine». Rinunciare al processo creativo, ha sottolineato ancora Prevost, significa «seppellire i talenti che abbiamo ricevuto al fine di crescere come persone in relazione a Dio e agli altri». 

Il Papa si è soffermato a lungo anche sui rischi legati alle relazioni virtuali, in cui diventa «sempre più difficile capire se stiamo interagendo con altri esseri umani o con dei “bot” o dei “virtual influencers”». La struttura «dialogica e adattiva, mimetica» di questi modelli linguistici, ha specificato, «è capace di imitare i sentimenti umani e simulare così una relazione», ma «questa antropomorfizzazione, che può risultare persino divertente, è allo stesso tempo ingannevole, soprattutto per le persone più vulnerabili». Nel messaggio il Pontefice ha messo in guardia dalla «tecnologia che sfrutta il nostro bisogno di relazione», che può «avere conseguenze dolorose sul destino dei singoli, ma può anche ledere il tessuto sociale, culturale e politico delle società».  Un’altra grande sfida, poi, posta dai «sistemi emergenti» è quella della «distorsione (in inglese bias)», che «porta ad acquisire e a trasmettere una percezione alterata della realtà», perché gli stessi modelli di IA «sono plasmati dalla visione del mondo di chi li costruisce». Da qui ha puntato il dito, ancora una volta, sulla «mancanza di trasparenza nella progettazione degli algoritmi», che «insieme alla non adeguata rappresentanza sociale dei dati», intrappolano in reti che «manipolano i nostri pensieri e perpetuano e approfondiscono le disuguaglianze e le ingiustizie sociali esistenti». A questo si aggiunge il tema dell’«accuratezza» dell’informazione, a cui i giornalisti devono prestare grande attenzione, per non lasciare campo libero alla «disinformazione» che provoca un «crescente senso di sfiducia, smarrimento e insicurezza», tornando quanto più possibile anche al «lavoro sul campo».

Al vertice di quella che Leone XIV ha definito un’«enorme forza invisibile che ci coinvolge tutti», e che contribuisce a far perdere la cognizione di ciò che è verità e di ciò che è finzione, «c’è solo una manciata di aziende», ha denunciato. Quelle «i cui fondatori sono stati recentemente presentati come creatori della “persona dell’anno 2025”, ovvero gli architetti dell’intelligenza artificiale», ha proseguito con tono netto e deciso, con riferimento alla scelta della rivista statunitense Time. Ciò «determina una preoccupazione importante riguardo al controllo oligopolistico dei sistemi algoritmici e di intelligenza artificiale - si legge nel messaggio - in grado di orientare sottilmente i comportamenti, e persino riscrivere la storia umana, compresa la storia della Chiesa,spesso senza che ce ne si possa rendere realmente conto».

C’è ancora una possibilità, però. E sta nel tentare di costruire con la tecnologia una "sana" alleanza che metta al primo posto la dignità umana. «Sta a ognuno di noi alzare la voce in difesa delle persone umane, affinché questi strumenti possano veramente essere da noi integrati come alleati. - ha scritto -  Questa alleanza è possibile, ma ha bisogno di fondarsi su tre pilastri: responsabilità, cooperazione e educazione». Parlando del primo punto, Prevost ha lanciato a tutti l’appello alla corresponsabilità, a partire da coloro che sono ai vertici delle «piattaforme online», a cui è chiesto di «assicurarsi che le proprie strategie aziendali non siano guidate dall’unico criterio della massimizzazione del profitto», ma che siano orientate anche al bene comune. Ai «creatori e agli sviluppatori di modelli di IA» il Papa ha chiesto «trasparenza e responsabilità sociale riguardo ai principi di progettazione e ai sistemi di moderazione alla base dei loro algoritmi», in modo «da favorire un consenso informato da parte degli utenti». Stessa cosa è chiesta ai legislatori nazionali e ai regolatori sovranazionali, «ai quali compete di vigilare sul rispetto della dignità umana» attraverso le normative.

I media e gli operatori della comunicazione, poi, «non possono a loro volta permettere che algoritmi orientati a vincere a ogni costo la battaglia per qualche secondo di attenzione in più prevalgano sulla fedeltà ai loro valori professionali, volti alla ricerca della verità». Le parole chiave per i media devono essere "accuratezza" e "trasparenza". Da qui la richiesta che i contenuti generati o manipolati dall’IA siano «segnalati e distinti in modo chiaro dai contenuti creati dalle persone», anche per tutelare «la paternità e la proprietà sovrana dell’operato dei giornalisti e degli altri creatori di contenuto». Questo perché «l’informazione è un bene pubblico» e «un servizio pubblico costruttivo e significativo non si basa sull’opacità, ma sulla trasparenza delle fonti, sull’inclusione dei soggetti coinvolti e su uno standard elevato di qualità». 

Nei processi educativi, dunque, è necessario dare grande importanza alla formazione delle «capacità personali di riflettere criticamente», di «valutare l’attendibilità delle fonti e i possibili interessi che stanno dietro alla selezione delle informazioni che ci raggiungono», ma anche di «comprendere i meccanismi psicologici che attivano, per permettere alle nostre famiglie, comunità e associazioni di elaborare criteri pratici per una più sana e responsabile cultura della comunicazione». 

Come cattolici, ha sottolineato il Papa, «possiamo e dobbiamo dare il nostro contributo, affinché le persone, soprattutto i giovani, acquisiscano la capacità di pensiero critico e crescano nella libertà dello spirito». Si tratta di una necessaria «alfabetizzazione» che «dovrebbe inoltre essere integrata in iniziative più ampie di educazione permanente, raggiungendo anche gli anziani e i membri emarginati della società». Questo processo di “educazione” ai media, all’informazione e all’IA, ha proseguito, «aiuterà tutti a non adeguarsi alla deriva antropomorfizzante di questi sistemi, ma a trattarli come strumenti, a utilizzare sempre una validazione esterna delle fonti». Urgente è anche educare a «proteggere la prorpria immagine, il proprio volto e la propria voce», per evitare «che vengano utilizzati nella creazione di contenuti e comportamenti dannosi come frodi digitali, cyberbullismo, deepfake che violano la privacy e l’intimità delle persone senza il loro consenso».

Tornando al paragone con la rivoluzione industriale, Leone XIV ha sottolineato come questa avesse richiesto «un’alfabetizzazione di base per permettere alle persone di reagire alla novità». Allo stesso modo «anche la rivoluzione digitale richiede un’alfabetizzazione digitale» per comprendere «come gli algoritmi modellano la nostra percezione della realtà, come funzionano i pregiudizi dell’IA, quali sono i meccanismi che stabiliscono la comparsa di determinati contenuti nei nostri flussi di informazioni (feed), quali sono e come possono cambiare presupposti e modelli economici dell’economia della IA».  

Solo custodendo il «dono della comunicazione come la più profonda verità dell’uomo», ha concluso Prevost, l’uomo sarà capace di orientare ad essa «anche ogni innovazione tecnologica».