Verso “Magnifica humanitas”: chi paga il prezzo dell'intelligenza artificiale?

Un sistema di intelligenza artificiale generativa non riesce a scrivere una fiaba in lingua Mixe, un idioma millenario parlato da oltre 130mila persone nello Stato messicano di Oaxaca…quando la professoressa Paola Ricaurte Quijano gli ha chiesto di farlo, il chatbot ha frainteso la richiesta, confondendo il nome della lingua con il verbo inglese «to mix» (mescolare), è un piccolo episodio, mostrato giovedì scorso sullo schermo dell’Aula Magna della Pontificia Università Urbaniana, che racconta però qualcosa di grande: una lingua, una cultura, una tradizione, un'intera comunità…per quei sistemi non esiste.

Il secondo panel del convegno «Custodire voci e volti umani», promosso dal Dicastero per la Comunicazione, era dedicato a un tema che dovrebbe interessarci tutti e subito: i modelli di intelligenza artificiale stanno intensificando le disuguaglianze sociali? A moderare la sessione era Nataša Govekar, direttrice della sezione teologico-pastorale del Dicastero, che ha aperto i lavori citando il Messaggio di Papa Leone XIV : «I modelli di IA sono plasmati dalla visione del mondo di coloro che li costruiscono e possono a loro volta imporre questi modi di pensare, riproducendo gli stereotipi e i pregiudizi presenti nei dati a cui attingono».

Ricaurte Quijano, professoressa al Tecnológico de Monterrey e Faculty Associate al Berkman Klein Center di Harvard, ha esteso lo sguardo ben oltre il singolo algoritmo: ha ricordato che otto delle dieci più grandi aziende di intelligenza artificiale sono guidate da miliardari e che la filiera produttiva di questa tecnologia si regge su lavoro invisibile e su materie prime estratte in zone di conflitto in Congo, Colombia e Bolivia; i dati di addestramento vengono etichettati da lavoratori sottopagati in Kenya, in Venezuela e nelle Filippine; conoscenze e dati personali che fluiscono in una sola direzione, dal Sud al Nord del mondo. «Questo modello di business estrattivista espropria le comunità dei beni materiali che consentono vite dignitose», ha affermato la studiosa messicana, che ha poi descritto progetti di «piccola IA» costruiti dalle comunità stesse: giovani afrobrasiliani in Amazzonia che sviluppano strumenti per preservare il patrimonio culturale ambientale, comunità indigene boliviane che creano tecnologie per proteggere le foreste dagli incendi, gruppi in Messico che lavorano alla gestione dell'acqua.

Benjamin Rosman, professore di informatica all'Università del Witwatersrand in Sudafrica e cofondatore di Deep Learning Indaba, ha centrato il proprio ragionamento sul tema della fiducia: quando ci fidiamo di un medico, ha spiegato, quella fiducia è inserita in una relazione di responsabilità reciproca: possiamo mettere in discussione quella persona e, se tradisce la nostra fiducia, quel tradimento ha conseguenze…ma con l'intelligenza artificiale le cose funzionano diversamente, perché le reti neurali «possono simulare il calore senza la vulnerabilità, la sicurezza senza la responsabilità e la cura senza alcun obbligo». Rosman ha poi tracciato un parallelo con la storia dei social media, che non erano stati progettati per polarizzare la società ma per massimizzare il coinvolgimento degli utenti, poi, strada facendo, si è scoperto che l'indignazione, la paura e il tribalismo sono gli strumenti più efficaci per raggiungere quell'obiettivo: «I social media hanno catturato la nostra attenzione», ha avvertito, «l'intelligenza artificiale è in procinto di catturare la nostra fiducia».

Joy Buolamwini, informatica formatasi al MIT e a Oxford, fondatrice della Algorithmic Justice League, ha portato al convegno le storie concrete di quelli che chiama «excoded»: le persone che subiscono gli errori e le discriminazioni dei sistemi algoritmici: ha ricordato, per esempio, il caso di Porcha Woodruff, quando era incinta di otto mesi è stata arrestata ingiustamente dalla polizia di Detroit sulla base di un'identificazione errata del riconoscimento facciale; poi ha raccontato la storia di Robert Williams, fermato dalla Polizia davanti alle figlie piccole, sempre per un errore del software. Lo studio «Gender Shades», condotto dalla stessa Buolamwini al MIT, aveva dimostrato già nel 2018 che i sistemi commerciali di analisi facciale presentavano tassi di errore fino al 34,7% per le donne dalla pelle scura, e meno dell'1% per gli uomini dalla pelle chiara…quella ricerca spinse IBM, Microsoft e Amazon a sospendere la vendita di tecnologie di riconoscimento facciale alle forze dell'ordine e contribuì all'approvazione di dodici leggi nel Massachusetts che impongono una moratoria sull'uso di questi strumenti.

Buolamwini ha chiuso il suo intervento con una poesia rivolta ai «combattenti per la libertà di tutto il mondo» che si oppongono agli «algoritmi di oppressione»: tre voci diverse, la stessa convinzione: la disuguaglianza prodotta dall'intelligenza artificiale è il riflesso di squilibri di potere che richiedono risposte politiche, educative e culturali, una convinzione destinata a trovare eco in «Magnifica humanitas», la prima enciclica di Papa Leone XIV, dedicata alla custodia della persona umana nell'era dell'intelligenza artificiale, che sarà presentata lunedì 25 maggio.