Imagoeconomica

Al confine tra gli Stati Uniti e il Messico la polizia americana sta utilizzando una tecnologia segreta che usa profili online generati dall’intelligenza artificiale, progettati per interagire e raccogliere informazioni su presunti manifestanti e attivisti politici radicalizzati, ma anche sospetti trafficanti di droga e di esseri umani. Le preoccupazioni su strumenti come Overwatch, commercializzato dall’azienda newyorkese Massive Blue, hanno assunto una nuova urgenza, considerando che l’amministrazione Trump ha giù revocato i visti a centinaia di studenti molti dei quali colpevoli di aver protestato contro la guerra di Israele a Gaza.

Ma non è tutto: un recente leak di comunicazioni interne di un altro colosso della sorveglianza online ha rivelato, pochi giorni fa, che l’azienda americana Palantir Technologies sta assumendo un ruolo sempre più importante nella collaborazione con l’agenzia federale per le frontiere e l’immigrazione degli Stati Uniti. Come? Aiutando a localizzare le persone migranti segnalate per l’espulsione dal Paese americano attraverso lo scraping, ossia la raccolta delle informazioni sui social e con l’introduzione di agenti IA che cercano prove sulle persone sospettate: le contattano per avere altre informazioni personali, incrociando così i dati. E finendo per sostenere le operazioni di deportazione di massa.

E ancora, le Big tech si affidano a una rete di lavoratori africani, spesso invisibili, per l’addestramento dei dati IA. Questi lavoratori, impiegati da società di outsourcing in 39 Nazioni, affrontano gravi violazioni dei diritti e alcune aziende sono già finite sotto processo in Kenya per sfruttamento.

Questi sono solo alcuni esempi legati alle violazioni di diritti causate dall’IA e alle sue degenerazioni ripetutamente denunciate da papa Francesco. C’è persino una startup olandese che, per cavalcare in maniera cinica il dolore di milioni di fedeli in tutto il mondo, ha rilasciato un chatbot IA dedicato a papa Francesco, a cui si può accedere da Whatsapp e in grado di rispondere in maniera decisamente superficiale a domande sul suo magistero: per citare solo un esempio, sulle espressioni più utilizzate dallo stesso Francesco l’agente IA non riconosce come propria di Jorge Mario Bergoglio la parola balconear.

Com’è possibile, dunque, assicurarsi che questi sistemi di intelligenza artificiali siano orientati al bene delle persone? Soltanto attraverso «un uso etico dei sistemi di IA» che «chiama in causa innanzitutto coloro che li sviluppano, producono, gestiscono e supervisionano, una tale responsabilità è condivisa anche dagli utenti»: l’etica è stata la pietra miliare al centro di tutte le riflessioni che abbiamo potuto ascoltare dalla voce di papa Francesco, da quando l’IA è uscita dall’alveo della ricerca scientifica e si è imposta nel dibattito politico e pubblico.

Sui potenziali rischi degli «sviluppi tecnologici che non portano a un miglioramento della qualità di vita di tutta l’umanità, ma al contrario aggravano le disuguaglianze e i conflitti» si sono concentrati diversi interventi del Pontefice argentino, anche se l’ultimo testo in ordine cronologico sull’IA è stato Antiqua et nova (un riferimento alla “saggezza”, sia antica sia moderna), pubblicato dai Dicasteri per la Dottrina della Fede e per la Cultura e l'Educazione. A oggi, si tratta del documento vaticano più completo «sul rapporto tra intelligenza artificiale e intelligenza umana»: il «potere analitico» dell’IA e la sua «incredibile velocità ed efficienza» non vengono certo minimizzati. Tuttavia, seguendo le orme di papa Francesco, i due dicasteri coinvolti hanno preferito sottolineare «l’ingegno umano» alla base di tali progressi tecnologici. Il documento sostiene che, per quanto potente possa essere l’IA, essa è solo «un pallido riflesso dell’umanità». Il testo è fortemente concentrato sulla dinamica di confronto e differenziazione tra ciò che è umano e ciò che non lo è.

Eseguendo calcoli probabilistici su enormi quantità di dati, questi sistemi basati sull’intelligenza artificiale creano solo l’illusione di “parlare”, “ragionare” o persino “sentire”. Ma non fanno nulla di tutto ciò, si legge nella nota, denunciando i pericoli di tale antropomorfizzazione. «Il testo avrebbe potuto andare oltre nell’affrontare l’atteggiamento dell’industria, che alimenta deliberatamente questa confusione chiamando alcuni sistemi 'compagni' o persino ‘amanti virtuali’», ha aggiunto il giornalista Grégory Aimar, autore del libro “Il Vangelo secondo le Big Tech: un manifesto per l’intelligenza spirituale nell'era dell'intelligenza artificiale”. Quello che continuerà sempre a mancare all’intelligenza artificiale saranno «la ricchezza della corporeità, la relazionalità e l’apertura del cuore umano alla verità e al bene».

​