Eli Pariser: «Verso un’IA disarmata e disarmante»

Quindici anni fa ha dato un nome a un disagio che molti avvertivano senza riuscire a descriverlo. Con The Filter Bubble, uscito nel 2011, Eli Pariser mostrava come motori di ricerca e social network, modellando i risultati sui gusti di ciascuno, finissero per chiudere gli utenti in una bolla invisibile, dove arriva soltanto ciò che conferma quello che già si pensa. L’espressione è entrata nel lessico comune, insieme all’inquietudine che porta con sé. Già direttore esecutivo di MoveOn.org e tra i fondatori di Upworthy, oggi l’attivista statunitense è co-direttore di New_ Public, organizzazione non profit che studia e progetta spazi digitali capaci di sostenere la vita civile. E osserva l’avanzata dell’intelligenza artificiale generativa con una domanda semplice e radicale: per chi lavora la macchina?

A maggio Pariser era a Roma, alla Pontificia Università Urbaniana, tra i relatori di un convegno internazionale sull’intelligenza artificiale promosso dal Dicastero per la Comunicazione. Quattro giorni più tardi veniva presentata Magnifica humanitas, la prima enciclica di Leone XIV, dedicata alla custodia della persona umana nel tempo dell’IA. Un documento che affida la propria chiave di lettura a due racconti biblici: la torre di Babele, con gli uomini che decidono di costruire una città e una torre «la cui cima tocchi il cielo», e la Gerusalemme ricostruita da Neemia, che «non impone soluzioni dall’alto» ma convoca le famiglie e «affida a ciascuna un tratto di muro da ricostruire». Di qui la tesi del Papa: «La prima scelta non è tra un “sì” o un “no” alla tecnologia, ma tra edificare Babele o ricostruire Gerusalemme». È da questa immagine che prende le mosse il dialogo con uno dei più noti critici delle piattaforme digitali, che nelle pagine dell’enciclica ritrova più di una consonanza con il proprio lavoro. La sua convinzione è netta: la partita decisiva si gioca sugli incentivi economici di chi costruisce i sistemi. E non è ancora chiusa.

«L’IA generativa consente un livello di personalizzazione dell’informazione che non avrei mai immaginato quando scrivevo The Filter Bubble. L’intelligenza artificiale può attingere a un contesto personale profondissimo - le mail, la musica che ascoltiamo, i documenti, le identità che assumiamo, il modo in cui interagiamo - per cucire i contenuti su misura delle nostre convinzioni e del nostro carattere. E può farlo in modo interattivo, giorno dopo giorno».

«Se queste tecnologie vengono costruite per compiacerci, per assecondarci, possono finire per deformare ciò che sappiamo. E se qualcuno se ne impossessa per orientarci, o se interessi economici le usano per venderci qualcosa, la loro capacità di persuasione può essere enorme».

«Penso proprio di sì. Quando si parla di tecnologia, protagonista è quasi sempre la tecnologia stessa. L’enciclica invece chiede di rimettere al centro l’umanità e di domandarsi: in che modo tutto questo ci serve? Molti temono, e con buone ragioni, che questi strumenti non siano davvero pensati per le persone: per migliorare le nostre vite, rendere più pieno il nostro lavoro, avvicinare le nostre famiglie. Chiedersi per chi siano, a che cosa mirino e quale idea di umanità abbiano in mente mi sembra un ottimo punto di partenza».

«Per me queste metafore sono nuove, eppure le ho trovate vivide e convincenti. Anche perché raccontano entrambe un’impresa umana, un cantiere, che prende però due direzioni opposte: una centralizzata e dominatrice, l’altra decentrata e condivisa. Nel nostro lavoro ci imbattiamo continuamente in queste due tendenze. Ho passato molto tempo a riflettere sui social media e una delle mie critiche è che non esiste un algoritmo capace di funzionare per miliardi di persone e milioni di comunità in tutto il mondo. La società umana è troppo varia, troppo plurale, troppo sfaccettata».

«Servono sistemi governati da chi li abita, costruiti dal basso come Gerusalemme, non progettati dal centro come Babele. Cominciamo a vederlo in realtà come Bluesky o in servizi come Signal, nati su protocolli aperti e guidati da valori pubblici, non privati. Credo che questo modo di fare tecnologia, il modo di Gerusalemme, stia prendendo slancio».

«Di certo è la strada che stiamo percorrendo. Le grandi aziende del settore - Anthropic, OpenAI, Google - hanno speso miliardi di dollari, spesso denaro di altri, e chi lo ha investito si aspetta di rivederlo. Lo recupereranno estraendo valore dagli utenti, ed è lì che i prodotti digitali cominciano a guastarsi».

«Tengo a dirlo: non è un destino. Non c’è nulla, in questa tecnologia, che la obblighi a reggersi sulla pubblicità o sul profitto. Anzi, sta crescendo un ecosistema open source che propone modelli economici molto diversi. Come andrà a finire non lo sappiamo ancora, ed è importante custodire la consapevolezza che davanti a noi c’è un bivio. La scelta su come costruire questi sistemi, e su come inserirli nell’economia, non è ancora stata fatta».

«Gli incentivi economici: nel mondo tecnologico sono il vero motore. È lì che i social media sono deragliati, quando hanno cominciato a monetizzare con la pubblicità e a trasformare i dati personali in un’arma per vendere. Allineare gli interessi di chi costruisce questi sistemi al bene pubblico e al bene comune è il compito più decisivo».

«Mi interessa molto aiutare le persone a capire e a verificare gli incentivi che stanno dietro all’intelligenza artificiale che usano. Oggi è tutto opaco: non è chiaro perché un servizio di IA mi stia mostrando una cosa piuttosto che un’altra. Non so se qualcuno mi stia manipolando, come siano stati raccolti ed elaborati i dati che alimentano il modello, chi stia cercando di persuadermi o di influenzarmi. Rendere più trasparente come questi sistemi sono fatti, quali logiche li muovono e con quale intenzione, mi pare un ottimo punto da cui cominciare».