Alombert: «L’IA è un pharmakon da prendere a piccole dosi»

di Simone Paliaga

Per la filosofa francese «quando utilizziamo questi automi, alcune aree cerebrali non vengono attivate e può crearsi una dipendenza»

Alombert: «L’IA è un pharmakon da prendere a piccole dosi» — / Pawel Czerwinski / unsplash

Sviluppare tecnologie contributive e non tecnologie che simulino il comportamento o i prodotti umani. Ecco la sfida che individua e lancia Anne Alombert, filosofa che lavora all’università di Paris-VIII e che si occupa dei rapporti tra tecnologia, vita e mente, proseguendo le ricerche di Bernard Stiegler. Lo testimonia il libro La stupidità artificiale. Per una politica delle tecnologie digitali (pagine 124, euro 15,00). in libreria per l’editore Vita e Pensiero.

Nel suo libro, professoressa, definisce l’intelligenza artificiale come un pharmakon. Potrebbe spiegare in che modo queste tecnologie agiscono al tempo stesso come un rimedio e come un veleno per le nostre facoltà mentali e per le nostre culture collettive?

«Nella vita quotidiana, i sistemi di IA generativa si presentano spesso come rimedi che consentono di scrivere in modo più rapido o più efficace, oppure di produrre ogni sorta di contenuti simbolici, testi, immagini, suoni... Tuttavia, questi utilizzi provocano degli effetti sul nostro cervello e sulla nostra mente. Quando utilizziamo questi automi, alcune aree cerebrali non vengono attivate e alcune funzioni mentali vengono delegate, tanto che può crearsi una dipendenza. Gli utenti perdono le loro capacità. Inoltre, i contenuti prodotti da questi sistemi probabilistici rafforzano le medie e amplificano i bias. Essi sono spesso stereotipati e standardizzati, a nocumento della diversità culturale e simbolica. Si parla ormai di AI slop per indicare l’invasione di Internet da parte di contenuti di scarsa qualità, che soffocano quelli significativi e pertinenti».

Lei critica aspramente l’uso di termini come “intelligenza”, “apprendimento” o “menti digitali” per descrivere i software. Perché ritiene che questa antropomorfismo serva a nascondere la responsabilità degli imprenditori della Silicon Valley?

«L’antropomorfizzazione dei sistemi algoritmici tende a nascondere i processi tecnologici e industriali che ne consentono il funzionamento, così come le decisioni di chi li ha progettati e sviluppati. Nel caso dei grandi modelli linguistici, ad esempio, i risultati ottenuti non sono neutri. Sono determinati dai dati di utilizzati nel training e dal modo in cui sono stati addestrati e calibrati. Questi sistemi mettono quindi in atto scelte ideologiche. Per esempio, se si pone una domanda di geopolitica a ChatGpt, a Grok o a Deepseek non si otterranno gli stessi risultati, non perché questi software pensino in modo diverso, ma perché sono stati sviluppati e addestrati da imprenditori diversi secondo agende ideologiche diverse».

Spesso consideriamo l’IA come qualcosa di immateriale, ma lei mette in luce lo sfruttamento umano, i “lavoratori del clic” del Kenya, e l’impatto ambientale devastante. In che misura una tecnologia che consuma enormi quantità di acqua ed energia a scapito delle comunità locali può essere considerato sostenibile?

«Il progetto dell’IA generativa conversazionale, così come viene realizzato oggi, non sembra sostenibile a lungo termine, né dal punto di vista sociale né da quello ambientale. La sfida consiste piuttosto nel progettare e sviluppare modelli più piccoli e specializzati, addestrati su set di dati controllati e in grado di funzionare su server locali. Questi modelli più piccoli non potrebbero rispondere a tutte le nostre domande né essere utilizzati su larga scala da milioni di utenti, ma sarebbero piuttosto destinati a compiti specifici. Inoltre sarebbero però anche molto più affidabili e molto più efficienti dal punto di vista energetico».

Sam Altman sostiene che l’unico limite alla creazione sarà avere buone idee, e non competenze specifiche. Lei, invece, parla di miseria simbolica. In che modo ridurre l’arte e la scrittura a semplici comandi, i cosiddetti prompt, impoverisce la nostra capacità di creare opere e dare senso?

«I sistemi di generazione automatica sono spesso presentati nei discorsi promozionali come veicoli di democratizzazione della creatività, ma in realtà tendono a ridurre il processo di creazione artistica a un comando linguistico, che cortocircuita ogni pratica tecnica. Eppure la pratica tecnica è essenziale per la produzione di un’opera. Inoltre, un creatore non conosce mai in anticipo il risultato della propria creazione e raramente è in grado di formularlo a parole, tanto meno sotto forma di prompt. Se un pittore o un musicista conoscesse la propria opera in anticipo non avrebbe bisogno di crearla e questa non apporterebbe nulla di nuovo!».

Applicazioni come Replika promettono empatia, ma lei le definisce “oggetti anti-transizionali”. In che modo queste applicazioni rischiano di isolarci in un riflesso di noi stessi, impedendo il vero incontro con l’alterità e la crescita ?

«Questi compagni virtuali forniscono una simulazione di alterità, ma in realtà ci propongono un riflesso algoritmico di noi stessi, che deriva dai calcoli effettuati sulle nostre richieste e sui nostri dati. Di conseguenza, scambiamo un riflesso digitale per un’altra persona, al punto talvolta di innamorarcene, esattamente come Narciso nel mito! Questa illusione narcisistica è rafforzata dal design di questi servizi. Per esempio con l’uso della prima persona singolare siamo spinti ad antropomorfizzarli e il fatto che ci rispondano e ci lusinghino fa leva sul nostro bisogno di riconoscimento per tenerci connessi. Si tende così a sviluppare una dipendenza emotiva. Gli utenti rischiano quindi di chiudersi nei loro chatbot, sempre disponibili e d’accordo con loro, e di desocializzarsi, invece di correre il rischio di esporsi agli altri e lasciarsi trasformare dalla diversità degli incontri».

Nonostante le critiche, lei cita esempi positivi come Wikipedia. Come si può fare in modo che l’IA passi dallo status di strumento sostitutivo a quello di supporto all’intelligenza collettiva?

«Alla fine del libro, propongo diverse linee d’azione per limitare la tossicità dei dispositivi esistenti, al fine di proteggere le menti individuali, le culture collettive e i legami sociali. Fornisco inoltre diversi esempi di dispositivi digitali che non mirano a imitare o automatizzare i comportamenti, ma a mettere in relazione gli individui per co-creare conoscenze, discutere leggi, condividere pratiche di mutuo aiuto, ecc. Ciò implica un cambiamento di paradigma tecno-economico, passando dalla simulazione al contributo».