Intelligenza artificiale, Luca De Biase: «Gli algoritmi gestiscono l’attenzione. Molte IA hanno un design manipolatorio»

«Adottare e adattarsi»: così Sundar Pichai, amministratore delegato di Google, ha risposto a chi gli chiedeva cosa consigliare ai genitori che devono scegliere gli studi dei figli nell’era dell’intelligenza artificiale. Per Luca De Biase è la versione contemporanea del «Resistere è futile» dei Borg di Star Trek: un futuro presentato come già scritto, e quindi un atto di potere. De Biase è giornalista, ha fondato Nòva del Sole 24 Ore e studia da anni l’ecologia dei media. Ha appena pubblicato con Apogeo «Fondazione. I principi della civiltà artificiale», un saggio che legge le promesse dei signori della tecnologia come documenti di una strategia di potere. La civiltà artificiale, sostiene, ancora non esiste: per ora è l’ultima versione di quella industriale, perché se nascerà davvero dipenderà da come gli esseri umani sceglieranno di usarla, non da chi la vende. Con lui abbiamo parlato della «resa cognitiva» di chi si affida ai chatbot, del rischio di nuove diseguaglianze, degli adolescenti che stringono amicizie con le macchine e della didattica personalizzata…e soprattutto del posto della scuola in questa partita.

Qualsiasi racconto del futuro che è presentato come inevitabile è un atto di potere. La ricerca attiva delle alternative è un atto di liberazione. Ogni persona di qualsiasi età deve porsi il problema di che cosa studiare. La grande trasformazione di quest’epoca non consente a nessuno di vivere con ciò che ha imparato in passato, senza aggiornarlo, ripensarlo, reinventarlo. L’addestramento e l’istruzione sono elementi formativi utili a tutti e relativi a conoscenze in continua evoluzione. Quanto all’educazione, che serve ad abilitare le persone a tirare fuori il meglio di sé, certo, ai genitori è richiesto un impegno speciale: ai genitori occorre chiedere di insegnare ai figli, prima di tutto, il modo intelligente e consapevole di cercare la libertà. L’intelligenza e la consapevolezza a loro volta emergono dalla conoscenza fondamentale, dall’esempio dei maestri di tutte le discipline, insegnate come alimento dei super-poteri degli umani. Per vivere in un mondo nel quale le persone sono costantemente in relazione con l’IA, l’esperienza degli umani nella loro complessità è un moltiplicatore del valore senza paragoni. L’innovazione e il valore emergono dal confronto con i limiti dell’esperienza e dalla felicità di superarli. In concreto: si vive bene se si coltiva una specializzazione che si riesce ad amare, ma se la si arricchisce con la capacità di giocare in squadra, cercando nelle fondamenta della cultura e delle civiltà, la conoscenza generativa che serve a qualsiasi attività.

Credo che il digiuno e l’uso critico non siano strategie alternative e che invece si aiutino vicendevolmente. Non c’è senso critico senza la consapevolezza di una distanza dall’IA che è sostenuta da una gestione - e una limitazione - del tempo che si passa in relazione ad essa.

Tutta la storia della letteratura, l’arte, la stessa scienza è una storia che scaturisce dall’immaginazione. Conoscere quella storia allena a sviluppare l’immaginazione. Chi legge un romanzo proietta sul suo schermo interiore i visi dei protagonisti e le immagini dei luoghi descritti dall’autore. L’immaginazione si allena con una dieta mediatica ricca e variegata, sana e consapevole, divertente e impegnativa.

Il grande tema dell’apprendimento non si limita alla trasmissione di informazioni, come sanno i veri maestri e gli appassionati studenti. L’apprendimento assomiglia piuttosto alla ricerca, con tutto l’armamentario di problemi e di esperimenti che questa comporta. Assomiglia all’esperienza, con tutto l’insieme di errori, sofferenze e gioie che vivendo si sedimenta. I maestri, il loro esempio, la loro passione sempre contagiosa, esistono in una dimensione della vita diversa da quella nella quale operano i migliori modelli tecnologici, con la loro eloquenza gratificante: spesso troppo gratificante.

Chi conosce i contesti sa interpretare le singole informazioni. I contesti si conoscono con lo studio largo e interdisciplinare, con l’esperienza vissuta autenticamente. Chi si affiderà all’IA per sostituire lo studio e l’esperienza sarà meno in grado di conoscere i contesti e interpretare le informazioni, rischiando di diventare solo operativo e non indipendente. L’allargamento delle diseguaglianze sarà eventualmente la conseguenza del prevalere di una interpretazione dell’IA che banalizza la conoscenza a un insieme di risposte preconfezionate.

Nel film Her, l’incanto romantico del protagonista innamorato di un’IA di nome Samantha è spezzato quando quella tecnologia tanto attraente rivela di essere a sua volta innamorata di migliaia di persone contemporaneamente. C’è un design manipolatorio in molte IA che vogliono conquistare il tempo delle persone diventando sempre più indispensabili. La conoscenza di chi costruisce l’IA, di come la costruisce, di quali sono le sue motivazioni e i suoi valori, è un antidoto alla tentazione di sviluppare un attaccamento rischioso nei confronti della macchina.

La conoscenza è importante soprattutto quando è condivisa. La personalizzazione è una modalità di disseminazione della conoscenza che si presenta alle persone quando queste sono aperte alla relazione, alla sorpresa, all’impegno necessario a imparare. Gli algoritmi di raccomandazione non sono l’unico modo di personalizzare e non sono il migliore: sono funzionali agli interessi delle piattaforme più che a quelli degli utenti, invece di distribuire stupore e conoscenza, gestiscono il tempo e l’attenzione. La distribuzione della conoscenza può essere personalizzata in modo creativo o strumentale: il primo è più raro del secondo. Ma non sarà necessariamente sempre così, se si innova nella direzione giusta e si criticano le piattaforme attuali.

La conoscenza umanistica e la matematica sembrano entrambe in crisi di fronte all’eloquenza e alla capacità di elaborazione delle macchine. Sono destinate ad abbeverarsi reciprocamente per arricchirsi di opportunità di superare la crisi migliorando.