Focus sull'Ia: stiamo creando una società "stupidogena"?

Il mondo si sta algoritmizzando. Parola lunga che significa che sempre più aspetti della nostra vita, dalle relazioni sociali alle scelte di consumo o culturali, dal lavoro alla politica, vengono guidati, filtrati o decisi da sistemi tecnologici digitali, spesso in modo automatico e invisibile. La relazione fra noi e queste macchine è spesso disorientante, in particolare da quando, tre anni fa, i cosiddetti chatbots di intelligenza artificiale hanno cominciato a diffondersi su larga scala. Sono sistemi capaci di simulare testi, immagini e conversazioni. Il più noto è ChatGPT. Ve ne sono tanti altri. e contano già centinaia di milioni di utilizzatori.

Molti vi si affidano con entusiasmo, altri vi vedono una minaccia: sull’affidabilità dell’informazione, per esempio, o sui posti di lavoro. Il rischio rappresentato dall’IA è tuttavia più profondo e insidioso. Questi sistemi offrono la possibilità di delegare lo sforzo di pensare, riflettere, scrivere, scegliere. Sembrano magici. Ma il costo nascosto è enorme: più deleghiamo il pensiero, lo sforzo di capire, la decisione, meno saremo capaci di pensare, capire e decidere.Come scrisse il pensatore cattolico francese George Bernanos: «Il pericolo non sta nella moltiplicazione delle macchine, ma nel numero sempre crescente di uomini abituati, fin dall’infanzia, a non desiderare altro che ciò che le macchine possono dare». L’osservazione di Bernanos, scritta nel 1944, dodici anni prima dell’invenzione del concetto di «intelligenza artificiale», suona oggi quasi profetica. L’insidia risiede non soltanto nel potere delle macchine e di coloro che le possiedono e le controllano, ma anche nella nostra rinuncia progressiva ad esercitare le nostre facoltà.

Molti studenti, per esempio, usano l’IA per riassumere libri invece di leggerli, o per generare testi che non impareranno a scrivere e non saranno in grado di spiegare, oppure come tutore o aiuto per i compiti a casa. Ma l’IA non si limita a semplificare i compiti: ridefinisce il nostro rapporto con il sapere, trasformando la conoscenza da conquista attiva a prodotto di consumo passivo. Chiedere a ChatGPT è certamente più facile che leggere o scrivere. Ma se c’è una cosa che la scuola dovrebbe insegnare, è a sviluppare curiosità intellettuale e senso critico, a passare attraverso argomenti, errori e scoperte; e questo richiede di fare (e pensare) le cose difficili.

Il timore è che fingere (grazie all’IA) di lavorare invece di farlo, finisca per inibire lo sviluppo tanto di competenze che di spirito critico. Che la delega dell’apprendimento e del pensiero generi una dipendenza dalla tecnologia. Che in futuro «non esista più pensiero non assistito», dice la critica culturale Tatjana Samopjan.

Questa preoccupazione non è infondata. Alcuni studi, pur mostrando un aumento della produttività, suggeriscono anche forme di dequalificazione (in inglese, de-skilling). Una ricerca condotta su mille studenti che si preparavano agli esami di matematica alle scuole superiori, per esempio, ha rivelato che quelli con accesso all’IA hanno ottenuto risultati nettamente migliori di coloro che non l’avevano. Ma quando poi l’accesso è stato loro revocato, hanno ottenuto risultati significativamente inferiori rispetto al gruppo di controllo.

In un altro studio, ricercatori del MIT di Boston hanno chiesto ai partecipanti di scrivere quattro saggi sull’arco di quattro mesi con diversi livelli di assistenza tecnologica. Hanno scoperto che più i soggetti venivano aiutati a scrivere, minore era l’intensità della loro attività cerebrale durante il test, soprattutto nelle aree associate alle funzioni cognitive, all’attenzione e alla creatività. Il che potrebbe tradursi, secondo i ricercatori, in un «debito cognitivo»: l’idea che i benefici immediati (reali) dell’uso dell’IA in termini di produttività si paghino poi con il deterioramento della capacità di apprendere, ricordare e pensare a lungo termine. Più la tecnologia digitale si propaga nelle nostre vite, più ne diventiamo dipendenti e più diventa difficile funzionare senza ricorrervi.

È plausibile che questa progressiva contrazione cognitiva «possa portare a società più ricche, più avanzate, con una speranza di vita più lunga [grazie all’IA], ma anche meno intelligenti», scrive l’esperta inglese di educazione Daisy Christodoulou. Per analogia con le dinamiche obesogene, Christodoulou evoca il rischio di una «società stupidogena» in cui la delega sistematica del pensiero alle macchine minaccerebbe le nostre facoltà di ragionamento, allo stesso modo in cui l’alimentazione industriale e la mancanza di attività fisica alterano i nostri corpi.

La scuola e gli insegnanti (che a loro volta usano l’IA per preparare le lezioni o correggere i lavori degli studenti) stanno integrando forme di apprendimento dell’IA nei programmi scolastici. Questo è ovviamente importante: in futuro, ci saranno pochi mestieri che non dovranno interagire o collaborare con l’intelligenza artificiale. Ma essere «istruiti» di fronte a queste tecnologie non significa soltanto saperle usare efficacemente. Significa soprattutto comprendere come esse vengono create e come funzionano. Imparare a interrogarne i prodotti, a coglierne le implicazioni umane, sociali ed etiche. O ancora a decodificare le strutture culturali, economiche e di potere in cui queste tecnologie esistono ed evolvono.

© riproduzione riservata