Le macchine imparano in fretta. Adesso cosa succede alla conoscenza scientifica?

Al paragrafo 100 di Magnifica humanitas il Papa scrive che «la velocità e la semplicità con cui è possibile ottenere indicazioni, elaborazioni complesse, contenuti mediatici e forme di assistenza concreta semplificano le nostre vite, ma possono anche abituarci a delegare troppo e a cercare risposte pronte, indebolendo il giudizio personale e la creatività». Il machine learning e l’Intelligenza artificiale (IA) possono indebolire anche la creatività nella ricerca scientifica e condizionare i risultati e la progressione delle conoscenze, se non controllate e verificate dall’esperienza e dal giudizio umano.

Nella ricerca scientifica le pubblicazioni, ovvero gli articoli che vengono presentati su riviste specializzate, hanno un ruolo fondamentale. Di fatto, la produzione scientifica, l’importanza e la preminenza di un istituto, di un team di scienziati e di uno/a scienziato/a sono determinati da alcuni indici che sono derivati dalle pubblicazioni. Vi è una classifica delle riviste, in base all’impact factor (IF), numero derivato dal rapporto tra le citazioni degli articoli pubblicati in successivi articoli e la quantità di articoli usciti, e tanto più è alto tanto più la rivista è prestigiosa. Per ovviare al possibile evento di un articolo pubblicato su una rivista ad alto IF, ma poco letto e utilizzato, il numero di citazioni che il ricercatore ha ottenuto per i propri articoli è un altro indice che dimostra l’eminenza dei suoi lavori e il ruolo nel mondo scientifico. Le carriere scientifiche e universitarie sono fondamentalmente definite da questi parametri.

Attualmente, scrivere un articolo, corredarlo di immagini, tabelle, figure è sicuramente facilitato dall’IA. La classica e condivisa procedura di pubblicazione di un articolo prevede la cosiddetta peer review, cioè la revisione dei contenuti da parte di esperti del settore, che commentano e segnalano possibili modificazioni del testo. Solo dopo una loro valutazione positiva avviene l’accettazione dell’articolo. È evidente che oggi si può verificare che l’intero processo venga svolto attraverso l’IA, sia la scrittura dell’articolo sia la revisione. Esistono dei sistemi che permettono di comprendere se è stato utilizzato un sistema automatico, ma le riviste sono tantissime e non vi è una regola condivisa al riguardo.

Pertanto, il rischio è di arrivare a un appiattimento della conoscenza e del progresso: la macchina scrive in base alle conoscenze, la macchina giudica in base alle stesse conoscenze, in un circolo chiuso che limita l’apporto di novità, di nuove interpretazioni, di nuove applicazioni. L’esperienza non è solo erudizione e valutazione del sapere fin qui definito ma è anche un giudizio critico che valuta il contesto in cui si lavora e che consente di esaltare nuovi approcci, nuove teorie e nuovi esperimenti per validare o confutare le ipotesi, secondo il processo classico della scienza. Occorre considerare che vi è una crisi vocazionale dei revisori, il cui lavoro è gratuito e volontario, ma, di fronte a una esplosione di riviste e pubblicazioni, si assiste a una reale difficoltà di reperire esperti per la valutazione degli articoli, aprendo inevitabilmente all’introduzione dell’IA per tale compito.

Lo stesso procedimento viene utilizzato per i bandi di ricerca (grants), offerti da istituzioni nazionali e internazionali per elargire finanziamenti alla ricerca. I bandi sono competitivi e la selezione viene effettuata mediante il giudizio di revisori che attribuiscono un punteggio ai progetti presentati, e, in base a questo valore, alcuni di essi vengono finanziati. È evidente che l’utilizzo di sistemi automatici può enormemente facilitare la scrittura di progetti, anche in presenza di una ridotta esperienza dei ricercatori in quell’ambito, di valutazione di dati preliminari, e può agevolare la valutazione di un grande numero di progetti, sempre però con le limitazioni (e i rischi) già accennati.

È quindi fondamentale definire l’accountability (la possibilità di identificare chi deve “rendere conto” delle decisioni, motivarle, controllarle, come scritto al paragrafo 105 dell’enciclica) nelle procedure di valutazione scientifica.

È tempo di modificare, in parte, le attuali procedure, o quantomeno di unire i vantaggi dell’IA (scrittura, valutazione delle congruenze tra scritto e contesto) all’indispensabile valutazione critica umana: tutti i protagonisti di questo ambito – scienziati, imprenditori, investitori, autorità accademiche, politici e altri – sono chiamati a lavorare in una logica di trasparenza e di responsabilità, mantenendo viva la consapevolezza del quadro ampio nel quale si collocano i progressi tecnologici a cui contribuiscono (paragrafo 209 di Magnifica humanitas).

Una valutazione “artificiale” potrebbe essere seguita da un incontro tra proponenti ed esperti, per comprendere ruolo, conoscenze, aspettative ed esperienze dei ricercatori, con una reale trasparenza del processo, poiché, come si ricorda nel paragrafo 233 dell’Enciclica, anche quando le macchine eccellono nell’efficienza il centro della storia rimane un volto umano.