Gabriel: «La scienza non sarà più umana?»

La scienza si va deumanizzando. Segnata da una evoluzione che, nel periodo tra gli inizi del novecento ad oggi, si è ampiamente giovata di una crescente rilevanza delle pubblicazioni, strumento fondamentale per il confronto critico su ogni genere di ricerca. Dalla sua nascita il fenomeno si è via via configurato come un vero e proprio assedio alla editoria di settore: contenuti rilevanti da una parte e una cospicua corte di contraffazioni più o meno grossolane dall’altra.

In reazione al proliferare di esiti inventati, studi basati su dati falsi e sperimentazioni mai avvenute, il sistema si è dotato di contromisure come la peer review, pratica di revisione organizzata e curata da team di esperti esterni, cui il publisher di turno, subissato da materiale di ogni genere, affidava il compito di testare gli scritti, attestandone o meno la veridicità scientifica.

Nonostante questi sforzi la produzione compulsiva delle scientific frauds ha prosperato rigogliosa, mettendo a serio rischio la validità delle esperienze, di una loro comunicazione corretta, inficiando le basi per il progresso nei vari comparti. L’avvento del digitale con la scesa in campo degli llms ha trasformato l’impresa della revisione in una improba fatica di Sisifo. Il fronte della mistificazione programmata si è organizzato in un vero e proprio movimento, votato, alla elaborazione di studi fittizi e false scoperte, per le ragioni più varie. Dal puro e semplice esercizio di hackeraggio, che potremmo classificare impropriamente come antagonista a priori, finalizzato a diffondere interferenze di disturbo, alle ricerche deformate ad arte per confermare o confutare una particolare idea politica o una corrente di pensiero, questa o quella protesta, questa o quella guerra.

Un fermento inarrestabile che genera costantemente fraud template messi in circolazione pur non avendo alcuna attinenza con la realtà, forti di fonti immaginarie fino a un un numero di 50 per singolo caso, frutto di quella che, chissà perchè, viene definita allucinazione della intelligenza artificiale. Sono convinto che il termine allucinazione nonsia altro che la concettualizzazione lato client di un fenomeno che all’interno del congegno IA non sottende alcuna falsificazione e direi nemmeno alcun errore. Dovrebbe essere chiaro, e non mi pare he lo sia, che il funzionamento IA è costituito unicamente dalla produzione apolarizzata di catene sintattiche sempre e comunque conseguenza di una giustificazione procedurale: la misurazione istantanea e transitoria dei rewards che muta a seconda dei parametri matematici messi in relazione con la scelta dei termini, del contesto, delle entità linguistiche. La IA fa sempre e comunque il suo lavoro, non potrebbe essere diversamente.

Lo strumento è potentissimo e incommensurabilmente destabilizzante, infaticabile produttore massivo di contenuti privi delle logiche come le conosciamo, sminuzzate in componenti che della origine non conservano praticamente nulla. La traduzione della logica (come la abbiamo strutturata nella filosofia pregressa) in contesto linguistico binario IA è soggetta ad una entropia sistematica che ne altera i rapporti interni in modo irreversibile. Si trasforma cioè in un enunciato talmente aperto da non poter essere nemmeno definito, se non nel contesto specifico e temporaneo di ogni sua applicazione.

La diffusione endemica dei fraud template crea danni di portata enorme e imprevedibile. Uno dei primi passi da compiere verso questo nuovo mondo strutturalmente instabile in cui ci troviamo proiettati giocoforza è comprendere che non possiamo in alcun modo fermarne il corso. Naturalmente comprendo bene le ragioni che hanno portato il filosofo e giurista italiano Luigi Lombardi Vallauri a coniare e teorizzare il termine ingessato, piuttosto antiestetico e antimoderno di algoretica, ma quella visione attiene ad un mondo che non esiste più da tempo. Il cosiddetto bias oggi è già oggi un concetto da manuale for dummies. La natura permanentemente tissotropica delle intelligenze artificiali è tale da neutralizzare ogni tentativo di definire regole rigide attraverso i comuni paletti morali che vengono immediatamente inglobati e disgregati nel gel colloidale linguistico del procedimento aggregativo in costante mutazione.

Tornando al mondo delle pubblicazioni scientifiche il problema è evidentemente enorme. Tanto che si è provato a demandare il ruolo del reviewer a specifiche startup dedicate alla convalida scientifica degli studi. Compito che per quantità e qualità non può più essere esclusivamente umano. Immaginiamo uno studio fake perfettamente redatto con risultanze sperimentali inventate e non verificabili, la cui indagine riguarda una fantomatica molecola, di miriadi possibili, che potrebbe portare un giorno ad una terapia sperimentale su un qualche tipo di tumore, magari in associazione ad altre molecole, anch’esse inventate. Nessuno si occuperà veramente di verificarne la fonte al netto di un controllo superficiale che il bias è in grado di aggirare senza particolare impegno. Un danno minimo, è notizia di ogni giorno. Se però la moltiplichiamo per milioni di varianti, finirà per creare un sottobosco di accumulazione informativa falsa sempre più intricato, in cui diventerà praticamente impossibile discriminare il vero, pur relativamente minoritario, dal mockup generalizzato.

Quindi moltiplichiamo ulteriormente questo habitat specifico per tutte le branche della scienza e relative sottocategorie specialistiche: il risultato sarà una infinità caotica di teorie e esiti mistificati

impossibile da contingentare. Uno di questi campi specializzati è l’informatica. La IA è sia il prodotto scientifico, la scoperta, il ponte, il database, sia la procedura per arrivarci. Fatto che apre alla eventualità più che reale di un fraud template ‘algoritmico’ che genera ‘fraud template’ risultanti, in una superfetazione esponenziale di interi universi paralleli di sintassi alterate, deviate, del tutto false come i propri effetti, ma, va ricordato, sempre concretamente operative.

Andiamo verso una scienza che non è più umana, ma non finisce lì. Intorno a noi si sta letteralmente materializzando un diorama cognitivo che per gran parte non risponderà più ai criteri di verifica e verità scientifica, il povero Galileo triturato e ridigerito in forme che non avrebbe mai potuto immaginare, prive di evidenza sperimentale e aderenza a fonti autentiche. Il criterio stesso di autenticità finirà per essere messo da parte a favore di una equivalenza ontologica orizzontale, decretata de facto, di vero e falso, corretto e sbagliato, buono e cattivo. Un ponte sospeso senza alcun sostegno che comunque rimane lì, a mezz’aria.

Fior di esperti confidano che il trend andrà scemando. La brutale evidenza è che le contribuzioni fake come le nuove peer review IA related di dubbia provenienza continuano ad aumentare.

Mi fa un certo effetto pensare che, solo poco tempo fa, pensavo alle teorie scientifiche fasulle come il climax dell’abominio culturale. Oggi si deve prendere atto non solo che è possibile a chiunque produrre contenuti privi di logica (quella che credevamo logica) nei modi disarticolati di un patchwork cognitivo estremamente caotico e concreto, ma che è possibile farlo attraverso passaggi talmente sofisticati da bypassare i doppi ciechi, la validazione accademica, il criterio stesso di realtà per come la conosciamo.