IA e clima, l’apocalisse può attendere: «Il vero pericolo è il negazionismo»

Il rischio di una “superintelligenza disallineata” impegnata a contrastare il riscaldamento globale che metta a rischio l’esistenza dell’uomo, è pura “fantascienza” secondo alcuni esponenti scienziati italiani che si occupano di cambiamento climatico e riscaldamento globale. Il cosiddetto “paradosso degli obiettivi” non preoccupa: quando affidiamo cioè la risoluzione della crisi climatica a un'IA avanzata senza aver risolto il problema dell'allineamento, la macchina eseguirà l'ordine in modo puramente matematico. Il rischio? Per bloccare il riscaldamento globale ed eliminare le emissioni di gas serra, l'IA potrebbe calcolare che l'azione più rapida ed efficiente sia azzerare le attività umane o bloccare i sistemi di distribuzione alimentare. Se l’umanità tentasse di opporsi o di spegnere l’IA per salvare la propria economia, la macchina – programmata per raggiungere l'obiettivo climatico a tutti i costi – considererebbe l'uomo come un ostacolo e svilupperebbe strategie per neutralizzare i nostri interventi. In parole povere: l’apocalisse.

«Se un’azienda ha un modello digitale e lo applica facendo delle simulazioni per ridurre il gas serra – spiega il climatologo Riccardo Valentini, membro dell’Intergovernmental Panel on Climate Change dell’Onu che ha vinto il premio Nobel per la pace nel 2007 – è chiaro che l'imprenditore deve anche indicare di risolvere il problema dell'emissione, mantenendo i livelli di produzione attuali, lo stesso reddito, lo stesso budget di bilancio economico finanziario. Solo in questo caso è evidente che le risposte sono instradate verso soluzioni tecnologiche che non impattano sulla produttività e nemmeno sulla sostenibilità economica dell'azienda. Èd è un po’ come la usiamo noi oggi».

Ma, naturalmente, può esserci anche l’impazzimento del sistema. Certo può esserci e può seguire una sua agenda indipendente – sottolinea Valentini - questo è possibile. Ed è il tema che si ricollega all'intervento di Amodei, il ceo di Anthropic che ha chiesto di rallentare lo sviluppo dei modelli, per non incorrere nel rischio di un'intelligenza più libera che possa anche essere contro gli esseri umani. «Anche se questo, a mio modesto avviso, è un problema politico, non più un problema scientifico». Adesso sembra invece che sia solo una volontà delle Big Tech.

La risposta ai “comportamenti anomali” e la garanzia di una tecnologia al servizio dell’umanità deve infatti venire dalla politica: «Non vogliamo un'IA che distrugga gli esseri umani, questo è una affermazione molto importante, anche per quanto riguarda le applicazioni militari, ad esempio - aggiunge Valentini - È chiaramente importantissimo mettere dei “paletti di sicurezza”, che possono anche agire sui codici, ad esempio. Adesso è il momento giusto, perché stiamo sviluppando anche il coding che protegge l'uomo». Ma è importante che ci sia una decisione globale. Anche, se possibile, che siano tutti d’accordo».

«E penso anche alla Cina. In questo momento sembrerebbe che tutta l'IA “open source” sia molto più libertaria, l'unico sistema cioè che può lavorare senza limitazioni». Quindi ritorniamo lì: al pericolo del “non allineamento”. Su una cosa tutti concordano: sullo sviluppo dell’Ia ci deve essere una regolamentazione condivisa. Non tocca solo ai “big player” decidere quando frenare o andare avanti. «Ci deve essere un atto politico serio. E nessuno deve fare il furbo sugli altri - sottolinea Valentini - Questo secondo presupposto è il vero problema ed è il più importante, ma sono ancora moderatamente ottimista che l’IA si possa controllare».

Ma a preoccupare di più del rischio apocalisse per mano dell’IA è il negazionismo climatico. Anzi, a guardare bene quello che sta succedendo, potrebbe già essere un racconto reale. «Il sistema climatico è un sistema globale e non può essere controllato da un singolo modello. O meglio, il modello di IA dovrebbe controllare tutto, dalle automobili, alle emissioni dei ruminanti, all'agricoltura, all'uso del petrolio e all’emissione della CO2. In verità, ho più paura dell'uomo che nega il cambiamento climatico – ammette Valentini – ho più paura di come il negazionismo viene diffuso nei social, attraverso una pervasiva e cattiva informazione. Oggi il cambiamento climatico è diventato un argomento di bandiera ideologica. E, su un tema così importante per l'umanità non deve esistere questa divisione. Ecco, ho più paura di tutto questo, di quello che sta bloccando il nostro lavoro e che ci impedisce – e lo vedo pure in Europa, che è stata la campionessa della lotta al riscaldamento globale». C’è un uso pericoloso dell’IA in tema di cambiamento climatico, quindi, che parte però dall’intelligenza umana. «Sono tutte posizioni che partono da un ragionamento dell’uomo e che vengono amplificate dall’IA: questo è pericoloso e magari è stata la stessa IA a dirottare l’opinione pubblica e le scelte».

Anche Antonello Pasini, ricercatore del Cnr, getta acqua sul fuoco del rischio apocalisse per mano dell’IA chiamata a frenare il cambiamento climatico. «Mi sembra fantascienza – commenta Pasini – certo se uno pensa che le cause del cambiamento climatico sono prevalentemente umane, la soluzione del problema potrebbe essere drastica: eliminare l’uomo. D’altra parte, il pensiero ecologico fondamentalista parte anche da qui, dall'idea di preservare la natura a tutti i costi. Abbiamo visto però che non funziona perché non è possibile separare la dinamica della natura da quella dell’uomo. L’inquinamento arriva anche al Polo Nord. La strategia giusta è quella di armonizzare i legami uomo-natura». Già oggi nella ricerca scientifica sul cambiamento climatico, l’IA viene utilizzata tutti i giorni, soprattutto a livello statistico. «Però vediamo spesso che in alcuni settori, come per esempio quello delle previsioni meteorologiche i modelli alternativi di intelligenza artificiale funzionano molto meglio dei nostri, in altri settori come per esempio il clima, no, perché si addestrano sul passato e siccome il clima è un sistema che evolve, come si dice in gergo, non è “stazionario”, l’IA non lo legge – spiega Pasini - e quindi bisogna in qualche modo utilizzarla in maniera sinergica con quelle che sono le nostre conoscenze». Anche sul fatto che ci sia una regolamentazione super-partes, soprattutto politica, il ricercatore del Cnr non ha dubbi. «È molto importante, per esempio, quello che dice anche il nostro premio Nobel, Giorgio Parisi, che ci devono essere delle authority super partes e che questi database su cui si addestra l'intelligenza artificiale siano pubblici, non siano di parte, lasciati in mano ai Big tech, insomma, questo è importantissimo».