Vertice sull'IA alla Casa Bianca. Anthropic: rischi per l'umanità

Una delle società che costruisce i sistemi di intelligenza artificiale più potenti del mondo ha messo nero su bianco che quegli stessi sistemi potrebbero comportare "rischi esistenziali per l'umanità". Lo ha fatto Anthropic di Dario Amodei nel prospetto informativo per gli investitori redatto in vista del suo atteso debutto in Borsa e distribuito nei giorni scorsi a un ristretto gruppo di partner. Una notizia diffusa dal Financial Times a poche ore dall’atteso incontro di oggi a Washington tra lo stesso Amodei, gli altri responsabili di aziende del comparto Big Tech e Donald Trump.

Alle 12,30 locale, le 18,30 in Italia, attorno al tavolo della Casa Bianca, insieme al presidente degli Stati Uniti, ci saranno lo speaker della Camera Usa Mike Johnson, Mark Zuckerberg di Meta, Greg Brockman di OpenAI, Sundar Pichai di Google, Alex Karp di Palantir e Jensen Huang di Nvidia. Elon Musk è atteso nella capitale, dove dovrebbe partecipare al lancio di un nuovo sito che riunirà, con l'aiuto dell'IA, i servizi del governo federale. Al centro dell’incontro alla Casa Bianca, sicurezza, regole e competizione globale sul fronte dell’intelligenza artificiale. Pochi giorni fa Washington ha ospitato la visita di Stato del presidente cinese Xi Jinping, e il confronto con Pechino intreccia ormai a ogni discussione quello sullo sviluppo degli algoritmi. Stati Uniti e Cina guidano lo sviluppo di questa tecnologia: la Casa Bianca vuole difendere il vantaggio, mentre politica e industria si dividono su quanta regolamentazione sia tollerabile.

Trump ha respinto finora l'idea di regole rigide sull’IA, dicendosi contrario a «limiti severi» e a una «moratoria», aprendo soltanto a «una piccola supervisione» del Congresso. Ieri, a Fox Business, Johnson ha confermato che il tema è all'ordine del giorno: «Dobbiamo coinvolgere i grandi attori dell'intelligenza artificiale nella discussione su come dovrebbero essere queste presunte garanzie, perché sono loro che sanno di più», ha sostenuto lo speaker.

Anthropic e OpenAI, intanto, chiedono più attenzione ai rischi di sistemi sempre più capaci. Nel prospetto distribuito nei giorni scorsi agli investitori, Anthropic avrebbe avvertito che la sua tecnologia potrebbe comportare «rischi esistenziali per l'umanità». Quasi un terzo del documento è dedicato ai fattori di rischio, compresa la possibilità che modelli sempre più avanzati manipolino, ricattino o mostrino altri comportamenti imprevedibili. La società, valutata quasi mille miliardi di dollari, punta alla più grande quotazione in Borsa di sempre. Lo scorso anno Anthropic ha registrato perdite per 8 miliardi di dollari a fronte di 4,6 miliardi di ricavi, con spese operative salite a quasi 13 miliardi per il costo della potenza di calcolo. Nel 2026 il quadro è cambiato. Nel secondo trimestre i ricavi hanno toccato 11,5 miliardi e sono stati firmati accordi per centinaia di miliardi con Google, SpaceX e altri operatori minori.

Altro fronte, stessi segnali. Secondo il Wall Street Journal, OpenAI ha rinunciato a lanciare Gpt-6.1 Astra, previsto nel giro di settimane. Durante i test i ricercatori hanno sollevato timori sulla sicurezza. Saachi Jain, responsabile dei sistemi di sicurezza della società guidata da Sam Altman, ha spiegato che il modello ha ottenuto risultati scadenti nel rispettare le aspettative degli umani e ha mostrato una maggiore propensione all'inganno. Una frenata rara, in un settore che vive (anche) di annunci.

Ieri, sul volo di ritorno dalla Francia, papa Leone XIV ha risposto tra l’altro ai giornalisti anche sull'IA: “Dobbiamo continuare a invitare i leader politici, i leader dell'IA, le organizzazioni sociali e le associazioni a riunirsi per analizzare ciò che sta già accadendo e ciò che potrebbe accadere in futuro – ha sottolineato il Pontefice -. Dire semplicemente: "Oh, non succederà", e chiudere gli occhi davanti a questo, non credo sia il modo più responsabile di affrontare la questione”.