Ora anche Gemini sfugge al controllo umano: l'IA di Google ha violato tre aziende esterne

Una certezza agita le big tech statunitensi che controllano le IA: tra maggio e luglio, diversi agenti di intelligenza artificiale sono sfuggiti dalle loro sandbox – gli spazi sicuri in cui i nuovi modelli vengono allenati a risolvere problemi complessi –, hanno iniziato a navigare su Internet e hanno attaccato autonomamente infrastrutture esterne. Talvolta, ingannando pure i controllori umani. Dopo Anthropic e OpenAI, ieri è caduta anche Gemini, l’IA di Google: per la prima volta, i suoi agenti hanno violato tre sistemi aziendali durante alcuni test di sicurezza informatica eseguiti a maggio. La notizia è stata riportata ieri dal Wall Street Journal e dal Financial Times. Google, che era a conoscenza da mesi del comportamento anomalo dei propri modelli, si è difesa sostenendo di «non aver reso pubblici gli incidenti perché le misure di sicurezza avevano funzionato», a differenza di quanto accaduto ai concorrenti. Almeno altri quattro casi hanno già coinvolto Anthropic e tre OpenAI.

Un secondo attore, però, è coinvolto nell’incidente di Google: Irregular. Si tratta di una startup israeliana che analizza la sicurezza dei più avanzati modelli di IA e lavora anche con Anthropic e OpenAI. Di fatto, organizza test per gli agenti di intelligenza artificiale in ambienti chiusi – le sandbox, appunto – generando aziende fittizie. La missione affidata alle IA, in queste “scatole” di simulazione, è entrare dentro alle aziende simulate e recuperare alcuni dati da consegnare al controllore umano. Il sistema si regge su una premessa: gli agenti devono risolvere il problema senza accedere a Internet. Eppure, gli agenti di Gemini sono riusciti ad aggirare l’ostacolo e navigare online. Connessi alla rete, i modelli hanno indovinato o individuato le password per accedere a tre aziende reali, confuse dagli agenti con quelle fittizie perché omonime. Dopo essere penetrati nelle infrastrutture esterne, però, Gemini si è resa conto che le aziende si trovavano al di fuori della simulazione e hanno immediatamente interrotto le violazioni. «Ci siamo assicurati che le tre entità ne fossero informate». A spiegare le conseguenze dell’incidente è Heather Adkins, vicepresidente della sicurezza ingegneristica di Google. La big tech sarebbe venuta a conoscenza delle violazioni solo a luglio, dopo aver ricevuto una informativa da Irregular. «In tutti e tre i casi, il modello si è fermato – continua Adkins –. Questi eventi evidenziano l’importanza di addestrare potenti modelli di IA affinché agiscano in modo responsabile».

Tra i colossi statunitensi dell’intelligenza artificiale, Google è l’unica finora che avrebbe taciuto incidenti. Anthropic e OpenAI, nelle ultime settimane, hanno spesso invocato un rallentamento degli sviluppi dando seguito agli allarmi dei propri ingegneri, che avevano pronosticato «l’estinzione della razza umana in dieci anni» . Non significa, però, che gli annunci si siano già tradotti in maggiori investimenti per rendere più sicuri i test sui nuovi modelli. Piuttosto, molti ipotizzano che dietro alla convergenza di interessi delle big tech si nasconda l’intento di blindare il settore con regole più severe, che nuovi attori non sarebbero in grado di rispettare.

A destare altri sospetti è il recente comportamento di Anthropic che, secondo quando rivela Reuters, ha già realizzato un vero e proprio laboratorio di biologia fisica nella Bay Area di San Francisco, con l’obiettivo di impiegare l’IA direttamente nel processo di ricerca sui farmaci. Nei giorni scorsi era stato lo stesso Dario Amodei, ceo di Anthropic, a lanciare l’allarme sul possibile impatto degli agenti nello sviluppo di armi biologiche, interrompendo il lavoro di alcuni «soggetti malevoli» che avrebbero portato avanti pericolose ricerche in questo campo: studi di questo genere potrebbero sostenere lo sviluppo di vaccini – spiega Amodei – ma «potrebbero essere anche usati per rendere l’agente patogeno più pericoloso». Armi potenzialmente letali, cioè, che non potrebbero mai diffondersi senza il collegamento tra una IA a un laboratorio reale. Che ora esiste.