L'agente AI in fuga, la start up colpita, la Cina: l'intelligenza artificiale ha un problema?

Un agente autonomo di IA, basato sui modelli avanzati di intelligenza artificiale di OpenAi, è sfuggito ai controlli durante un test di sicurezza e ha innescato un attacco informatico sul web che ha compromesso l’infrastruttura di un’altra startup di IA, Hugging Face. Lo ha rivelato due giorni fa la stessa OpenAi, a distanza di una settimana dal test che avrebbe dovuto avvenire in un ambiente controllato. Quello che si sa finora è che l’incidente è stato causato da una combinazione di due modelli, tra cui GPT-5.6 Sol e «un modello pre-release ancora più performante» ha spiegato la stessa OpenAi, aggiungendo che le misure di sicurezza dei modelli erano state intenzionalmente ridotte ai fini della valutazione del test.

«Riteniamo che si tratti di un incidente informatico senza precedenti, che coinvolge capacità informatiche all’avanguardia, e stiamo reagendo di conseguenza. In questa fase condividiamo i risultati preliminari per aiutare i difensori a capire cosa è successo e per calibrare le capacità attuali dei modelli» si legge in un post sul blog della big tech americana.

Secondo gli analisti del New York Times l’incidente mette in luce come le crescenti capacità dell’IA stiano già alimentando la minaccia alla sicurezza che gli esperti temono da tempo e che persino gli sviluppatori più esperti possono essere colti di sorpresa da falle che i loro modelli possono sfruttare. Il punto centrale è che gli agenti, e più in generale «i nuovi sistemi di intelligenza artificiale possono compiere diverse azioni, trovare soluzioni alternative agli ostacoli e individuare nuovi modi per attaccare una rete», ha commentato Alex Levinson, consulente di sicurezza informatica, a livello internazionale.

Il caso, inoltre, ha attirato l’attenzione perché la start up colpita, Hugging Face, con sede a New York, ha spiegato di aver utilizzato un modello cinese open source per contenere l’attacco, in quanto i principali modelli statunitensi si sono rifiutati di elaborare i dati necessari per l’analisi. Si tratta del modello GLM-5.2 di Zhipu AI – che assieme a Kimi K3, entrambi prodotti dall’azienda cinese Moonshot – aveva recentemente suscitato scalpore nella Silicon Valley grazie a una capacità, paragonabile a quelle dei migliori modelli statunitensi, ma a costi inferiori e senza le limitazioni che impediscono ai loro rivali americani di utilizzarli in ambiti come la sicurezza informatica.

Hugging Face, che ospita modelli linguistici e dataset open source di grandi dimensioni, ha confermato non solo che la violazione «era diversa da qualsiasi altra avessimo gestito in precedenza» ma che «era stata guidata, dall’inizio alla fine, da un sistema autonomo di agenti di intelligenza artificiale». Secondo il Ceo Clem Delangue, che ha elogiato la collaborazione con OpenAI nell’indagine e nella risoluzione dell’incidente, «questo incidente, forse il primo del suo genere, dimostra un punto in cui crediamo da tempo: la sicurezza dell’IA non sarà risolta da una singola azienda che lavora in segreto».

La questione andrà affrontata e «risolta in modo trasparente, collaborativo e con un ampio accesso all’intelligenza artificiale per ogni difensore, ovunque si trovi», soprattutto a fronte della determinazione nel perseguire un obiettivo degli agenti di IA, capaci di bucare i server (in questo caso) anche senza avere istruzioni precise.