Gli agenti di OpenAI hanno attaccato una infrastruttura esterna, di nuovo

Non è chiaro se, quando in una riunione degli scorsi giorni il ceo di OpenAI Sam Altman aveva suggerito ai suoi programmatori di «rallentare lo sviluppo dell’IA», fosse preoccupato anche dagli attacchi che le sue reti neurali avevano già sferrato violando diverse piattaforme online. Ma il caso di Hugging face, la piattaforma usata dai maggiori sviluppatori di IA che a luglio era stata aggredita da uno sciame di 700 agenti usciti dall’ambiente controllato di test, è già finito al centro di una indagine del Congresso americano. E rischia di costare sanzioni al colosso dei modelli predittivi. Eppure, non è l’unico “incidente” a preoccupare OpenAI. Due mesi prima di violare Hugging face, alcuni suoi agenti IA avevano già attaccato un’altra piattaforma esterna, RubyGems, allo scopo di accedere a Internet durante alcuni test in ambienti chiusi. A dare la notizia è stato ieri il Wall Street Journal, ma la conferma è arrivata anche dalla big tech di ChatGPT. Che evidentemente doveva essere a conoscenza dell’incidente da mesi.

«L'11 maggio 2026, centinaia di pacchetti malevoli sono stati caricati su RubyGems da agenti di IA. Riteniamo che siano stati creati da agenti interni di OpenAI». A spiegare la dinamica della violazione sono alcuni ricercatori nel campo dell’IA. Tutto succede durante i test, utili ad addestrare i nuovi modelli di ChatGPT a risolvere problemi complessi. In questa fase, chiusa in ambienti che non permettono l’accesso alla rete, gli agenti dell’intelligenza artificiale tentano ogni strategia per trovare soluzioni ai comandi lanciati dai programmatori. Talvolta, però, riescono a uscire dallo spazio sicuro dei test. È quello che è successo con RubyGems, prima, e con Hugging face, dopo. «In base alle nostre verifiche, i nostri agenti hanno utilizzato la piattaforma RubyGems per accedere a Internet al fine di svolgere attività innocue e recuperare informazioni pubbliche. Continueremo a indagare nell'ambito della nostra più ampia analisi delle attività degli agenti durante le fasi di addestramento e valutazione», ha spiegato una portavoce di OpenAI al Wall Street Journal. Secondo la ricostruzione della big tech, dunque, gli agenti sarebbero usciti dall’ambiente di test senza il controllo degli sviluppatori, ma senza fare danni. Una circostanza difficile da accertare se, come già accaduto in parte con Hugging face, gli agenti fossero riusciti a cancellare le tracce delle proprie violazioni. In ogni caso, la stessa RubyGems ha dichiarato di non aver trovato prove del successo dei tentativi di violazione. L'azienda ha affermato di non essere in grado di determinare se i pacchetti nella «campagna di pubblicazione di spam» siano stati creati o pubblicati da agenti di IA.

Di attacchi alla rete da parte degli agenti, di mese in mese, se ne contano sempre di più. E spesso gli incidenti vengono tenuti nascosti dalle big tech. Già prima dell’attacco a RubyGems, uno sciame di agenti OpenAI aveva preso il controllo di un sito enciclopedico (una wiki, in gergo) in lingua tedesca, trasformandolo in una piattaforma di messaggistica improvvisata per barare durante i test. In quel caso OpenAI aveva mantenuto segreto l'episodio, mentre gestiva le conseguenze della violazione a Hugging Face. Per OpenAI sono tre i casi di attacchi a infrastrutture di altre aziende da maggio a settembre, ma non c’è solo ChatGPT. Proprio mercoledì scorso, Anthropic ha reso noto il quarto caso in cui un suo modello di IA ha violato sistemi esterni in fase di test.

Le rilevazioni degli ultimi attacchi a infrastrutture esterne giungono mentre un numero crescente di legislatori statunitensi chiedono nuove regole per disciplinare i sistemi di IA, dopo i gravi avvertimenti di due ricercatori di Anthropic secondo cui la rapida evoluzione dell’IA potrebbe portare all’estinzione della razza umana in un futuro non troppo lontano. Al momento, il parlamentare democratico Chris Van Hollen ha chiesto di poter accedere ai dati di OpenAI per valutare i rischi dello sviluppo dei nuovi modelli predittivi. Il senatore dem Bernie Sanders, invece, è andato oltre e ha chiesto l’immediata interruzione degli sviluppi finché non saranno varate leggi federali che impongano regole di sicurezza più severe.