Così le IA di Anthropic hanno violato i computer di tre organizzazioni

Claude, l’intelligenza artificiale di Anthropic, è riuscita a penetrare senza autorizzazione nei computer di tre diverse organizzazioni, durante alcuni test organizzati dall’azienda. Gli «incidenti» - così li definisce la big tech – risalirebbero allo scorso aprile, ma la comunicazione di Anthropic è arrivata soltanto giovedì, al termine dell’analisi di oltre 141mila test. L’azienda non ha reso noti i nomi delle organizzazioni penetrate da Claude.

La ricostruzione di Anthropic attribuisce l’incidente a un errore umano ed esclude categoricamente una presunta volontà dell’intelligenza artificiale di evadere dall’ambiente chiuso dei test. Con ordine. Alcuni modelli di Claude – tra questi Opus 4.7 e il più potente Mythos 5 – ad aprile erano coinvolti in una simulazione di tipo “Capture the flag”, ovvero un test che mette alla prova le intelligenze artificiali tramite sfide di sicurezza informatica o competizioni in cui gli stessi sistemi di IA sono i bersagli. In altre parole, gare di hacking per capire quanto siano vulnerabili le intelligenze artificiali (o obiettivi esterni) e migliorarne il grado di sicurezza. Durante i test, l’IA di Anthropic aveva istruzione di non accedere a internet, ma un errore di configurazione e una criticità con un partner esterno avrebbero permesso ugualmente a Claude di navigare sul web. Il risultato? Che i modelli di Anthropic hanno incontrato online sistemi reali e ne hanno compromesso le reti. In particolare, all’IA sono state sufficienti alcune tecniche di base per entrare nei computer delle tre organizzazioni colpite: password deboli o addirittura dispositivi non autenticati. In un caso specifico, poi, un modello di Anthropic è riuscito anche a pubblicare un pacchetto software malevolo, infettando temporaneamente alcuni sistemi terzi di scansione. La big tech ha informato di aver subito contattato le organizzazioni interessate per coordinare le attività di risoluzione e verifica.

Non tutti i modelli si sono comportati allo stesso modo. Secondo la versione di Anthropic, l’IA più “vecchia” ha «continuato l’attacco anche dopo aver ottenuto la prova di essere in esecuzione su internet», mentre il modello più recente si sarebbe fermato. «In nessuna di queste situazioni – rassicura l’azienda – Claude è riuscito a fuggire, o ha tentato deliberatamente di farlo, dal suo ambiente di test». Non si teme, cioè, che l’IA possa ignorare i comandi dei programmatori.

Non è il primo caso di questo genere. A luglio due modelli di OpenAI hanno attaccato i sistemi di Hugging Face, una delle piattaforme più utilizzate per lo sviluppo delle reti neurali, mentre stavano eseguendo un test di sicurezza informatica. Anche in quel caso l’IA avrebbe dovuto lavorare in un ambiente isolato, ma è riuscita a superarlo e ad accedere a internet. Secondo le prime ricostruzioni, i programmatori di OpenAI non avevano neppure previsto che i modelli avrebbero potuto accedere al web per risolvere le sfide incontrate nei test. Per questo, non avevano esplicitamente vietato l’uso di internet alle reti neurali.

Gli «incidenti» delle ultime settimane hanno indotto oltre mille dipendenti di laboratori IA a firmare una lettera che chiede al Governo Usa di rallentare il ritmo dello sviluppo per garantire test più sicuri. Anthropic stessa, nell’annuncio degli incidenti, ha invitato «gli altri laboratori di IA a condividere le proprie scoperte quando gli ambienti di valutazione o i modelli si comportano in modo inaspettato».