Non si può governare l'IA come una bomba nucleare

Quando venerdì 12 giugno il governo degli Stati Uniti ha notificato ad Anthropic, alle 17.21 ora della Costa Est la sospensione immediata dei modelli di Intelligenza artificiale Fable 5 e Mythos 5. Senza fornire ragioni tecniche pubblicamente verificabili ha compiuto un gesto che eccede la sfera della sicurezza nazionale e rivela qualcosa di più antico e più urgente: la forma che il potere assume quando non sa ancora con precisione cosa sta governando. Lo strumento scelto è illuminante. Il controllo sulle esportazioni è una categoria giuridica nata per governare beni fisici ad alto potenziale militare: l’uranio arricchito, i sistemi di guida missilistica, la crittografia avanzata. Applicarlo a un modello linguistico significa trattare la conoscenza codificata in un sistema di IA come se fosse una materia strategica, soggetta a restrizioni di nazionalità alla stregua di un componente dual-use. L’analogia è rivelatrice non perché sia sbagliata in assoluto ma perché è incompleta: Fable 5 non è un’arma nel senso in cui lo è una testata missilistica, ma nemmeno è una macchina neutrale. Si trova in uno spazio categoriale che il diritto esistente non sa ancora abitare con precisione. La disputa tecnica al cuore della vicenda chiarisce ulteriormente la posta in gioco. Il governo ha sostenuto l’esistenza di un jailbreak, cioè di un metodo per aggirare i filtri del modello e accedere a capacità altrimenti bloccate. Anthropic ha esaminato la dimostrazione e ha concluso che si tratta di vulnerabilità minori, già note agli specialisti, riproducibili con altri modelli largamente disponibili, inclusi quelli che non sono stati oggetto di alcuna misura restrittiva. Non siamo di fronte a un disaccordo su un fatto tecnico facilmente verificabile: siamo di fronte a due architetture diverse del rischio. Il governo opera con un modello binario – sicuro o compromesso, aperto o chiuso – che presuppone l’esistenza di un perimetro netto e difendibile. Anthropic ha costruito Fable 5 su una premessa esplicitamente opposta: nessuna resistenza al jailbreak è assoluta, e la risposta adeguata non è la simulazione di una fortezza inespugnabile ma la difesa stratificata, il monitoraggio continuo, la ritenzione dei dati per rilevare e neutralizzare rapidamente gli attacchi. Non è irresponsabilità tecnica: è onestà epistemica.

Vi è poi una conseguenza logica che la direttiva ignora ma che Anthropic ha esplicitato: se un jailbreak non universale, che lascia il modello entro i parametri di sicurezza dei sistemi comparabili già dispiegati, è ragione sufficiente per la sospensione, allora nessun modello di frontiera può essere commercialmente distribuito, perché la resistenza perfetta al jailbreak non è tecnicamente raggiungibile da nessun fornitore. La misura, applicata in modo coerente, non migliorerebbe la sicurezza: la renderebbe impossibile da conseguire, trasformando ogni avanzamento tecnologico in un’esposizione permanente alla discrezionalità esecutiva. Ciò che rende la vicenda significativa non è il merito della disputa tecnica. È l’asimmetria procedurale che essa rivela. Un’azienda privata rende pubblicamente conto del proprio modello di sicurezza, dei test condotti, dei rischi residuali ammessi e delle ragioni per cui ritiene proporzionale il dispiegamento. Un governo esercita la propria autorità con una notifica serale, senza dettagli tecnici specifici, senza criteri pubblicamente dichiarati, senza possibilità di contraddittorio. Rawls avrebbe riconosciuto in questa asimmetria una violazione dei requisiti elementari dell’equità procedurale: non necessariamente un esito ingiusto, ma certamente un processo che non può produrre legittimità, perché non è verificabile, non è impugnabile, non è confrontabile con standard condivisi. Le implicazioni per chi, in Europa, siede ai tavoli della governance o gestisce infrastrutture dipendenti da sistemi americani sono concrete e immediate. Un’azienda, un’università, un governo europeo che abbia integrato modelli di frontiera di origine statunitense nella propria infrastruttura operativa scopre di essere esposto a decisioni unilaterali prese da un’autorità straniera, senza preavviso, senza processo pubblico, senza diritto di replica. L’export control non è più soltanto uno strumento di politica commerciale: è, di fatto, il meccanismo effettivo di governance dell’intelligenza artificiale più avanzata del pianeta. Fable 5 tornerà probabilmente disponibile, quando la disputa tecnica sarà risolta o il contesto politico si chiarirà. Ma il precedente resterà. Governare l’intelligenza artificiale con gli strumenti concettuali della corsa agli armamenti, come se la conoscenza codificata in un sistema linguistico fosse equivalente a una testata o a un vettore, produce esattamente il tipo di arbitrarietà che rende impossibile qualunque forma di fiducia istituzionale sostenibile. Ciò di cui abbiamo bisogno non è uno Stato più forte nell’IA: è uno Stato capace di motivare le proprie decisioni con argomenti che reggano al vaglio pubblico. Senza questa capacità, il potere sulla macchina rimane potere nudo.