I boss delle big tech e i timori sull'AI, ma Trump tira dritto

"Ci sono due modi in cui il progresso dell'IA potrebbe andare molto male e che dobbiamo evitare". Lo afferma l'amministratore delegato di OpenAI, Sam Altman su X, intervenendo nel dibattito sulla necessità di rallentare lo sviluppo dell'intelligenza artificiale per tenere sotto controllo i rischi legati ai sistemi più avanzati. Il primo rischio, spiega Altman, è "perdere il controllo del futuro a favore dell'IA". Per questo, secondo il ceo di OpenAI, è necessario fare in modo che le tecniche di allineamento e sicurezza restino avanti rispetto ai progressi nelle capacità dei modelli. Il secondo rischio è "un mondo con un'eccessiva concentrazione del potere". Se un sistema di IA straordinariamente potente venisse utilizzato da una singola persona o azienda per imporre la propria visione del mondo agli altri, avverte Altman, i risultati potrebbero essere "estremamente distopici". Sulla stessa lunghezza d'onda Dario Amodei, numero uno e co-fondatore di Anthropic: "Non vi mentirò: esistono pericoli reali. E credo che, per troppo tempo, il settore abbia mentito alle persone riguardo ai rischi connessi a questa tecnologia". E il rischio maggiore potrebbe essere la fine dell'umanità, come ha avvertito la scorsa settimana Jacob Coxon, ex ricercatore di Anthropic, affermando che sia la sua ex società sia OpenAI stanno "giocando con le nostre vite" sviluppando una superintelligenza capace di auto-migliorarsi. Amodei, in un'intervista alla Cbs, ha spiegato che lo sviluppo dell'Ia sta seguendo una curva esponenziale, sempre più ripida: "Non significa che dobbiamo farci prendere dal panico oggi e che dobbiamo bloccare tutto. Ma direi che è un segnale d'allarme. Un segnale che ci indica la necessità di rallentare". Allo scopo di avere modelli affidabili, Amodei ha detto che Anthropic darà a valutatori indipendenti l'accesso permanente ai suoi modelli, simile a quello dei dipendenti. 

Allarmi che per il presidente degli Usa Donald Trump sono frutto di esagerazioni: "Alla fine ci saranno molti più aspetti positivi che negativi. L'ho detto fin dall'inizio: chiunque vinca, noi ce l'abbiamo fatta, siamo nettamente in testa. Chi vince nell'intelligenza artificiale vince tutto", ha commentato dal torneo di Golf a Doonberg, in Irlanda, intitolato a se stesso.