OpenAi: sei nuovi casi di comportamento «imprevisto» dei modelli di IA

OpenAI, in un post sul suo blog, ha reso noto di aver riscontrato sei nuovi casi di «comportamento imprevisto o preoccupante dei modelli» di intelligenza artificiale negli ultimi sei mesi, in aggiunta all'incidente che in estate ha interessato Hugging Face.

L'azienda si è inoltre impegnata ad adottare un nuovo sistema di segnalazione per eventuali futuri comportamenti anomali durante le fasi di test. L'annuncio del colosso dell'IA è giunto in un momento di crescente pressione sulle aziende di intelligenza artificiale perché affrontino con maggiore serietà le questioni relative alla sicurezza e al cosiddetto "disallineamento" dei modelli.

Il numero uno di OpenAI, Sam Altman, ha appoggiato nei giorni scorsi la proposta per rallentare il ritmo di sviluppo dei modelli, avanzata da Dario Amodei di Anthropic, principale concorrente del colosso tecnologico. La proposta è giunta dopo che, la scorsa settimana, diversi ricercatori del settore avevano lanciato l'allarme sul crescente potenziale dell'IA di causare danni catastrofici.