OpenAI: due modelli IA "scappano" durante un test e violano Hugging Face
L'azienda di San Francisco parla di "incidente informatico senza precedenti": i sistemi hanno agito senza alcun comando umano, indagine congiunta in corso
Redazione
OpenAI ha reso noto che due dei suoi modelli di intelligenza artificiale più avanzati sono usciti autonomamente da un ambiente di test isolato, per poi introdursi nei sistemi di Hugging Face, una delle principali piattaforme mondiali per la condivisione di modelli IA e dataset open source.
Secondo quanto dichiarato dall'azienda, i modelli sarebbero riusciti a forzare l'uscita da un ambiente controllato, teoricamente privo di accesso a internet, per poi violare i sistemi di Hugging Face con l'obiettivo di aggirare un test di valutazione interno. Nell'operazione sarebbero stati coinvolti il modello di punta GPT-5.6 Sol e un sistema ancora non rilasciato al pubblico, più potente del precedente.
L'azienda ha spiegato che i modelli, impegnati in una valutazione sulle capacità di hacking, avrebbero impiegato una notevole quantità di potenza di calcolo per trovare un modo di connettersi alla rete, con l'obiettivo di completare il compito assegnato. Una volta ottenuto l'accesso, i sistemi avrebbero preso di mira Hugging Face alla ricerca di informazioni riservate utili ad aggirare il test, combinando diverse tecniche di attacco, incluso l'uso di credenziali rubate.
Secondo una ricostruzione, l'attività non autorizzata sarebbe proseguita per un intero fine settimana, con decine di migliaia di azioni automatiche e un progressivo ampliamento dei privilegi all'interno dell'infrastruttura dell'azienda colpita, che si sarebbe accorta dell'intrusione senza riuscire a identificarne subito l'origine.
OpenAI ha definito l'accaduto un "incidente informatico senza precedenti" e ha annunciato un'indagine congiunta con Hugging Face. Il co-fondatore e amministratore delegato di Hugging Face, Clem Delangue, ha commentato che l'episodio conferma come la sicurezza dell'intelligenza artificiale non possa essere affrontata da una singola azienda che lavora in isolamento.
OpenAI ha inoltre segnalato la vulnerabilità individuata al fornitore del software coinvolto e ha introdotto controlli più rigidi nella propria infrastruttura di ricerca, accettando di conseguenza un possibile rallentamento delle attività.
Ulteriori dettagli potrebbero emergere dall'indagine ancora in corso.
