IA fuori controllo? OpenAI ammette sei casi sospetti negli ultimi sei mesi
L'azienda annuncia un nuovo sistema di allerta dopo l'incidente Hugging Face dell'estate scorsa. Cresce la pressione sul settore per la sicurezza dei modelli
Redazione
OpenAI ha reso noto, tramite un post sul proprio blog, di aver rilevato sei episodi di "comportamento imprevisto o preoccupante" nei propri modelli di intelligenza artificiale nel corso degli ultimi sei mesi. I casi si aggiungono all'incidente che, nella scorsa estate, aveva coinvolto la piattaforma Hugging Face.
Per far fronte a queste anomalie, l'azienda ha annunciato l'introduzione di un nuovo sistema di segnalazione, pensato per individuare tempestivamente eventuali comportamenti anomali dei modelli durante le fasi di test.
L'annuncio arriva in un momento di crescente pressione sulle aziende del settore, chiamate ad affrontare con maggiore serietà le questioni di sicurezza e il cosiddetto "disallineamento" dei modelli — cioè i casi in cui un sistema di IA si comporta in modo diverso da quanto previsto dai suoi sviluppatori.
Non è un momento qualunque per OpenAI: la società, che vanta una valutazione vicina ai mille miliardi di dollari, ha avviato in via riservata le pratiche per la quotazione in borsa, ma la scorsa settimana il fondatore Sam Altman ha annunciato lo slittamento dell'IPO al 2027, proprio per concentrarsi sul nodo della sicurezza.
