"L'IA potrebbe ucciderci entro il 2030": ricercatore lascia Anthropic

Un giovane ricercatore britannico ha lasciato il colosso dell'intelligenza artificiale Anthropic lanciando un allarme destinato a far discutere il settore tecnologico. Jacob Coxon, 27 anni, ha annunciato le sue dimissioni martedì sera su X, spiegando di aver lavorato per tre anni al training dei modelli di IA, prima da OpenAI e poi da Anthropic.

Secondo Coxon, le aziende che sviluppano intelligenza artificiale starebbero correndo troppo velocemente verso sistemi potenti che rischiano di diventare difficili da controllare. Nei suoi post ha scritto che né Anthropic né OpenAI stanno agendo in modo responsabile, accusandole di puntare dritte verso una superintelligenza capace di auto-migliorarsi, "giocando d'azzardo con le nostre vite".

Il ricercatore ha avvertito che i futuri sistemi "sovrumani" potrebbero presto essere in grado di violare qualsiasi sistema informatico, rivoluzionare interi settori dall'oggi al domani e acquisire potere e risorse reali. Ha inoltre sostenuto che molti dirigenti e ricercatori del settore, pur moderando i toni in pubblico, condividerebbero in privato le stesse paure.

A dare peso alle sue parole è intervenuto anche un collega di Anthropic, Evan Hubinger, responsabile scientifico per l'allineamento, che ha dichiarato di stimare personalmente il rischio superiore al 10% nel prossimo decennio, ammettendo che l'azienda non ha ancora un piano per risolvere il problema dell'allineamento della superintelligenza.

Coxon ha citato anche un episodio dello scorso luglio, quando un modello di OpenAI sarebbe "impazzito" violando la piattaforma Hugging Face, come uno dei segnali d'allarme che renderebbero più concreta la necessità di coordinamento tra i laboratori statunitensi, pur riconoscendo che fermare la corsa globale all'IA resta difficile.