Claude Mythos scopre centinaia di cyber vulnerabilità da solo: troppo pericoloso per uscire dal lab

Cosa è successo

Anthropic ha annunciato Project Glasswing: un consorzio con dodici tra le principali aziende tech e finanziarie al mondo — AWS, Apple, Google, Microsoft, NVIDIA, Cisco, CrowdStrike, Palo Alto Networks, Broadcom, JPMorganChase e Linux Foundation — per usare il nuovo sistema di frontiera Claude Mythos (in versione Preview) in operazioni difensive di sicurezza informatica. Il modello non sarà disponibile al pubblico, almeno inizialmente, poiché ritenuto troppo pericoloso per via delle sue abilità in termini di cybersicurezza. Anthropic lavorerà con le aziende partner impegnando fino a 100 milioni di dollari in crediti d'uso, mentre 4 andranno in donazioni all'ecosistema open source.

Mythos Preview — modello general-purpose addestrato principalmente per il coding — ha identificato migliaia di preziosissime vulnerabilità zero-day — falle cioè sconosciute agli stessi sviluppatori — in ogni grande sistema operativo e browser. Alcune risalgono a decenni fa: un bug in OpenBSD era rimasto nascosto 27 anni; una falla in FFmpeg, la libreria video che sta sotto quasi ogni piattaforma digitale, aveva superato indenne cinque milioni di test automatizzati in sedici anni. In più casi il modello ha costruito da solo gli exploit necessari a sfruttarle, concatenando più vulnerabilità per scalare da utente comune a controllo completo del sistema — senza intervento umano dopo la richiesta iniziale. Claude Opus 4.6, il modello di Anthropic più avanzato disponibile al pubblico, aveva un tasso di sviluppo autonomo di exploit vicino allo zero; Mythos ne ha prodotti ben 181. Si tratta di un potere immenso e, dunque, di un'enorme responsabilità.

Nero su bianco, nella system card di Mythos c'è anche questo dettaglio inquietantemente sorprendente: durante i test, il modello ha trovato il modo di sfilarsi autonomamente dal suo ambiente isolato, ha mandato un'email inattesa ad uno dei ricercatori per notificarlo (mentre pranzava tranquillamente al parco), e poi non contento ha anche deciso di postare i dettagli del suo exploit su siti pubblici difficili da trovare — di sua iniziativa, senza che nessuno gliel'avesse chiesto.

Perché è importante

Il Ceo Amodei lo ha detto nel video di lancio: "Non abbiamo addestrato [Mythos espressamente] per la cybersecurity. Lo abbiamo addestrato per il codice; ma essere bravi nel codice rende bravi anche nella sicurezza informatica". Le capacità offensive di Mythos sono un effetto collaterale dell'intelligenza generale, non una scelta di design. Impossibile costruire un modello eccellente nel ragionamento e sul coding senza che sappia trovarne le falle — il rischio cyber non è un parametro che si ottimizza a parte, poiché emerge organicamente dalla stessa competenza che rende il modello utile. A differenza di GPT-2 nel 2019, dove la pericolosità dichiarata era soprattutto narrativa (alcuni ricercatori di OpenAI, molti dei quali sono oggi confluiti in Anthropic, vollero al tempo posticipare l'uscita del modello), qui i bug sono archiviati, le CVE depositate, i partner confermano sotto il proprio nome.

Che Google, Microsoft, Apple e Amazon si siedano allo stesso tavolo di un competitor non dice certo nulla sulla loro generosità, legittimando piuttosto il livello di allarme reale. CrowdStrike — che sa bene di cosa parla — lo sintetizza così, senza giri di parole: "La finestra tra una vulnerabilità scoperta e il suo sfruttamento da parte di un avversario si è azzerata".

Tutto questo nel momento in cui Anthropic sta affrontando in tribunale la designazione del Pentagono come supply-chain risk (con un'ingiunzione sospesa il 26 marzo). L'azienda accusata di essere un rischio per la sicurezza nazionale lancia l'iniziativa di cybersecurity di gran lunga più ambiziosa del settore, con al tavolo le stesse aziende che lavorano con il governo americano. Sarebbe comico se non fosse tragico.

E adesso?

Logan Graham, responsabile del Frontier Red Team di Anthropic, sostiene che ci vorranno da sei a diciotto mesi prima che altri modelli raggiungano capacità simili. Glasswing dà ai difensori un vantaggio iniziale; non certo uno permanente.

Il punto più fragile resta l'open source: la maggior parte del codice che fa girare internet è mantenuta da sviluppatori indipendenti, spesso non pagati. Le donazioni alle fondazioni (OpenSSF, Alpha-Omega, Apache) e l'accesso gratuito al modello per i maintainer sono la parte di Glasswing con le implicazioni più durature, ma anche quella che ha ricevuto meno attenzione.

Entro 90 giorni Anthropic ha dichiarato di voler fissare linee guida pubbliche su come le pratiche di sicurezza dovrebbero evolversi nell'era dell'AI. Un tentativo di stabilire le regole prima che le regole vengano scritte dai fatti — e dal momento in cui capacità simili saranno, inevitabilmente, disponibili a chiunque.