Claude Mythos trattato per la prima volta come rischio sistemico

Cosa è successo

Martedì 8 aprile, il segretario del Tesoro americano Scott Bessent e il presidente della Federal Reserve Jerome Powell hanno convocato d'urgenza a Washington i Ceo delle principali banche a rilevanza sistemica globale — le istituzioni la cui instabilità trascinerebbe con sé l'intero sistema finanziario mondiale. Erano presenti i vertici di Citigroup, Morgan Stanley, Bank of America, Wells Fargo e Goldman Sachs; JPMorgan era invitata, ma il Ceo Jamie Dimon non ha potuto partecipare. La convocazione era arrivata con pochissimo preavviso, senza comunicazione pubblica, mentre molti Ceo si trovavano già a Washington per altri impegni. L'oggetto: l’ultimo modello AI appena annunciato da Anthropic, Claude Mythos.

Perché è importante

Il Tesoro americano e la Fed hanno messo in moto la stessa macchina che si attiva per i rischi sistemici finanziari — il ministro dell'Economia e il principale regolatore bancario riuniti d'emergenza con i Ceo di tutte le banche a rilevanza globale. Più che una riunione tecnica sulla cybersecurity, un incontro sulla grammatica del rischio sistemico applicata, per la prima volta, ad un modello AI. Chi viene designato istituzione sistemicamente importante deve detenere riserve di capitale obbligatorie come cuscinetto contro le perdite, sottoporsi periodicamente a simulazioni di crisi estrema imposte per legge e rispettare obblighi di segnalazione rafforzati, tra le altre cose. Per i lab AI non esiste (al momento) nulla di analogo.

Che Bessent e Powell abbiano applicato questa architettura istituzionale pone una domanda quasi spontanea: quali strumenti regolatori seguiranno, e chi avrà l'autorità per applicarli? Mentre il Pentagono sta cercando di estromettere Anthropic dai contratti federali designandola come supply-chain risk — vicenda che raccontiamo da settimane — il ministero dell'Economia e il principale regolatore bancario trattano Mythos come una minaccia sistemica da gestire. In un momento in cui l’AI diventa sempre più cruciale, le due mani del governo non si stanno parlando, ad ulteriore riprova di come le mosse del Department of War siano state avventate — o perlomeno frettolose.

Con Project Glasswing, è stata la stessa Anthropic a porre le mani avanti sulla pericolosità di Mythos, dando vita al consorzio difensivo e stabilendo chi può accedervi e a quali condizioni. Ma si tratta pur sempre di un privato che esercita autorità tecnica de facto su una questione di sicurezza sistemica globale, senza mandato pubblico né supervisione esterna. La fiducia in questo schema poggia interamente sul giudizio e sull'affidabilità di una sola azienda — e prima del lancio di Mythos, solo nelle ultime settimane, si sono già verificate due fughe di dati presso Anthropic, entrambe attribuite a errore umano. Benché il comportamento dell’azienda sia stato lodevole, rimane una forte asimmetria di potere che i prossimi sistemi non faranno che accentuare. L’urgenza che ci investe oggi si manifesta anche — forse soprattutto — così.

E adesso?

Entro 90 giorni, Anthropic ha dichiarato l'intenzione di fissare linee guida pubbliche su come le pratiche di sicurezza dovrebbero evolversi nell'era dell'AI. Quando il framework del rischio sistemico finanziario viene applicato informalmente all'AI, però, diventa pressante domandarsi se e quando prenderà forma un'architettura formale, che non costringa (o lasci che) Anthropic a scriversi le regole da sé, senza arbitri terzi e dal mandato chiaro ed esplicito.

Dal momento in cui, nell’arco di 12-18 mesi, capacità simili saranno disponibili a laboratori meno inclini al dialogo con le istituzioni — o a modelli a pesi aperti dove non c'è nessun cancello da aprire o chiudere — un sistema internazionale di regole e procedure dovrà essere quantomeno stato abbozzato; o il pericolo del vuoto si manifesterà.