Anthropic propone che i modelli AI più potenti vengano bloccati da un ente pubblico prima del lancio, una regola che vale anche per sé stessa

Cos’è successo

Dario Amodei ha pubblicato un nuovo essay, “Policy on the AI Exponential”, insieme a due framework di Anthropic, uno sulla sicurezza dei modelli avanzati e uno sugli effetti economici dell'AI. L'Advanced AI Framework propone test obbligatori, valutazioni indipendenti e poteri pubblici per bloccare o revocare il deployment di modelli sopra 10²⁵ FLOP (una metrica della potenza di calcolo utilizzata per l’addestramento), sviluppati da aziende con oltre 500 milioni di ricavi AI o più di 1 miliardo di spesa annua in R&D.

Sarebbero coinvolti i pochi lab di frontiera, su rischi bio e cyber, perdita di controllo e AI R&D automatizzata. L'Economic Policy Framework aggiunge un impegno economico dell’azienda fino a 350 milioni, tra Economic Futures Research Fund e fellowship nazionale, per studiare assicurazione salariale, strumenti di partecipazione al capitale e un welfare più robusto. Rispetto all'ordine esecutivo di Trump del 2 giugno, rimasto su review volontaria e senza licenze obbligatorie, è un salto di categoria.

Perché conta

Il saggio esce mentre Anthropic sta già pagando il costo operativo della propria tesi. Claude Mythos è trattato come un sistema da tenere sotto l’egida della sicurezza nazionale, con Project Glasswing che restringe l'accesso alle capacità più sensibili; su Fable, appena reso pubblico, la trattenuta dei dati a 30 giorni che serve a monitorare possibili abusi (richieste malintenzionate in campo cyber o bio) diventa per un vendor enterprise un attrito commerciale esplicito, dacché molti clienti, verosimilmente, rinunceranno al modello più capace (e quindi a dare soldi ad Anthropic) piuttosto che lasciare dati al provider.

• La critica da regulatory capture, immediatamente esplosa nel commentario, inciampa proprio su quel costo. Soglie così alte possono rafforzare chi è già dentro la frontiera, ma un veto esterno sui deployment rischia di mordere proprio Anthropic mentre sembra avanti sulle capacità cyber e sull'uso dell'AI per accelerare la ricerca AI. Se la safety fosse solo teatro, Glasswing sarebbe un modo inutilmente, assurdamente costoso di metterla in scena;
• Nelle proposte di policy, Amodei propone infatti di espandere Glasswing a struttura globale, con istituzioni terze certificate abilitate ad esercitare controlli dirimenti a monte: se un modello non passa i test, non può essere reso pubblico. Da sbloccare, invece, sarebbero gli utilizzi dei sistemi una volta passati quei testi, con l’esempio del farmaceutico come settore da accelerare anche allentando le stringenti morse della FDA;
• Il secondo framework si concentra invece sugli aspetti economici, rimettendo plasticamente nero su bianco la possibilità di AI perfettamente in grado di automatizzare quote crescenti del lavoro e aprire anche fratture sociali, per le quali risposte massicce e rapide sarebbero indispensabili. Tra quelle evidenziate, ritornano il già paventato reddito universale di base (UBI) e la possibilità per ogni cittadino di avere una quota nel capitale dei lab.

Adesso

• Dopo Mythos/Fable, Washington deve scegliere su oggetti molto meno astratti: lasciare ai lab l'ultima parola sui rilasci, come nell'EO Trump, oppure costruire un gate federale capace di fermare un modello prima che venga distribuito. L'Institute di Anthropic ha appena rimesso il recursive self-improvement tra i rischi del prossimo salto; il tempo per definire metriche pubbliche non è infinito;
• E Anthropic prende una posizione più stretta di molti altri player. Accetta uno standard nazionale solo se almeno forte quanto le leggi statali più avanzate, con una sostituzione chirurgica delle norme locali. In pratica chiede a Washington di centralizzare la safety senza usare il Congresso per congelare al ribasso proposte come quelle venute dalla California, da New York o dall’Illinois;
• La strettoia è quella indicata dallo stesso Amodei: la crescita esponenziale dell’AI può rendere rapidamente obsoleta anche una buona legge; un perimetro scritto solo dai lab trasformerebbe invece la safety in governance privata del mercato. Servono regole abbastanza rapide da non inseguire Mythos da lontano, e abbastanza pubbliche da non trasformare i produttori dei modelli nei custodi esclusivi del circuito.