Anthropic sfida il Pentagono sulle armi autonome. Ma ha appena smantellato il suo impegno sulla safety

Cosa è successo?

Martedì, il CEO di Anthropic Dario Amodei si è presentato al Pentagono per un faccia a faccia con il segretario alla Difesa Pete Hegseth. La riunione — a cui per la parte governativa hanno partecipato anche il vicesegretario Steve Feinberg, il sottosegretario alla ricerca Emil Michael e il consigliere legale Earl Matthews — si è conclusa con un ultimatum: entro venerdì Anthropic dovrà accettare la clausola "any lawful use" che il Pentagono vuole inserire in tutti i contratti AI, oppure affrontare le conseguenze. Le opzioni sul tavolo sono tre, tutte senza precedenti per un'azienda americana: cancellazione del contratto da 200 milioni, designazione come "supply chain risk" (una misura normalmente riservata ad aziende legate ad avversari stranieri, che costringerebbe ogni contractor — da AWS a Palantir ad Anduril — a certificare la rimozione di Claude dai propri sistemi), oppure l'invocazione del Defense Production Act per forzare la compliance. Anthropic non ha ceduto. Le sue red line sono due e specifiche: no all'uso di Claude in sistemi d'arma autonomi senza supervisione umana, no alla sorveglianza di massa dei cittadini. Nello stesso giorno, un'esclusiva di TIME ha rivelato che Anthropic sta riscrivendo da zero la propria Responsible Scaling Policy, eliminando l'impegno centrale del framework: la promessa, fatta nel 2023, di non addestrare modelli nuovi in assenza di garanzie preventive sull'adeguatezza delle misure di sicurezza.

Perché è importante?

Lo scontro con il Pentagono è reale e la posta in gioco è esistenziale. Claude è l'unico modello di frontiera operativo su reti classificate, attivo attraverso la piattaforma di Palantir e il cloud Top Secret di Amazon. Nessun altro — né GPT, né Grok, né Gemini — ha oggi la classificazione Impact Level 6 necessaria per sostituirlo. xAI ha appena firmato un accordo per portare Grok negli ambienti classificati, ma le tempistiche per raggiungere la parità operativa restano incerte; secondo una fonte citata da Axios, Claude è in vantaggio su diverse applicazioni rilevanti, incluse le cyber capability offensive. Il Pentagono, in altre parole, ha bisogno di Anthropic più di quanto voglia ammettere. Dean Ball, ex consigliere AI dell'amministrazione Trump, ha definito le minacce di Hegseth "incoerenti": un'amministrazione che si è presentata come radicalmente anti-regolazione sull'AI sta contemplando quella che sarebbe, di fatto, la forma più aggressiva di regolazione mai tentata da un governo, ossia costringere un'azienda privata a rimuovere i propri safeguard. L'analista legale Charlie Bullock ha aggiunto che l'uso del DPA in questo contesto non ha precedenti e poggia su basi giuridiche tutt'altro che solide.

E adesso?

La fermezza di Anthropic sul Pentagono va letta però insieme all'altra notizia dello stesso giorno, che racconta una storia diversa. La riscrittura della RSP elimina l'unico vincolo che l'azienda si era imposta unilateralmente: quello di non procedere con l'addestramento se le misure di sicurezza non fossero adeguate. Il chief science officer Jared Kaplan ha motivato la decisione con la pressione competitiva, argomentando che fermarsi mentre i concorrenti avanzano renderebbe il mondo meno sicuro, non più.

Chris Painter di METR, l'organizzazione non-profit che valuta i rischi dei modelli AI, ha offerto una lettura meno conciliante, osservando che Anthropic sembra ritenere di doversi muovere verso una modalità di triage nelle proprie politiche di sicurezza, perché i metodi per valutare e mitigare i rischi non stanno tenendo il passo con le capability.

• La tensione è evidente. Da un lato, Anthropic tiene duro su due principi morali specifici — niente armi che uccidono senza supervisione, niente sorveglianza di massa — anche a costo di perdere un contratto da 200 milioni e rischiare una designazione che potrebbe comprometterne il business complessivo. Dall'altro, abbandona la propria promessa fondativa di non costruire modelli potenzialmente pericolosi senza garanzie di sicurezza, perché la corsa competitiva rende quel vincolo insostenibile.
• La trappola di Moloch è la medesima: se non lo faccio io lo fa qualcun altro — ma Anthropic la accetta per il training e la rifiuta per l'impiego militare. Questa gerarchia è difendibile nel breve termine, quando la distinzione tra "costruire" e "usare" tiene ancora. Diventa molto più fragile man mano che i modelli diventano più capaci: se il rischio catastrofico non è nel deployment ma nel modello stesso, allora il luogo da cui la minaccia emerge — un contratto DoD, un lab cinese, o un sistema che sviluppa obiettivi propri — conta meno del fatto che quel modello esista.

Lo scenario peggiore per Anthropic non è perdere il Pentagono come cliente. È che la stessa logica competitiva che ha giustificato lo smantellamento della RSP finisca per erodere anche le red line che oggi difende. OpenAI, xAI e Google hanno già accettato la clausola "any lawful use". Se il mercato e il governo si allineano contro le restrizioni, la fermezza rischia di diventare un lusso che un'azienda da 380 miliardi di valutazione, dipendente dal prossimo round di finanziamento, non potrà permettersi a lungo.