Chi controlla l'AI controlla il futuro. Ma chi controlla chi controlla l'AI?

La storia è lunga e articolata, quindi proviamo a fare un po’ di ordine.

• Il 27 febbraio, dopo settimane di trattative sempre più tese, il Pentagono ha dichiarato Anthropic un "rischio per la catena di fornitura" (“supply chain risk”); una designazione riservata fino a quel momento ad aziende legate ad avversari stranieri, come Huawei. Il presidente Trump ha ordinato a tutte le agenzie federali di cessare l'uso delle tecnologie Anthropic entro sei mesi.
• Poche ore dopo, OpenAI ha annunciato un accordo con il Pentagono per sostituire Claude nelle reti classificate, dichiarando di aver ottenuto le stesse garanzie che chiedeva Anthropic; e di averne anzi aggiunte anche altre, con un approccio stratificato e tecnico oltre che legale.
• Sabato, poi, gli Stati Uniti hanno lanciato un attacco aereo sull'Iran utilizzando proprio Claude — lo strumento che avevano appena bandito.
• Lunedì, Sam Altman ha ammesso che l'accordo del venerdì — che includeva l’opzione per essere esteso analogamente ad altri AI lab, chiedendo anche espressamente la rimozione di Anthropic dalla lista nera — era stato comunque affrettato e apparso come "opportunistico e sciatto". OpenAI ha emendato il contratto aggiungendo un riferimento esplicito al Quarto Emendamento e all'esclusione delle agenzie di intelligence come l'NSA.

Il nodo della vicenda

Anthropic chiedeva una clausola contrattuale che vietasse esplicitamente due utilizzi specifici: la sorveglianza di massa domestica e le armi letali completamente autonome. Il Pentagono pretendeva che il contratto autorizzasse "tutti gli usi leciti" senza eccezioni, e interpretava qualunque riserva come un'ingerenza nelle proprie prerogative operative.

Perché è importante

In superficie questa sembra una disputa contrattuale tra un'azienda e un cliente governativo — il tipo di cose che normalmente si risolvono a porte chiuse, tra avvocati. La posta in gioco, però, è molto più alta.
Partiamo dalla questione più immediata. Anthropic e OpenAI dichiarano di avere le stesse "red line": no alla sorveglianza di massa sui cittadini, no alle armi autonome senza supervisione umana. Ma le stesse parole, dentro architetture contrattuali (e richieste di enforcement) diverse, producono risultati altamente divergenti.
Anthropic chiedeva eccezioni esplicite che andassero oltre la legge attuale — il tipo di clausole che rendono un contratto uno strumento di accountability indipendente dal potere esecutivo di turno. OpenAI ha invece ancorato le proprie garanzie alla legislazione vigente, accettando la formula "all lawful use" che Anthropic aveva esplicitamente rifiutato.
Il problema è che è proprio sotto quella legislazione vigente che l'intelligence americana ha condotto per decenni programmi di raccolta dati di massa. L'emendamento di lunedì cita il Quarto Emendamento, il FISA Act del 1978 e il National Security Act del 1947. Sono gli stessi riferimenti normativi sotto i quali operavano i programmi rivelati da Snowden nel 2013 — programmi che l'amministrazione Obama considerava perfettamente legali. Quando il contratto OpenAI vieta la sorveglianza "non vincolata" delle "informazioni private" dei cittadini americani, il linguaggio è sufficientemente ambiguo da non coprire ciò che oggi è la frontiera più concreta del rischio: non intercettazioni o email classificate, ma i dati commerciali. Geolocalizzazione, cronologia di navigazione, transazioni finanziarie: dati acquistabili legalmente da data broker, e analizzabili senza mandato.
Secondo le ricostruzioni più dettagliate, è stato esattamente questo il punto di rottura tra Anthropic e il Pentagono. Non la sorveglianza classificata, non le armi autonome. I bulk data commerciali. Anthropic ha rifiutato di consentire l'uso di Claude per analizzare le immense moli di dati acquisiti e acquistati in massa sui cittadini americani, cioè esattamente il tipo di task su cui i sistemi di AI odierni eccellono. È la capacità dell'AI di trasformare dati "pubblici" in sorveglianza effettiva, senza che nessuna legge venga tecnicamente violata, che rende questa questione così urgente.
Il sottosegretario alla Difesa, Emil Michael, ha confermato pubblicamente che la rottura è avvenuta quando ha tentato di discutere con Amodei l'analisi di database "pubblicamente disponibili”. Amodei non era reperibile perché in un meeting con il suo executive team. Le trattative si sono chiuse.

La seconda questione riguarda la sproporzione della reazione del Pentagono. La designazione supply chain risk non è mai stata applicata a un'azienda americana. Il governo aveva alternative ragionevoli e proporzionate: cancellare il contratto, emettere nuove linee guida per i futuri appalti AI, negoziare clausole più specifiche. Ognuna di queste opzioni avrebbe risolto il problema senza effetti collaterali. Hegseth e Michael (e Trump) hanno scelto invece l'opzione nucleare. E lo hanno fatto via tweet, senza le procedure previste dalla legge.
Diversi esperti di diritto federale ritengono che la designazione non sopravviverà al vaglio dei tribunali, dacché lo statuto richiede procedure interagenziali e tutele per l'azienda designata che non risultano essere state seguite.
Ma il danno è già fatto, e non è limitato ad Anthropic. Il segnale inviato a tutto il settore privato americano è chiaro e terrificante: non puoi dire no. Non puoi negoziare. Se rifiuti i termini del governo, verrai trattato come un avversario straniero.
Le implicazioni, ça va sans dire, rischiano di andare ben oltre un singolo contratto. In un'economia in cui l'AI è sempre più infrastruttura critica (e in cui gli Stati Uniti chiedono ai propri alleati di fidarsi ancor di più della tecnologia americana) minare l'autonomia delle proprie aziende tecnologiche è l'equivalente strategico di un gigantesco, ottuso autogol.

E adesso?

Sabato, poche ore dopo aver dichiarato Anthropic un rischio per la sicurezza nazionale, gli Stati Uniti hanno utilizzato Claude per bombardare l'Iran. Intelligence assessment, identificazione dei target, simulazione di scenari — tutto attraverso lo strumento appena bandito, troppo calcificato nelle operazioni militari per poterne fare a meno dall'oggi al domani (tragicomica l’assurdità del bandire l’utilizzo di un tool con effetto immediato e poi trovarsi in una situazione del genere).
La manifestazione plastica di come l'AI non sia più una tecnologia accessoria, ma infrastruttura critica, nel senso più concreto del termine. E la domanda che questa settimana ha posto, per la prima volta in modo così pubblico e violento, è destinata a riproporsi con frequenza crescente: chi stabilisce le regole d'uso di un'infrastruttura critica che è nelle mani di aziende private?

La posizione che l'AI debba essere sotto controllo democratico — non di questo o quel CEO — è ragionevole e, in ultima analisi, corretta. Ma "controllo democratico" non è sinonimo di "il governo fa ciò che vuole" — né, soprattutto, di obbligo di firma per terze parti private. In un sistema funzionante, il controllo democratico si esercita attraverso leggi approvate dal Congresso, interpretate dai tribunali, applicate dall'esecutivo. Non attraverso ultimatum via social media, designazioni punitive e ritorsioni economiche a cascata.
Il paradosso è che Anthropic, chiedendo vincoli contrattuali espliciti, stava di fatto chiedendo accountability: chiedeva che le regole fossero scritte in modo tale da essere verificabili da terzi, incluse le corti. Il Pentagono, chiedendo "tutti gli usi leciti" senza eccezioni, chiedeva carta bianca: la fiducia che il governo farà la cosa giusta ma senza che nessuno possa verificarlo. La storia della sorveglianza americana suggerisce che questa fiducia non è meritata. Che poi sia un'azienda privata e non il Congresso a porre questo problema è solo indice di quanto le istituzioni siano indietro rispetto alla tecnologia che dovrebbero governare.
Nel breve termine, verosimilmente, questa crisi si sgonfierà. I tribunali interverranno sulla designazione. Anthropic sopravviverà. OpenAI continuerà a emendare il proprio contratto sotto la pressione dell'opinione pubblica e dei propri dipendenti. Il Pentagono troverà un modus vivendi con i lab, perché ne ha bisogno. Ma il precedente è stato fissato, e le domande che ha posto non hanno risposta.
Ciò che questa settimana ha reso innegabile, qualora ce ne fosse mai stato ancora bisogno, è che l'AI è ormai troppo importante per essere governata da accordi bilaterali tra aziende private e bracci del governo. Serve una cornice legislativa, non le policy interne di un'azienda, non le direttive di un dipartimento, non i tweet di un segretario alla Difesa. Serve una legge. E serve prima che la prossima crisi, inevitabilmente, arrivi.