Anthropic propone tre leve alternative al divieto sui modelli aperti

Cos’è successo

Dario Amodei ha pubblicato lunedì la posizione di Anthropic sui modelli 'open weight', dopo giorni di accuse: il labo era infatti l'unico dei tre grandi produttori di modelli chiusi a non aver firmato la lettera dei venticinque contro le restrizioni, e il consigliere della Casa Bianca David Sacks gli ha rimproverato di difendere il proprio mercato dietro lo schermo della sicurezza. Il testo nega che Anthropic abbia mai chiesto un divieto, e definisce anzi "un bene pubblico" i modelli aperti senza capacità pericolose. Propone poi tre leve alternative: negare ai governi autoritari i chip avanzati e i macchinari per produrli, colpire la distillazione industriale e imporre test di sicurezza prima del rilascio a ogni modello abbastanza potente, aperto o chiuso.

Nelle stesse ore Moonshot AI ha pubblicato i pesi di Kimi K3, il modello che a metà luglio aveva scosso la Silicon Valley arrivando subito dietro la frontiera americana a un costo molto inferiore. La licenza obbliga però chi ne rivende l'accesso a firmare un accordo separato con Moonshot oltre i $20 milioni di ricavi annui: una soglia così bassa da catturare in pratica quasi ogni fornitore di inferenza, da Amazon in giù.

Perché conta

Amodei porta la contesa sui colli di bottiglia effettivi — quindi chi vende i chip, chi può addestrare copiando, chi autorizza un rilascio. La forma della distribuzione ne è una conseguenza.

• Il rischio che lo preoccupa di più è che un regime autoritario costruisca modelli più potenti di quelli americani e li usi per il dominio militare o la repressione interna; e rispetto a quello, scrive, è irrilevante che i pesi siano pubblici o meno, perché il modello più pericoloso (sottinteso cinese) sarebbe semmai addestrato in segreto e consegnato all'esercito e ai servizi di sicurezza. Concede pure il punto scomodo, cioè che un divieto proteggerebbe Anthropic dalla concorrenza; ma risponde, chiaramente, che non è quello il suo obiettivo;
• Moonshot conferma la stessa cosa suo malgrado. Un modello da 1,56 terabyte non può girare su un computer qualsiasi, anche se liberamente scaricabile: nella pratica servono otto o più server con otto GPU ciascuno, e il New York Times osserva che la maggior parte degli utenti continuerà perciò a comprarne l'accesso via API, da Moonshot o da chi con il lab ha un accordo. Se i pesi sono liberi, dunque, la possibilità di usarli e manipolarli resta appesa alle GPU che Washington tiene sotto controllo all'export;
• Finché il modello era un file relativamente da scaricare e far girare, era discutibile che gli Stati Uniti potessero vietarlo: Peter Harrell, ex funzionario dell'amministrazione Biden esperto di controlli all'export, sostiene che un download può valere come trasferimento di informazione più che come servizio. Con un regolare contratto di mezzo, la faccenda ovviamente cambia, perché lì c’è una transazione e sia le sanzioni sia l’inserimento eventuale nella famosa Entity List possono andarla a colpire. Vendendo l'accesso ai propri pesi, Moonshot si è praticamente consegnata alla giurisdizione americana.

Adesso

• La terza leva è la più fragile, e la si deciderà adesso. Il 1° agosto scade il termine dell'ordine esecutivo di giugno per definire il quadro dei test, che resteranno volontari solo su carta. Secondo Politico, OpenAI, Anthropic e Google avrebbero presentato un unico documento congiunto di correzioni alla bozza, e una delle proposte in campo limiterebbe la revisione ai sistemi più performanti in assoluto, lasciando fuori i modelli di punta di qualche azienda. I tre litigano in pubblico sull'apertura, poi però negoziano insieme dove passa l'asticella;
• Pechino, dal canto suo, si muove su due binari che si contraddicono. L'apertura le serve a diffondere i propri modelli fuori dal perimetro americano, ed è la carta che Xi Jinping ha giocato al vertice di Shanghai presentandosi come un partner più equo; ma da quando Meta ha tentato di comprare la cinese Manus, operazione che il governo ha fatto annullare ad aprile, valuta se i modelli nazionali vadano trattati come esportazioni da autorizzare. Samm Sacks, della Johns Hopkins, riassume così il dilemma: la Cina vuole i suoi campioni nazionali, ma senza uccidere la gallina dalle uova d'oro — una posizione progressivamente sempre più complessa da gestire;
• A giugno il Dipartimento del Commercio americano ha imposto una licenza per l'uso dei modelli di punta di Anthropic da parte di stranieri, e l'azienda, non potendo verificare le nazionalità in tempo reale, li ha dovuti ritirare per tutti per due settimane. Come ha scritto sul Wall Street Journal Raffi Krikorian, i clienti hanno scoperto in quel momento di aver comprato un permesso revocabile: le restrizioni sono state poi revocate e i modelli tornati, ma in assenza di regole chiare, l’AI è ancora alla mercé del vento — dell’Amministrazione Trump.