Dopo il caso dei 20 mila account falsi, gli Usa puntano a sanzionare i laboratori cinesi che li usano per clonare le capacità dei modelli AI americani

Cos’è successo

Washington vuole colpire i laboratori cinesi che interrogano in massa i modelli americani per usarne le risposte nell'addestramento dei propri. L’ormai celebre pratica di distillazione è normale quando autorizzata, poiché permette “semplicemente” a un sistema di AI più piccolo di imparare da uno più capace. OpenAI e Anthropic accusano però da tempo diversi concorrenti cinesi di averla praticata con reti di account falsi, e anche Google ha rilevato un aumento di richieste anomale sulle proprie piattaforme.

Con 43 voti a zero, la commissione Esteri della Camera dei rappresentanti americana ha approvato una proposta che affiderebbe al governo l'accertamento di questi "attacchi di estrazione". I responsabili finirebbero prima su una lista pubblica e il dipartimento del Commercio potrebbe poi limitarne l'accesso alla tecnologia americana (e il presidente bloccarne beni e transazioni negli Stati Uniti). Un memorandum del 5 giugno ha intanto dato 120 giorni ai dipartimenti della Difesa e dell'Energia, ai servizi di intelligence e alla National Security Agency (NSA) per costruire con i lab una risposta comune.

Perché conta

Gli export control sui chip provano a limitare il compute con cui la Cina addestra i propri modelli. Se però vengono incorporate in un modello di AI in America, le capacità possono (in parte) “viaggiare” anche attraverso le sue risposte, previa una raccolta sufficiente (tramite API) da trasformare poi in materiale di training. Senza un distinguo sui domini: la capacità di ricerca di vulnerabilità informatiche o le conoscenze biologiche, ad esempio, possono arrivare al modello “studente” senza incorporare le salvaguardie dell'originale.

• Definendo come "attacco" l'uso degli output per addestrare un altro modello quando vengono aggirati i controlli o infrante clausole che lo vietano espressamente, il disegno di legge è un tentativo di portare i contratti privati — quelli che OpenAI, Anthropic o Google DeepMind stipulano con chi usa i loro prodotti e servizi — dentro l'enforcement federale vero e proprio. I lab invierebbero dunque volontariamente i propri indicatori al Dipartimento del Commercio, che li userebbe poi nell'accertamento insieme alle altre agenzie. Lo Stato deciderebbe poi eventuali blacklist e sanzioni sulla base di un confine disegnato, all'origine, dai proprietari dei modelli;
• Secondo Anthropic, tre laboratori cinesi avrebbero generato oltre 16 milioni di scambi attraverso circa 24.000 account falsi, con una sola rete di intermediari a gestirne più di 20 mila. I numeri mostrano una macchina industriale, che avrebbe un impatto difficilmente trascurabile sulle capacità dei modelli cinesi. Prima di una sanzione, però, servirà provare la condotta, non dedurla dal successo del concorrente;
• Il modello GLM-5.2 di Zhipu, ad esempio, è scaricabile apertamente e raggiunge risultati comparabili ai modelli proprietari americani immediatamente dietro la frontiera in alcuni test. Con però prezzi sensibilmente più contenuti, come da prassi cinese: il rapporto tra prezzo e prestazioni sta infatti già spingendo la domanda per i sistemi cinesi a pesi aperti, e Tang Jie, fondatore del laboratorio, considera l'apertura uno strumento di diffusione globale. La proposta americana colpisce le estrazioni illecite dai modelli chiusi; una sanzione contro l'azienda coinvolta, tuttavia, ne limiterebbe l'accesso alla tecnologia Usa in generale, ricadendo sull'intero portafoglio. Un perimetro molto largo, che stroncherebbe in parte gli sforzi open source e regalerebbe ai lab americani anche una protezione commerciale piuttosto comoda.

Adesso

• Entro l'inizio di ottobre, le agenzie e le aziende dovranno concordare come trasformare gli schemi di traffico osservati sulle piattaforme in prove utilizzabili dal governo. Serviranno una soglia abbastanza alta da distinguere un attacco dalla semplice attività intensiva e una verifica indipendente dell'attribuzione del lab che dichiara di essere stato colpito;
• Il disegno di legge, nel frattempo, deve passare Camera e Senato, mentre OpenAI e Anthropic chiedono anche un'esenzione antitrust per scambiarsi più informazioni sulle minacce (senza rischiare di violare le regole sulla concorrenza). Incrociare ciò che accade su piattaforme diverse potrebbe ragionevolmente aiutare a riconoscere le reti distribuite offensive, ma rafforzerebbe il ruolo dei pochi laboratori chiamati a definire il problema e a fornire le prove, esacerbando una già effettiva cattura regolatoria;
• Pechino dal canto suo non sta ferma; sono infatti sempre più insistenti le voci che suggeriscono dai piani più alti del governo cinese limiti di esportazione all'estero dei modelli cinesi avanzati, in risposta anche a quanto avvenuto recentemente con Claude Fable e la famiglia GPT-5.6 proprio negli Usa. Le politiche dei due Paesi stanno restringendo, per ragioni diverse, l'accesso all'intelligenza di frontiera. La linea di Tang — condivisa anche da molti sulla sponda opposta del Pacifico — resiste dentro uno spazio politico sempre più stretto.