La task force di Trump sull’AI più avanzata ha 120 giorni per proporre le regole sui suoi modelli

Cos’è successo

La Super Intelligence Force — la task force creata a inizio ottobre da Donald Trump per coordinare la politica federale sull'AI, che il presidente ha imposto di chiamare "superintelligenza" — ha adottato giovedì il suo statuto. Da qui partono i 120 giorni che ha a disposizione per dire come il governo americano debba gestire lo sviluppo dei modelli più avanzati, e nella prima riunione ufficiale ha commissionato al consiglio dei consulenti scientifici del presidente (PCAST) un rapporto sui rischi in tre aree: cybersicurezza e infrastrutture critiche, biosicurezza e usi duali, controllo dei modelli (cioè la capacità di tenerli sotto controllo) e responsabilità. Secondo il Wall Street Journal, lo statuto le chiede di rispondere alle minacce della superintelligenza "evitando la sovraregolazione e la cattura regolatoria che soffocherebbero innovazione e concorrenza", dove per cattura si intende il rischio che le regole finiscano per servire le aziende che dovrebbero vincolare.

La presiede il direttore dell'intelligence nazionale americana Jay Clayton, che con il responsabile della cybersicurezza della Casa Bianca Sean Cairncross seguirà l'attuazione dell'accordo volontario sulla superintelligenza firmato a fine settembre da Google, Anthropic, Meta, OpenAI, SpaceXAI e Nvidia. Il sottosegretario del Pentagono per ricerca e ingegneria Emil Michael guiderà il lavoro sui protocolli con cui i lab segnaleranno al governo intrusioni, attacchi e altri problemi informatici, mentre Andrew Ferguson — presidente della FTC, l'autorità americana per la concorrenza e i consumatori — coordinerà con il Dipartimento di Giustizia l'applicazione delle leggi e la tutela dei consumatori. Fra i membri ci sono anche il capo del Pentagono Pete Hegseth e il direttore della NSA. Come verranno fatte rispettare le decisioni non è chiaro, ma un funzionario della Casa Bianca ha indicato alla testata americana Semafor un possibile strumento: i controlli all'export, che il Dipartimento del Commercio aveva già imposto ad Anthropic a giugno per ragioni di sicurezza nazionale (si era parlato anche di una vulnerabilità ai jailbreak, le tecniche che aggirano le protezioni di un modello, contestata dall'azienda) e, secondo Semafor, dopo un suo rifiuto di concedere al governo un accesso illimitato ai modelli. L'ordine aveva vietato Fable 5 e Mythos 5, i due modelli più avanzati di Anthropic, agli utenti stranieri, e l'azienda — non potendo escluderli — li aveva dovuti spegnere globalmente per 18 giorni.

Perché conta

Lo statuto conferma che Washington, almeno per ora, non vuole obblighi scritti per i lab. Gli impegni restano volontari, e per farli rispettare la Casa Bianca guarda a uno strumento di sicurezza nazionale che il governo ha già usato una volta, a giugno, a propria discrezione.

• In Europa i fornitori dei modelli più potenti sono obbligati per legge a riferire gli incidenti gravi all'AI Office, l'ufficio della Commissione che vigila sui modelli general-purpose. Il 13 ottobre oltre 400 scienziati di 34 Paesi — fra cui Geoffrey Hinton e Yoshua Bengio, due dei cosiddetti “padri” del deep learning — hanno chiesto di andare oltre, con un organismo internazionale che fissi standard di contenimento (le misure che impediscono a un modello di uscire dall'ambiente in cui gira) e tenga un registro degli incidenti, da rendere pubblico col tempo, perché a loro dire gli impegni volontari non bastano. A Washington i protocolli li prepara un gruppo guidato dal Pentagono, dentro un sistema di impegni volontari, e il precedente non incoraggia: il framework per valutare i modelli con capacità cyber avanzate, che la Casa Bianca diceva di aver completato ad agosto, non era stato pubblicato. Il rischio, così, è che le segnalazioni restino dentro gli stessi apparati di sicurezza che le ricevono;
• Un modello con capacità cyber offensive è a tutti gli effetti una tecnologia a duplice uso (dual use), e tenerne pesi e capacità lontani dai Paesi avversari è anche uno degli scopi degli impegni sulla sicurezza — usare i controlli all'export per farli rispettare ha, quindi, una sua logica. Mancano però criteri pubblici che dicano quando scatterebbero a questo scopo, e il loro effetto non si fermerebbe agli avversari; a giugno l'ordine, pensato per gli utenti stranieri, ha finito per spegnere due modelli per tutti, alleati compresi. Se la Casa Bianca vuole usare questa leva, le condizioni devono essere scritte e note in anticipo, anche ai Paesi alleati che ne subirebbero gli effetti;
• La clausola contro la cattura regolatoria ricalca una tesi di Ferguson, secondo cui i lab userebbero i timori sulla sicurezza per costruirsi barriere normative contro i concorrenti (il cosiddetto moat). L'argomento ha una sua forza, perché obblighi costosi sui rischi catastrofici li sostengono meglio i grandi, e fra i sostenitori più convinti di regole vincolanti c'è un lab di frontiera come Anthropic. L'accordo che la task force deve attuare l'ha però abbozzato l'industria stessa: secondo Semafor è nato da un'idea del CEO di Meta Mark Zuckerberg, che ne ha fatto circolare la bozza, con il CEO di Nvidia Jensen Huang a raccogliere le adesioni. La clausola deve quindi valere in entrambe le direzioni, anche per le regole che le aziende scrivono da sé.

Adesso

• Entro metà febbraio la task force dovrà presentare le sue raccomandazioni, e il rapporto del PCAST sul controllo dei modelli toccherà uno dei temi più vicini agli incidenti di quest'estate, come l'attacco degli agenti di OpenAI a Hugging Face, la piattaforma che ospita modelli e dati per l'AI. La task force ha promesso di coinvolgere anche le associazioni dei consumatori e i difensori delle libertà civili, oltre ai lab, e da come lo farà dipenderà quanto i protocolli sugli incidenti resteranno solo una faccenda fra governo e aziende;
• Obblighi federali stabili richiedono una legge, e dopo le elezioni di metà mandato del 3 novembre al Congresso riprenderà la battaglia su quella che dovrebbe prevalere sulle norme dei singoli Stati. Fra le proposte c'è quella del deputato repubblicano Jay Obernolte e della democratica Lori Trahan, che obbligherebbe i grandi sviluppatori a pubblicare i propri piani sui rischi catastrofici ma limiterebbe alcune regole statali su trasparenza, audit e proprio la segnalazione degli incidenti; la trasparenza guadagnata a livello federale costerebbe così una parte di quella già prevista dagli Stati;
• A settembre Washington aveva chiesto ai lab di non dare in anteprima i nuovi modelli all'AI Security Institute britannico (l'ente pubblico che li testa prima del rilascio), e ha fatto marcia indietro solo dopo le pressioni di Londra, come ha riportato lunedì il Telegraph. L'Unione Europea, che con l'AI Office ha appena chiesto informazioni a OpenAI e Anthropic dopo gli incidenti dell'estate, potrebbe trovarsi in una posizione simile se un controllo all'export americano limitasse l'accesso a modelli di cui la legge europea le permette di chiedere conto.