OpenAI propone il controllo obbligatorio del governo Usa sui modelli di frontiera AI sulla base di 3 leggi statali

Cos’è successo

OpenAI ha pubblicato un blueprint, una guida strategica, per un framework federale sui modelli AI di frontiera, ossia una norma nazionale negli Stati Uniti che regoli e gestisca la sicurezza dei modelli di intelligenza artificiale più potenti e avanzati del mondo. Secondo l’azienda, i sistemi più avanzati dovrebbero essere sottoposti a valutazioni obbligatorie prima del rilascio pubblico e affidate al Center for AI Standards and Innovation (Caisi), il centro del Nist (dipartimento del Commercio) che già lavora con i lab, invece che al canale più vicino all’intelligence previsto dall’ordine di Trump, cioè l’Nsa (la National security agency).

La pubblicazione arriva mentre Sam Altman - co-fondatore e Ceo di OpenAI - incontra Casa Bianca e Congresso, un giorno dopo l’ordine esecutivo che stabilisce 30 giorni di accesso volontario ai modelli. OpenAI sostiene che l’ordine “misura correttamente i pesi”, ma prova già a influenzare i dettagli che l’amministrazione dovrà fissare entro 60 giorni, dai benchmark al ruolo delle agenzie.

Perché conta

Se Trump ha dato alla prima valutazione federale una base politica, il blueprint di OpenAI vuole portarla fuori dalla zona grigia del controllo volontario e classificato. Nella proposta dell’azienda, sarebbe il Caisi a valutare modelli e raccomandare mitigazioni, ma senza potere di licenza o veto. Pur non trasformandosi in un freno governativo vero e proprio, dunque, avrebbe un oversight più forte di quello stabilito nell’ordine esecutivo.

• Operativamente, una volta superate certe soglie, i modelli più capaci passerebbero quindi dal Caisi prima del lancio. I lab resterebbero comunque responsabili del deployment finale, pubblicando gli esiti della valutazione e spiegando come hanno risposto. Se il Caisi non chiudesse il proprio lavoro entro la scadenza fissata dal framework, i lab potrebbero comunque rilasciare i modelli senza penalità;
• Spostare la valutazione al Caisi significa sottrarla al cono d’ombra dei benchmark classificati dell’executive order (Eo). Il centro può incorporare competenze nazionali su cyber e biosecurity — tra le preoccupazioni messe in maggiore evidenza — senza trasformare il processo in una procedura d’intelligence. Più controllo, insomma, ma dentro un’arena meno opaca;
• Sulle leggi statali, OpenAI fa un’operazione ancora più politica. Le norme locali California SB 53, New York Raise Act e Illinois SB 315, che l’azienda ha già dichiarato di supportare, fanno da base per uno standard federale; il framework, se trasformato in legge dal Congresso, sostituirebbe le norme locali sullo stesso perimetro, favorendo trasparenza ed efficienza e soprattutto impedendo agli stati di aggiungere arbitrariamente nuovi blocchi.

Adesso

• Nei 60 giorni di tempo descritti nell’ordine si dovrà definire il perimetro esatto della misura, ma l’amministrazione deve ancora definire soglie e framework. Altman porta dunque la proposta con orizzonte federale proprio a Washington, mentre il Congresso — con poco tempo per varare una legge complessa — è ancora in fase di discussione preliminare;
• Oltre il cyber, crucialmente, OpenAI evidenzia nel testo il recursive self-improvement, cioè il meccanismo per cui un’AI diventa capace di accelerare autonomamente il proprio sviluppo. Il blueprint chiede infatti controlli anche sui deployment interni e sulla sicurezza dei pesi dei modelli, oltre alla coordinazione internazionale (per disincentivare una cieca corsa agli armamenti) sul tema. Che è sempre più urgente dentro i lab — l’Rsi è segnalato come il principale vettore di rischio safety del prossimo decennio — ma che l’Ee sfiora appena;
• Chiedere controlli obbligatori consente a OpenAI di presentarsi come l’attore che prende sul serio la governance (utile anche in chiave Ipo,); e affidarli al Caisi, senza veto sui rilasci, lascerebbe ai lab spazio per muoversi in fretta dentro regole più prevedibili. Più oversight (federale), quindi, ma con una struttura che OpenAI intende scrivere prima che lo faccia qualcun altro — peggio.