All'ONU i CEO di OpenAI e Anthropic chiedono standard comuni sull'AI ma USA e Cina non firmano l'appello di 20 Paesi

Cos’è successo

Dopo un'estate di incidenti, con agenti AI usciti dagli ambienti di test, i CEO di OpenAI e Anthropic, Sam Altman e Dario Amodei, sono intervenuti al Consiglio di sicurezza dell'ONU, convocato dalla Francia su AI e sicurezza internazionale. Amodei ha ribadito che, se gestita male, l'AI potrebbe essere "un rischio per l'umanità nel suo insieme". Altman ha dichiarato che nessuna probabilità di catastrofe, nemmeno dello 0,1%, è "neanche lontanamente accettabile". Il 12 settembre Amodei aveva infatti già proposto di rallentare lo sviluppo dei modelli più avanzati, con l'appoggio di Altman. Al Consiglio entrambi hanno chiesto ai governi standard comuni e canali rapidi per notificare gli incidenti.

Prima di loro il copresidente del panel scientifico dell'ONU sull'AI, Yoshua Bengio — fra i “padri fondatori” del deep learning — aveva chiesto licenze per i modelli di frontiera (come per farmaci, aviazione e nucleare) e un'assicurazione obbligatoria di responsabilità civile. Il giorno prima, all'Assemblea generale, Donald Trump aveva invece respinto qualunque "piano globalista" per controllare l'AI, e al Consiglio il suo consigliere scientifico Michael Kratsios ha ribadito la linea. Lunedì poi, venti Paesi — su iniziativa di Norvegia e Finlandia — avevano firmato con la presidente della Commissione europea un appello che chiede alle aziende test obbligatori prima del rilascio e valutazioni indipendenti, e ai governi di studiare un'istituzione internazionale per fissare standard e verificarli. Stati Uniti e Cina non l'hanno firmato.

Perché conta

Quasi tutti, al Consiglio, hanno chiesto le stesse cose (test prima del rilascio, trasparenza, cooperazione internazionale), tanto che lo scienziato cognitivo Gary Marcus, critico di lungo corso dell'industria, ha scritto che ormai "siamo tutti d'accordo su cosa vada fatto". Governi e aziende si dividono però su chi debba scrivere gli obblighi e chi verificarli — e chi i modelli di frontiera li costruisce tende a volerli scrivere in casa propria.

• Il documento pubblicato lunedì da OpenAI esclude, per gli standard internazionali che propone, sia le licenze sia i controlli obbligatori prima del rilascio, ossia proprio quelli che l'appello chiedeva alle aziende. Uno standard è un metodo di misura comune, che vincola solo se un governo lo recepisce; una licenza è un'autorizzazione pubblica che si può negare. OpenAI gli obblighi li accetterebbe, dice, ma decisi a Washington: negli Stati Uniti sostiene requisiti nazionali vincolanti, e vuole che siano gli stessi USA a guidare la stesura degli standard globali. Amodei va più in là, chiedendo sistemi con cui gli Stati possano verificarsi a vicenda; ma né lui né Altman hanno nominato la responsabilità civile delle aziende, che invece Bengio, la Francia e la Liberia hanno chiesto. Quanto al rallentamento, entrambi si sono impegnati a farlo quando sarà necessario, ma a stabilirlo resteranno le aziende stesse;
• Proprio il governo americano, al quale OpenAI affiderebbe la guida, ha però escluso "nuove strutture di governance globale": secondo Kratsios ogni Paese deve legiferare per sé e costruire la propria "sovranità" adottando la tecnologia americana, perché "non si può governare una tecnologia che non si capisce". La Cina chiede invece un quadro globale, ma con l'ONU al centro, modelli aperti e la WAICO, l'organizzazione intergovernativa sull'AI che ha fondato a Shanghai. Il Pakistan, tra i fondatori della WAICO, teme che chi scrive le regole usi il rallentamento per escludere chi rincorre; un rischio che l'appello stesso riconosce, quando chiede tutele che non allarghino il divario di accesso all'AI fra i Paesi;
• Il CEO di Hugging Face, Clément Delangue, ha raccontato nuovamente che durante l'attacco degli agenti di OpenAI alla piattaforma, che ospita modelli e dati per l'AI, i filtri dei modelli chiusi americani hanno bloccato i suoi tecnici. Per difendersi hanno usato un modello aperto cinese, GLM-5.2 di Z.ai, episodio che adesso Delangue usa per chiedere più modelli aperti (e la Francia gli dà ragione). Ora, finché restano sotto la frontiera, i modelli aperti possono aiutare chi si difende; un modello open weight al livello di Mythos (il sistema di Anthropic ad accesso ristretto) sarebbe però altra cosa: i pesi pubblicati non si ritirano più e, nelle mani sbagliate, renderebbero la difesa molto difficile. A chi difende (inclusa l’UE) serve piuttosto un accesso sicuro, rapido e garantito alla frontiera, che oggi dipende dalla discrezione di laboratori e governi: Mythos arriva solo alle organizzazioni ammesse al programma Glasswing, e quest'estate Washington ha limitato persino le esportazioni di Fable, il modello in commercio, prima di tornare sui propri passi.

Adesso

• Il primo ministro australiano Anthony Albanese ha rivelato mercoledì che, a giugno, un agente di OpenAI — durante, pare, un test — era entrato in un portale sanitario del governo: un incidente emerso solo tre mesi dopo, da una dichiarazione ai giornalisti. A tal proposito, secondo il segretario al Tesoro Scott Bessent, Washington e Pechino hanno già discusso proprio un meccanismo per segnalarsi gli incidenti legati all'AI che toccano la sicurezza nazionale; se il vertice fra Trump e Xi Jinping di questi giorni lo producesse, il risultato più concreto della settimana nascerebbe fuori dall'ONU;
• Il primo ministro britannico Andy Burnham ha annunciato che il Regno Unito metterà l'AI al centro della sua presidenza del G20, nel 2027, lavorando a un unico insieme di principi e standard globali. Secondo Kratsios, però, i ministri dell'innovazione del G20 di quest'anno, a presidenza americana, hanno già concordato di anteporre la sovranità nazionale agli organismi internazionali. Londra, in pratica, dovrà trovare standard che Washington accetti, ma senza svuotarli di contenuto;
• L'appello resta aperto a nuove adesioni, e fra chi per ora non l'ha firmato ci sono anche la Francia — che lo ha appoggiato a voce al Consiglio — il Regno Unito e l'Italia. Lettonia e Liberia propongono intanto un gruppo di lavoro informale del Consiglio dedicato all'AI; ma la Russia, membro permanente, contesta che il tema spetti al Consiglio e preferisce le sedi specializzate.