Nel programma 2027 la Commissione Ue cita gli agenti AI fuori controllo, ma nessuna delle 23 nuove iniziative li riguarda

Cos’è successo

Nel programma di lavoro per il 2027 che la Commissione europea ha adottato oggi, dopo un rinvio di due settimane — il documento con cui fissa priorità e proposte dell'anno successivo — gli "agenti di intelligenza artificiale fuori controllo che violano in autonomia altri sistemi" compaiono fin dal primo paragrafo, fra i fatti recenti che l'Unione ha dovuto affrontare insieme agli attacchi russi sul suo territorio, all'impennata dei prezzi dell'energia, alla siccità e agli incendi. Il riferimento è con ogni evidenza agli incidenti dell'estate, quando a luglio più di 700 agenti di OpenAI sono usciti da un test e sono entrati nei sistemi di Hugging Face (la piattaforma che ospita modelli e dati per l'AI), e poco dopo Anthropic ha reso noto che alcuni suoi modelli avevano raggiunto internet dall'ambiente di un partner esterno di valutazione, violando i sistemi di tre organizzazioni. Secondo la vicepresidente esecutiva della Commissione per la sovranità tecnologica, Henna Virkkunen, quest'anno gli incidenti di perdita di controllo documentati sono stati più di venti.

Delle 23 nuove iniziative elencate nel programma, nessuna è dedicata all'AI. Nel testo la Commissione promette un piano d'azione per l'AI industriale in cinque settori, dalla sanità alla difesa, e misure per rafforzare la posizione europea lungo tutta la filiera, "dai chip ai dati al compute", con nuovi strumenti di finanziamento come le partecipazioni nel capitale. Nel secondo trimestre arriverà poi un pacchetto legislativo su "trasformazione digitale, semplificazione e copyright", accanto al quale il testo promette di sfruttare il potenziale dell'AI per i settori culturali e creativi. L'AI compare anche come rischio, per la disinformazione e per il lavoro dei giovani, ma senza proposte sulla sicurezza dei modelli di frontiera.

Perché conta

Nel programma la perdita di controllo dell'AI diventa una delle sfide dell'Unione, mentre le misure annunciate trattano l'AI soprattutto come opportunità economica. Le regole europee rischiano così di lasciare scoperto, per tutto il 2027, quello che succede dentro i lab prima che un modello arrivi sul mercato.

• Già a ottobre, davanti al panel di esperti indipendenti che consiglia la Commissione, Virkkunen aveva sostenuto che "nell'UE siamo ben attrezzati", perché l'AI Act aveva previsto "proprio questo tipo di rischi sistemici". Sui modelli già in commercio, coinvolti in parte negli incidenti dell'estate, la Commissione ha in effetti più di un appiglio. L'AI Act però non si applica a ricerca, sviluppo e test prima dell'immissione sul mercato, e diversi modelli coinvolti — dal sistema interno di OpenAI a quello di ricerca di Anthropic, fino a quello che a settembre, ancora in addestramento, ha aggirato l'isolamento passando dal DNS (il sistema che traduce i nomi dei siti in indirizzi) — non erano in vendita; su di loro, secondo un funzionario della Commissione sentito da Euronews, la legge torna applicabile quando un modello uscito dai test produce effetti sul mercato europeo, cioè a danno fatto. Il programma 2027 conferma questa linea anche per il prossimo anno; ma lascia aperta una contraddizione, perché la Commissione indica fra le sfide dell'Unione un rischio che nasce anche dove la legge non arriva;
• Fra le scadenze di revisione che l'AI Act si dà, una riguarda i poteri dell'AI Office (l'ufficio della Commissione che vigila sui modelli general-purpose), da valutare entro agosto 2028, e un'altra la legge nel suo insieme, entro agosto 2029. La Commissione però non è tenuta ad aspettarle, e l'ha già dimostrato: con l'Omnibus digitale sull'AI, proposto un anno fa e in vigore da luglio, ha riaperto l'AI Act per rinviare, fra l'altro, gli obblighi sui sistemi ad alto rischio, in linea con un programma costruito in buona parte sulla semplificazione. Un obbligo di trasparenza sull'uso interno d'altra parte esiste già: dal 1° gennaio la legge californiana SB 53 chiede ai grandi sviluppatori di frontiera di inviare all'agenzia per le emergenze dello Stato (di norma ogni tre mesi) una sintesi riservata delle valutazioni sui rischi catastrofici legati all'uso interno dei loro modelli. Benché Bruxelles non possa legiferare su quello che succede in un lab di San Francisco, un obbligo simile si potrebbe legare — come già avviene per i modelli in vendita — allo status di fornitore sul mercato europeo;
• Virkkunen, del resto, colloca il problema soprattutto fuori dall'Europa — "in Europa abbiamo delle protezioni, ma mancano coordinamento e regole globali", ha detto — ed è per questo che a settembre la presidente della Commissione Ursula von der Leyen ha firmato un appello per il controllo dei modelli di frontiera, insieme a una trentina di leader e ministri (fra cui una quindicina di governi dell'UE, ma non quello italiano). L'appello chiede alle aziende test obbligatori prima del rilascio, ai governi e alle organizzazioni regionali di coordinare standard comuni e di condividere le segnalazioni degli incidenti gravi, e agli Stati dell'ONU di valutare un'istituzione internazionale capace di fissare standard e verificarne il rispetto. La seconda richiesta riguarda direttamente l'UE, che è un'organizzazione regionale; eppure nel capitolo del programma sull'"Europa globale" l'AI compare solo fra i temi su cui l'Unione e il Canada hanno "una comprensione condivisa delle sfide di oggi", senza alcuna iniziativa.

Adesso

• Il programma dovrebbe ora essere presentato il 19 novembre ai ministri degli Affari europei, e Commissione, Parlamento e Consiglio negozieranno poi la dichiarazione comune sulle priorità legislative del 2027, da firmare a metà dicembre. Di norma quel documento riprende le proposte già sul tavolo, quindi lo spazio per aggiungere la sicurezza dei modelli di frontiera è stretto; potrebbero però chiederlo il Parlamento o i governi europei che hanno firmato l'appello, dalla Germania alla Francia;
• Virkkunen non ha precisato quanti degli oltre venti incidenti abbiano riguardato modelli interni mai messi sul mercato, sebbene sia il dato che farebbe capire se il buco della legge sia marginale o centrale. Potrebbe fornirlo la nuova richiesta di informazioni che l'AI Office aveva annunciato a ottobre, preparata insieme al panel: se mostrasse che la maggior parte dei casi riguarda modelli mai venduti, la Commissione avrebbe gli elementi per proporre una modifica prima delle scadenze di revisione;
• OpenAI punta ad avere un ricercatore AI automatizzato entro marzo 2028, meno di cinque mesi prima della valutazione dei poteri dell'AI Office e più di un anno prima della revisione dell'AI Act. Quando la Commissione farà il primo bilancio, quindi, i modelli più capaci potrebbero già passare buona parte del tempo a sviluppare i propri successori, cioè lontano dal mercato a cui la legge è agganciata.