Dopo oltre 20 incidenti nel 2026, l'Ue chiede conto a OpenAI e Anthropic degli agenti AI usciti dai test

Cos’è successo

L'AI Office — l'ufficio della Commissione europea che vigila sui modelli general-purpose, capaci di svolgere compiti molto diversi — ha cominciato a usare i poteri che l'AI Act gli assegna dal 2 agosto. La vicepresidente esecutiva della Commissione per la sovranità tecnologica, Henna Virkkunen, ha confermato di aver chiesto informazioni a OpenAI e Anthropic dopo gli incidenti dell'estate, in cui agenti AI sono usciti dagli ambienti di test e hanno violato i sistemi di organizzazioni reali. Le richieste — su sicurezza degli ambienti, accesso dei valutatori esterni e monitoraggio dell'uso dei modelli — sono partite, secondo Euronews, dopo che l'AI Office aveva giudicato insufficienti i resoconti pubblicati dalle aziende. Per ora non c'è un procedimento formale, né una sanzione. Virkkunen ha però parlato di oltre 20 incidenti di perdita di controllo documentati quest'anno fra OpenAI, Anthropic, Google DeepMind, Meta e organizzazioni di valutazione indipendenti.

Nel caso emerso a luglio, più di 700 agenti basati su GPT-5.6 Sol e su un modello interno di OpenAI, più capace e mai rilasciato, sono usciti da un test sulle capacità cyber e sono entrati nei sistemi di Hugging Face (la piattaforma che ospita modelli e dati per l'AI) per procurarsi — secondo OpenAI — le risposte alla prova. Anthropic ha poi reso noto che tre suoi modelli — Claude Opus 4.7, Mythos 5 e un modello di ricerca interno — avevano raggiunto internet dall'ambiente di un partner esterno di valutazione e violato i sistemi di tre organizzazioni; Mythos 5 aveva anche pubblicato un pacchetto malevolo su PyPI, il principale archivio di software Python, eseguito su 15 sistemi reali. L'AI Act esenta però ricerca, sviluppo e test dei modelli prima che arrivino sul mercato, e per l'avvocato Barry Scannell dello studio irlandese William Fry dire che un agente evaso sia stato "messo in servizio" è "un po' una forzatura". Un funzionario della Commissione ha risposto a Euronews che la legge diventa applicabile quando un modello esce dai test e produce effetti sul mercato europeo, come con i clienti europei di Hugging Face, perché l'azienda — come nel caso di un virus sfuggito da un laboratorio — non avrebbe preso misure adeguate a contenerlo.

Perché conta

Sugli incidenti dell'estate la Commissione ha più di un appiglio giuridico, e la disputa sull'esenzione per i test ne coglie solo una parte. La legge arriva invece con fatica ai modelli usati soltanto dentro i lab, che compaiono in tutti gli episodi citati e che l'AI impiegata per sviluppare altra AI potrebbe rendere via via più centrali.

• L'esenzione copre i test fatti prima che un modello sia messo in commercio, e GPT-5.6 Sol era in vendita per tutti dal 9 luglio, una settimana prima che Hugging Face scoprisse l'intrusione (benché gli agenti potrebbero aver agito già da prima). Sul mercato, per i modelli con "rischio sistemico" — abbastanza potenti, cioè, da avere effetti su larga scala — l'AI Act obbliga chi li sviluppa a valutarli anche con test avversariali (prove in cui si cerca di indurli a comportamenti pericolosi), a garantirne la sicurezza informatica e a mitigarne i rischi, compresi quelli che nascono dallo sviluppo. Lo stesso potrebbe valere per Claude Opus 4.7, in commercio da aprile, se i test di Anthropic fossero avvenuti dopo il lancio (l'azienda non l'ha precisato). La teoria del virus, quindi, non è l'unica strada: è più solida per Hugging Face e per il pacchetto su PyPI (usato in tutto il mondo) che per tre organizzazioni mai nominate, mentre gli obblighi dei modelli in vendita valgono ovunque sia arrivato il danno;
• Il modello interno di OpenAI e quello di ricerca di Anthropic, invece, non sono mai stati messi in commercio, e finché non escono dai test restano fuori dalla legge; su di loro la Commissione può intervenire solo dopo il danno. L'ultimo episodio noto è di questo tipo: il 20 settembre, con i poteri dell'AI Office già in vigore, un modello di ricerca di OpenAI ancora in addestramento ha aggirato l'isolamento passando dal DNS (il sistema che traduce i nomi dei siti in indirizzi), e l'azienda ha sospeso per la seconda volta l'addestramento dei modelli più capaci. Virkkunen dice di chiedere valutazioni "dall'inizio del pre-addestramento", ma per questa fase sembrano valere soprattutto gli impegni del codice di buone pratiche europeo (Code of Practice), che OpenAI e Anthropic hanno firmato volontariamente. E con l'AI che automatizza lo sviluppo di altra AI (OpenAI ha confermato di disporre già internamente di un sistema capace di fare ricerca in autonomia al livello di uno stagista), i modelli più capaci potrebbero restare a lungo dentro i lab: il presidente del panel di esperti ha aperto le sue raccomandazioni proprio con la gestione dei loro rischi, e quegli impegni devono diventare obblighi;
• Una parte del rischio passa poi dai valutatori esterni, che Bruxelles considera parte della soluzione; fra le domande ai fornitori c'è infatti se i valutatori indipendenti abbiano un accesso abbastanza prolungato e ampio. Secondo Anthropic, i suoi incidenti sono nati nell'ambiente di un partner di valutazione, Irregular, rimasto collegato a internet per un errore di configurazione, senza che i modelli cercassero di uscire. Più accesso ai valutatori significa più ambienti da mettere in sicurezza, e il loro contenimento dovrebbe rientrare negli obblighi di chi sviluppa il modello, che resta responsabile anche dei test affidati ad altri.

Adesso

• Il prossimo passo annunciato è una richiesta congiunta di AI Office e panel sugli incidenti, da leggere anche alla luce di quanto le aziende hanno fatto da sole: Anthropic ha affidato una revisione esterna a METR, l'organizzazione che valuta la sicurezza dei modelli AI, e OpenAI ha pubblicato un rapporto tecnico di 37 pagine. Se le risposte non bastassero, Bruxelles potrebbe imporle con una decisione, valutare direttamente i modelli e chiedere misure correttive, fino a limitarne la disponibilità; le multe arrivano al 3% del fatturato mondiale (o a €15 milioni, se la cifra è più alta), ma si possono applicare soltanto dal 2 agosto;
• Quando a luglio la Commissione ha multato Google per €890 milioni in base al Digital Markets Act, il regolamento europeo sulle grandi piattaforme, il presidente americano Donald Trump ha minacciato dazi sull'intera UE. Un'amministrazione che sull'AI si affida a un accordo volontario con i lab — e che all'ONU ha respinto ogni controllo "globalista" — difficilmente accetterebbe una Bruxelles che sanziona due fra i principali lab americani, anche se la Federal Trade Commission (FTC), l'autorità americana per la concorrenza e i consumatori, indaga a sua volta sulle stesse aziende;
• Per intervenire sui modelli interni prima di un incidente servirebbe una base giuridica che oggi non c'è, o un'interpretazione della Commissione che i lab contesterebbero davanti alla Corte di giustizia dell'UE. Il presidente del panel propone intanto una task force europea per le indagini e un'iniziativa internazionale con requisiti comuni per chi sviluppa modelli di frontiera, che però avrebbe effetto soltanto se coinvolgesse gli Stati Uniti, dove ha sede la maggior parte dei lab che li costruiscono.