La BCE dà alle grandi banche fino al 31 ottobre per un piano sui rischi cyber dell'AI di frontiera

Cos’è successo

Il Comitato europeo per il rischio sistemico (ESRB) — l'organo che sorveglia i rischi alla stabilità finanziaria dell'UE, presieduto dalla presidente della BCE — ha pubblicato il 7 luglio un warning formale che qualifica i modelli di intelligenza artificiale di frontiera come una “fonte di rischio sistemico”, capace cioè di propagarsi all'intero sistema finanziario (a giugno lo stesso organo aveva alzato quel rischio a "severo", dopo l'"elevato" di marzo). In più, il medesimo giorno, la responsabile della vigilanza bancaria della BCE Claudia Buch ha scritto ai CEO delle maggiori banche dell'area euro per chiedere un piano d'azione contro le minacce cyber potenziate dall'AI entro il 31 ottobre.

I "FAIM" — Frontier AI Models, nel gergo dell'ESRB — eseguono attacchi informatici in modo pienamente automatizzato: scoprono le vulnerabilità di un software e ne confezionano gli exploit (il codice che le sfrutta) a una velocità e accuratezza che il warning — correttamente — giudica ormai al pari di quelle dei migliori esperti umani. È l’automatismo che cambia il quadro di rischio.

Perché conta

La tentazione è liquidarlo come l'ennesimo eccesso regolatorio di Bruxelles, e sarebbe un errore, perché l'analisi dell'ESRB è tecnicamente seria, tanto da ammettere che, se i rischi si materializzano in simultanea, "al momento non esiste un quadro di mitigazione pienamente efficace". Solo che quell'analisi descrive una posizione scomoda per l'Europa. I laboratori di frontiera stanno fuori dai suoi confini, e le sue banche restano tagliate fuori dai sistemi di punta per proteggersi; le si chiede di difendersi da un'arma che non può impugnare, e che può soltanto chiedere di ottenere.

• I FAIM come Mythos, è ormai noto, sono capaci di creare un exploit in minuti o ore laddove a un esperto servirebbero giorni o settimane — il warning chiama lo "collasso dei cuscinetti difensivi", riferendosi al margine di tempo necessario per tappare una falla prima che venga sfruttata. Il volume delle falle scoperte, avverte l'ESRB, dovrebbe aumentare sensibilmente, mentre il sistema finanziario le tappa ancora in modo reattivo, con aggiornamenti periodici. Se troppe vulnerabilità critiche emergono insieme, una banca dovrà scegliere tra restare esposta o applicare le pezze senza collaudarle a dovere, rischiando blocchi operativi. La difesa per ora corre dunque ben più lenta dell'attacco, poiché chi attacca sfrutta i FAIM subito mentre chi difende è frenato da vincoli e dipendenze;
• Il warning individua tre asimmetrie che i FAIM aggravano: tra attaccante e difensore, tra istituti attrezzati e anelli deboli della catena, e tra giurisdizioni. La terza è quella che tocca l'Europa da vicino, dacché i lab che producono questi modelli sono, com’è noto, sostanzialmente tutti fuori dall'Unione, che resta così esposta a "dipendenza strategica e rischio geopolitico". Nel concreto, ciò significa che le banche dell'area euro sono al momento escluse dall’accesso a Mythos tramite Project Glasswing; l'ESRB chiede dunque apertamente "misure per facilitare l'accesso" dell'Unione ai modelli di frontiera, e avverte che riservarlo solo ad alcuni Paesi o categorie di istituti frammenterebbe il mercato unico. Il comitato per il rischio sistemico dell'UE sta, in sostanza, chiedendo ai labo americani di farla entrare. Alla buon’ora;
• Per rispondere, però, l'Europa sembra stia ancora facendo uso solo parziale della leva negoziale, preferendole lo strumento che possiede e adopera: la regola. E quindi piani da consegnare entro ottobre, aspettative di vigilanza, il richiamo a norme europee come DORA (la disciplina UE sulla resilienza operativa digitale) e all'AI Act. La BCE non prevede però sanzioni dirette per chi non si adegua (userà i piani per confrontare gli istituti e decidere se intervenire) — e soprattutto, il buco strutturale dell'accesso ai modelli più avanzati, il piano bancario non lo tocca.

Adesso

• Entro il 31 ottobre le banche consegnano i piani; la BCE, che ha rinviato un altro questionario per liberare risorse, li confronterà e deciderà i passi successivi. Sempre il 7 luglio la Commissione ha presentato un proprio piano d'azione sui rischi dell'AI, orientato anche ai test di sicurezza dei modelli avanzati. I piani, però, sono la parte facile; quella difficile è l'accesso ai modelli di frontiera che lo stesso organo di vigilanza dell'Unione reclama — e che dipende da governi e laboratori fuori dall'UE;
• L'Unione, nel quadro internazionale, sembra aver ancora una volta scelto la linea più dura, con la Fed che predica un "tocco più leggero" e la Bank of England che, per bocca del governatore Andrew Bailey, giudica il warning "sensato" ma rifiuta di "emettere editti" e scadenze pubbliche. E se leggerlo come riflesso regolatorio è troppo comodo, visto che l'ESRB ha nominato un problema strutturale che gli altri hanno aggirato, la severità senza la capacità resta comunque una risposta parziale, perché imporre piani a banche escluse dagli strumenti di punta agisce sul sintomo mentre la causa — la dipendenza non gestita — resta intatta;
• E i modelli non smetteranno di rafforzarsi; gli stessi laboratori, ricorda il warning, si aspettano FAIM "troppo potenti per un accesso pubblico senza restrizioni", e ad ogni salto crescono insieme il divario tra offesa e difesa e l'urgenza dell'accesso. Per l'Europa la mossa concreta e utile rimane una sola, cioè capire come assicurarsi un accesso stabile e duraturo (mentre, auspicabilmente, costruisce compute sul proprio suolo). E rendersi, se non sovrana, quantomeno indispensabile — e soprattutto sicura.