Per gli esperti Usa c'è almeno il 10% di rischio che l'IA sfugga al controllo umano in 10 anni, la Finlandia studia gli effetti su sicurezza e difesa

Cos’è successo

A inizio settembre 2026 l’Institute for Security and Technology, con il Future of Life Institute, ha pubblicato 'AI and the Future of National Security': un'indagine su 111 professionisti (87% con esperienza di governo negli Stati Uniti, la maggioranza di almeno 10 anni). Non è un sondaggio sull’opinione pubblica, è il giudizio di chi ha lavorato nella Difesa, intelligence, Dipartimento di Stato e Congresso.

Il 72% mette l’uso avversario dell’IA (armi cyber/biologiche) tra le tre minacce principali mentre il 51% la disinformazione automatica. Le opportunità offerte dall'IA che ricevono maggiore attenzione sono la cyberdifesa (78%) e l'intelligence/early warning (73%). Per la maggioranza degli intervistati, l'intelligenza artificiale generale arriverà nel 2035, e la super intelligenza artificiale cinque anni dopo. L’87% assegna almeno il 10% di probabilità che l’AI operi fuori controllo umano entro 10 anni. Il rischio di catastrofe è accettato come probabile dalla maggioranza mentre il 96% esige il controllo umano su decisioni relative al nucleare (con l'89% che invece vorrebbe vietare controllo autonomo dell’NC3, l'architettura di comando e controllo per le armi nucleari).

Perché conta

Le conseguenze dell'intelligenza artificiale su sicurezza e stabilità internazionale sono, per ora, solo fatte di congetture e speculazioni. Il livello di preoccupazione rivelato da questa indagine desta preoccupazione, in quanto si parla di persone che hanno partecipato direttamente a decisioni e organizzazione di campagne militari.

• Il 4 settembre la ministra degli Esteri finlandese Elina Valtonen ha nominato un gruppo di esperti per studiare proprio questi temi. Presiede il gruppo Patrik Gayer (NestAI) che include Meredith Whittaker (Signal), Vili Lehdonvirta, Samuel Kaski (ELLIS), Janka Oertel (ECFR), Luis Garicano (LSE), Mårten Mickos, Peter Sarlin;
• Comprendere la direzione, velocità e rischi dell'IA è fondamentale per comprendere quali opportunità si aprono, quali rischi bisogna affrontare e dunque dove e come investire.

Adesso

• Ogni Paese deve decidere in che direzione andare, una volta capito effettivamente cosa succede. Non è un aspetto secondario: lo scoppio degli LLM non fu ampiamente anticipato perché, chi analizzava i trend, aveva forti bias anti-IA;
• Per Europa e Stati Uniti la questione è diversa. Washington ha le capacità, deve capire la sua volontà. L'Europa non ha le stesse capacità e ha una volontà frammentata. L'iniziativa finlandese è utile e ha buone probabilità di essere efficace, nelle raccomandazioni, ma quando può essere utile nell'esecuzione - senza il supporto degli altri Paesi, della NATO o dell'UE?
• Sul medio termine, senza norme e capacità governativa per fare TEVV (test, evaluation, verification and validation), l’Europa rischia di poter accedere all'IA solo off-the-shelf, quindi sia costretta ad inglobare o implicitamente rischi che, eventualmente, non accetterebbe.