Trump ribattezza l'AI "superintelligenza" e affida la sicurezza a un accordo volontario di 300 parole

Cos’è successo

Dopo un pranzo alla Casa Bianca con oltre venti dirigenti del settore, martedì Donald Trump e i vertici di Google, Anthropic, Meta, OpenAI (rappresentata dal presidente Greg Brockman), SpaceXAI e Nvidia hanno firmato un accordo sulla "Super Intelligence" di poco più di 300 parole; Microsoft, Amazon, AMD e Palantir, pure presenti, non compaiono fra i firmatari. Il testo prevede quattro livelli di controllo: sistemi interni che monitorino capacità e allineamento dei modelli, durante l'addestramento e dopo il rilascio (anche perché non "vìolino o accedano a sistemi tecnici in modi non previsti"); una squadra interna con il compito di verificare che i controlli funzionino; un valutatore esterno indipendente che accerti lo stesso; e un comitato "indipendente" del consiglio di amministrazione che riceva i rapporti di tutti e faccia correggere i problemi. Gli standard li fisseranno le aziende stesse, riunendosi "regolarmente", e "col tempo" potrebbe avere senso trasformare queste misure in leggi. Trump ha definito l'accordo "moralmente vincolante", lo speaker della Camera Mike Johnson "volontario".

In serata il presidente ha poi firmato un decreto che impone all'amministrazione federale di chiamare l'AI "Super Intelligence" e di non "riconoscere" più il vecchio termine, pur definendo la superintelligenza come l'insieme delle tecnologie che la legge già chiama AI. Secondo Bloomberg, il cambio di nome punta a correggere una percezione pubblica sempre più negativa: in un sondaggio della Quinnipiac University condotto la settimana scorsa, il 71% degli elettori si dice più propenso a votare candidati favorevoli a regole più severe sull'AI, e solo il 25% approva il modo in cui Trump la sta gestendo.

Perché conta

Sulla carta l'accordo contiene i livelli di controllo che i sostenitori della sicurezza chiedono, verifiche esterne comprese, e li prevede anche durante l'addestramento. Ne lascia però gli esiti dentro le stesse aziende, affidando la sicurezza alla buona volontà dei lab che gli incidenti di quest'estate hanno messo in discussione.

• Il testo non definisce che cosa siano controlli "robusti", non dice ogni quanto vadano verificati né chi controlli che le aziende rispettino gli impegni; e i rapporti arrivano al consiglio di amministrazione, senza che se ne preveda la pubblicazione. Johnson ha parlato di "supervisione e trasparenza", e perfino di "conseguenze" per chi non si adegua, ma il testo non prevede né la pubblicazione dei risultati né sanzioni. Il valutatore esterno, poi, deve accertare che i controlli dell'azienda funzionino, non valutare i modelli in modo indipendente. È molto meno di quanto avesse proposto a metà settembre uno dei firmatari, il CEO di Anthropic Dario Amodei — valutatori esterni con un accesso da dipendente e liberi di pubblicare risultati sfavorevoli senza il consenso dell'azienda —, che infatti l'ha definito soltanto "un inizio". Il merito, al più, è aver portato alla firma anche Meta e Nvidia, che finora i rischi li avevano minimizzati;
• Gli agenti di OpenAI che fra la primavera e l'estate sono intervenuti su siti del governo americano e sul portale sanitario australiano sono emersi solo a fine settembre; secondo il New York Times i dirigenti dell'azienda avrebbero liquidato gli allarmi interni sulla sicurezza mesi prima che i modelli cominciassero a violare sistemi esterni. Una squadra interna serve a poco se chi guida l'azienda può bellamente scavalcarla, e il comitato "indipendente" siede nello stesso consiglio che risponde agli azionisti — con la quotazione di Anthropic alle porte e quella di OpenAI solo rinviata. Eppure, fortunatamente, almeno alcune aziende oggi si muovono con più cautela del governo: nello specifico, in questi giorni, OpenAI ha trattenuto il nuovo modello GPT-6.1 Astra (come Anthropic aveva fatto ad aprile con Mythos). Sono però scelte unilaterali, e lo stesso giorno dell'accordo OpenAI ha presentato agenti ancora più autonomi — e, secondo Bloomberg, starebbe cercando almeno $30 miliardi di nuovi finanziamenti;
• Il decreto, per ora, non tocca la portata delle norme, ma si appropria di una parola che nel dibattito sulla sicurezza indica un'AI più capace degli esseri umani in quasi ogni campo, cioè proprio lo scenario che preoccupa una parte dei lab. Trump, che ancora la settimana scorsa aveva liquidato quei timori come una "bufala", chiama ora superintelligenza i modelli di oggi per presentarli come una promessa anziché come un rischio; e lo fa a un mese dalle elezioni di metà mandato, con il 79% degli intervistati da Quinnipiac che mette la sicurezza davanti all'innovazione.

Adesso

• Trump ha ribadito che nominerà a giorni un coordinatore per l'AI, e ha ipotizzato un comitato di una decina di persone che vigili sul settore, senza però indicarne i poteri. Il primo banco di prova dell'accordo saranno le aziende stesse: Anthropic, che aveva chiesto valutatori liberi di pubblicare, potrà mostrare con i propri rapporti se l'accordo è un punto di partenza o di arrivo;
• Prima del voto del 3 novembre non dovrebbe muoversi nessuna legge: la Camera è in pausa fino alle elezioni e al Senato gli sforzi bipartisan sono fermi, con il repubblicano Ted Cruz che spera di riprenderli dopo le elezioni. Il leader della maggioranza John Thune e la democratica Amy Klobuchar preparano un testo contro i danni catastrofici dell'AI, mentre Bernie Sanders propone una pausa obbligatoria per la superintelligenza. Dall'esito del voto, con il controllo repubblicano del Congresso in bilico, dipenderà quale di queste proposte avrà una possibilità concreta;
• Entro il 28 novembre il consigliere scientifico della Casa Bianca dovrà presentare al presidente un testo di legge che definisca la superintelligenza, valutando se debba modificare, ampliare o sostituire la definizione attuale di AI. Se la nuova parola avesse un perimetro diverso dalla vecchia, cambierebbe anche la portata delle norme che all'AI fanno riferimento.