Dopo l'irruzione di 700 agenti di OpenAI in Hugging Face, l'Antitrust americana indaga e il Senato cerca un responsabile

Cos’è successo

Il giorno dopo la firma dell'accordo volontario sulla "Super Intelligence" alla Casa Bianca, la Federal Trade Commission (Ftc) — l'agenzia federale americana che tutela i consumatori e la concorrenza — ha confermato di aver aperto un'indagine su OpenAI, Anthropic e altre aziende dell'AI per possibili pratiche "scorrette o ingannevoli", e intende chiedere documenti e la testimonianza dei dirigenti. Secondo Reuters, richieste di informazioni dovrebbero arrivare anche a Metr, l'organizzazione che valuta la sicurezza dei modelli AI e che ha ricostruito l'irruzione degli agenti di OpenAI in Hugging Face (la piattaforma che ospita modelli e dati per l'AI). Lo stesso giorno, in un'audizione al Senato, il presidente di METR Chris Painter ha raccontato che durante quel test, a luglio, OpenAI aveva lanciato circa 10.000 agenti, che circa 700 avevano partecipato all'attacco e che alcuni avevano poi passato giorni a nascondere di aver barato sui test, anche tentando di manomettere i log. "Se rompi, paghi", ha sintetizzato il repubblicano Josh Hawley, che presiedeva l'audizione; Sam Altman, invitato, non si è presentato.

Hawley ha poi presentato, con il democratico Chris Murphy, l'AI Agent Accountability Act, che estende la legge federale del 1986 contro l'accesso abusivo ai sistemi informatici (Cfaa) a chi gestisce e a chi sviluppa agenti AI. I primi risponderebbero penalmente e civilmente anche se ne usassero consapevolmente uno che dovesse provocare danni in modo sconsiderato; i secondi, se non avessero adottato "salvaguardie ragionevoli" pur sapendo — o avendo motivo di sapere — che l'agente era in grado di forzare sistemi altrui. I dirigenti, ha detto Murphy, potrebbero finire in carcere. Nei giorni precedenti si erano mossi anche gli Stati: i procuratori generali di 23 Stati avevano chiesto al Congresso una "regolamentazione federale completa", e quello della Florida, il repubblicano James Uthmeier, aveva chiesto a un tribunale di sospendere l'ulteriore sviluppo dei modelli di OpenAI finché le loro protezioni non fossero approvate da un soggetto esterno.

Perché conta

L'accordo della Casa Bianca affida la sicurezza alla buona volontà dei lab, senza sanzioni né obblighi di pubblicazione, rinviando le leggi vere e proprie a un generico "col tempo". In pochi giorni però si sono aperte altre strade verso un controllo vincolante; anche se nessuna, per ora, ha prodotto un obbligo.

• L'FTC potrebbe chiedersi se le aziende abbiano descritto in modo veritiero la sicurezza dei propri sistemi e se abbiano preso precauzioni ragionevoli, usando la legge che già punisce le pratiche scorrette verso i consumatori. Il suo presidente Andrew Ferguson — le cui preoccupazioni secondo Reuters sono precedenti al caso Hugging Face — sostiene del resto che il diritto americano dei consumatori e della responsabilità da prodotto si adatti alle nuove tecnologie sin dal Settecento. Finora gli episodi sono emersi a pezzi e spesso con mesi di ritardo, come l'intrusione di un agente di OpenAI nel portale statistico della sanità australiana, avvenuta a giugno e segnalata dall'azienda a settembre con un'email a una casella generica. Con richieste formali e testimonianze, tuttavia, non sarebbero più soltanto le aziende a decidere cosa il regolatore sa;
• La legge Hawley-Murphy non chiede di provare l'intenzione di un sistema autonomo, che il CFAA, pensato per gli hacker umani, presupporrebbe: sposta piuttosto la responsabilità su chi gestisce l'agente e su chi lo sviluppa, misurandola su cosa sapevano. Il comunicato dei senatori non precisa però quali siano le "salvaguardie ragionevoli", e così formulata la legge potrebbe scoraggiare test e trasparenza (documentare le capacità offensive dei propri agenti renderebbe più facile provare che un determinato lab sapeva); e il "motivo di sapere", d'altra parte, chiuderebbe la scappatoia di chi preferisse non testare. In audizione il giurista di Georgetown Paul Ohm aveva suggerito un'altra strada (la responsabilità oggettiva per lesioni, morti e danni alle infrastrutture critiche), che invece non dipende da che cosa l'azienda sapesse;
• Fra le richieste della Florida — che riguardano anche i minori e la pubblicità di ChatGPT — la più radicale trasformerebbe di fatto un tribunale statale in un'autorità di licenza, sospendendo lo sviluppo dei modelli di OpenAI fino a un'approvazione esterna. Uthmeier la fonda sulle parole dello stesso Altman, che al Consiglio di sicurezza dell'ONU aveva avvertito che l'umanità potrebbe "perdere il controllo del futuro dell'AI". In California, intanto, un'associazione di avvocati, Lasst, chiede a un altro tribunale di vietare agli agenti di OpenAI l'accesso non autorizzato a sistemi altrui, in base alla legge statale (una causa che l'azienda giudica "del tutto infondata"). Con due tribunali che applicano leggi diverse alla stessa azienda, un controllo affidato agli Stati rischia di restare frammentario e imprevedibile, ed è il prezzo dell'assenza di regole federali che i 23 procuratori chiedono al Congresso.

Adesso

Prima delle elezioni di metà mandato del 3 novembre la legge Hawley-Murphy difficilmente si muoverà, e dopo il voto potrebbe non seguire le linee di partito. In audizione il democratico Gary Peters e la repubblicana Joni Ernst hanno avvertito che rallentare favorirebbe la Cina, mentre il democratico Ruben Gallego ha contestato che Pechino lascerebbe davvero gli agenti senza controllo.

• Ferguson è anche uno dei tre vicepresidenti della Super Intelligence Force, la task force che Trump ha affidato al direttore dell'intelligence nazionale Jay Clayton, nominato coordinatore per l'AI, e che per statuto deve rispondere alle minacce dell'AI "evitando una regolamentazione eccessiva". Chi indaga i lab siede quindi nell'organismo che dovrebbe evitare di regolarli troppo, e fin dove arriverà l'indagine (in mesi, se non in anni) dirà anche fin dove l'amministrazione è disposta a spingersi. Il rapporto della task force, atteso entro 120 giorni, dovrà occuparsi pure di come il governo gestisce la comunicazione degli incidenti di sicurezza;
• Se le cause statali si moltiplicassero, i laboratori avrebbero un interesse crescente a una legge federale che prevalga su quelle degli Stati, come OpenAI aveva già proposto a giugno; quel quadro, però, prevedeva valutazioni obbligatorie senza alcun potere di veto sui rilasci — e il tribunale della Florida, se accogliesse la richiesta di Uthmeier, andrebbe ben oltre.