OpenAI firma col Pentagono. Le red line ci sono, ma chi le ha scritte?

Cosa è successo

Venerdì 28 febbraio il Dipartimento della Guerra (DoW, ex Difesa/DoD) ha designato Anthropic come rischio per la supply chain, ordinando a tutte le agenzie federali di cessare immediatamente l'uso della sua tecnologia. Poche ore dopo, OpenAI ha annunciato un accordo per il deployment dei propri modelli sulle reti classificate del Pentagono, presentandolo come il contratto con più salvaguardie mai sottoscritto per l'AI militare — comprese, a detta di OpenAI, quelle del precedente accordo con Anthropic. Tre red line dichiarate:

• niente sorveglianza domestica di massa;
• niente armi autonome;
• niente decisioni automatizzate ad alto rischio (tipo social credit).

La reazione è stata fulminea. Le disinstallazioni di ChatGPT negli USA sono aumentate del 295% il giorno dopo l'annuncio (a fronte di una media del 9% nei 30 giorni precedenti); le recensioni a 1 stella sono salite del 775%. Claude è diventata la app gratuita #1 sull'App Store americano per la prima volta, con download giornalieri che secondo Appfigures hanno superato quelli di ChatGPT. Lunedì, Altman ha ammesso che il deal era apparso "opportunistic and sloppy" e che non avrebbero dovuto affrettarsi ad annunciarlo di venerdì. L'accordo è stato emendato per aggiungere un divieto esplicito di sorveglianza domestica e per escludere (per ora) l'NSA dal perimetro. Martedì, in un all-hands con i dipendenti, Altman ha chiarito che le decisioni operative spettano al governo: "Magari pensate che lo strike sull'Iran fosse giusto e l'invasione del Venezuela sbagliata. Non sta a voi pronunciarvi."

Perché è importante

Il principio di base è legittimo e vale la pena ribadirlo: in una democrazia, sono le istituzioni e le agenzie elette (o da esse delegate) a decidere come impiegare le tecnologie di cui dispongono, specie in ambito militare. Così come è legittimo che un'azienda privata scelga di firmare o meno. Anthropic ha scelto di non firmare (il problema è nato proprio dalla pretesa di retroattività sulle modifiche richieste dal DoW); OpenAI sì. Fin qui, governance ordinaria — benché la crescente potenza dell'AI renda questa relazione sempre più delicata e meritevole di scrutinio.
Il problema è ciò che sta sotto le red line.
Come ha documentato in dettaglio Mike Masnick su Techdirt, il contratto di OpenAI definisce la sorveglianza "lecita" attraverso gli stessi framework giuridici — Executive Order 12333, FISA, National Security Act — che da decenni permettono alla comunità di intelligence americana di raccogliere quantità enormi di dati di cittadini statunitensi classificandoli come raccolta "incidentale".
In quel lessico, "sorveglianza domestica di massa" ha un significato molto più ristretto di quanto parrebbe: se stai intercettando un target straniero e nel processo finisci per raccogliere (e trattenere, e analizzare) milioni di comunicazioni di americani, quella non è sorveglianza di massa, ma “incidentale” nell'ambito di un'indagine di intelligence lecita.
Allo stesso modo, il divieto di "unconstrained monitoring" lascia aperta qualsiasi sorveglianza che operi sotto una regola qualunque, per quanto permissiva.
La trattativa con Anthropic si è rotta perché l’azienda era disposta a consentire l'uso dei propri modelli su materiale classificato raccolto sotto il FISA, ma voleva un impegno vincolante a non usarli per analizzare bulk data commerciali non classificati — geolocalizzazione, cronologia web, dati delle carte di credito. Il Pentagono ha rifiutato. Il contratto originale di OpenAI non menzionava affatto i dati commerciali; la clausola è stata aggiunta solo lunedì, dopo il backlash.
Nelle parole di Altman ai dipendenti si percepisce una certa sincerità, e non è impossibile credere che lui stesso non supporti la natura degli abusi che quei framework hanno storicamente permesso. Carta canta, però: il punto però non è la presunta ipocrisia di chi firma, ma la natura di ciò che si è firmato. Avendo accettato che siano le definizioni del governo a delimitare cosa costituisce sorveglianza e cosa no, non potremo dirci sorpresi se fra qualche mese — o qualche anno — dovessero emergere notizie di sorveglianza AI-enabled o armi autonome riconducibili a OpenAI. A quel punto le red line saranno rimaste formalmente intatte, perché scritte fin dall'inizio con le coordinate di chi dovevano vincolare.

E adesso?

Il mercato consumer ha reagito con nettezza, tra i download, le disinstallazioni e le recensioni che raccontano un'opinione pubblica acutamente conscia della differenza tra le due posizioni (prima e più chiaramente di molti analisti). Se la tendenza dura — e Claude ha raggiunto la prima posizione anche in svariati altri mercati — potrebbe rivelarsi un raro caso in cui una scelta etica si traduce in vantaggio competitivo misurabile nel mercato AI.
Sul piano istituzionale, invece, il quadro è più cupo. Altman stesso ha detto ai dipendenti che si aspetta almeno un altro attore, "probabilmente xAI", disposto a fare tutto ciò che il governo chiede, senza foglie di fico o battaglie più o meno di facciata.