Chi risponde se un modello AI causa cento morti: OpenAI chiede immunità, Anthropic si oppone

Cosa è successo

Mentre il Congresso americano non riesce a legiferare sull'AI, gli Stati si stanno muovendo — e in direzioni opposte. In Illinois, OpenAI sostiene attivamente la SB3444, una proposta di legge che esenterebbe i developer di modelli frontier dalla responsabilità civile per danni catastrofici — 100 o più morti, o oltre un miliardo di dollari di danni — purché non abbiano agito intenzionalmente o con grave imprudenza, e purché abbiano pubblicato un protocollo di sicurezza e un report di trasparenza sul proprio sito.

• Anthropic si oppone, fa lobbying dietro le quinte presso il senatore sponsor Bill Cunningham per modificarla o affondarla, e testimonia a favore di una proposta alternativa — la SB3261 — che richiederebbe audit indipendenti dei piani di sicurezza.

A New York è in discussione una legge di segno opposto: la A8833, proposta da Gabriel Weil (tort and AI law professor all'Università di Touro), stabilisce la responsabilità oggettiva dello sviluppatore ogni volta che un modello di frontiera compie qualcosa che costituirebbe un illecito civile o penale se commesso da un essere umano. Se né l'utente né alcun intermediario è responsabile, risponde il lab — senza immunità in cambio di documentazione.

Perché è importante

La spaccatura tra OpenAI e Anthropic su SB3444 è il primo scontro visibile su quale architettura legale dovrà governare l'AI qualora le cose dovessero andare seriamente per il peggio. Le due leggi incarnano filosofie contrapposte, con la SB3444 che scarica la responsabilità sull'utente malevolo — purché il developer abbia rispettato la burocrazia — e la A8833 che parte dal principio per cui qualcuno deve rispondere. E, se la catena non porta da nessun'altra parte, torna dritta al lab.

OpenAI è il soggetto che pubblicamente insiste sui rischi esistenziali dell'AI da più tempo, ma che sta di fatto facendo lobbying per essere esonerata da responsabilità nel caso in cui quei rischi si materializzino. Miles Brundage, il suo ex responsabile della ricerca sulle policy, lo definisce "uno dei casi più chiari in cui OpenAI è dalla parte del torto", e aggiunge che ridurre la responsabilità dopo aver fornito garanzie serie potrebbe anche essere una posizione ragionevole — "ma proporlo sostanzialmente in cambio di nulla è assurdo".

Anthropic, al contrario, combatte in tribunale per il diritto di mantenere i propri guardrail, e fa lobbying perché gli sviluppatori siano tenuti a rispondere verso l'esterno. Un paradosso, visto che se la SB3444 passasse darebbe ai lab esattamente quello che il Pentagono voleva da Anthropic: libertà d'azione senza conseguenze.

Chi risponde quando un modello AI viene usato per costruire un'arma biologica, far collassare un'infrastruttura critica o causare un evento catastrofico di altra natura non è ancora messo nero su bianco nel diritto americano. Le industrie che hanno già gestito rischi catastrofici comparabili, però, operano tutte sotto regimi di responsabilità oggettiva accompagnata da assicurazioni obbligatorie e fondi condivisi.

Il Price-Anderson Act per il nucleare, ad esempio, impone responsabilità diretta alle centrali e poi attiva un fondo collettivo finanziato dall'industria come fondo di ultima istanza. Charlie Bullock, ricercatore senior all'Institute for Law and AI, indica il meccanismo assicurativo come la strada più praticabile: "Obbligare le aziende AI a sottoscrivere polizze incentiverebbe il settore assicurativo a capire realisticamente quali siano i rischi". Weil concorda, ma avverte che usare fondi pubblici come copertura finale — prima che esista un quadro regolatorio maturo — significherebbe rinunciare alla principale leva di controllo.

La SB3444 ha poche chance di passare: i sondaggi mostrano il 90% degli elettori dell'Illinois contrario all'esenzione da responsabilità per i lab. La battaglia ha però già prodotto il suo effetto principale, ossia rendere visibile la distanza tra le due posizioni proprio nel momento in cui Mythos e i modelli che lo seguiranno rendono urgente una risposta.

E adesso?

• Lo stallo federale lascia gli Stati a costruire architetture legali incompatibili: Illinois, New York, California, Rhode Island si muovono in direzioni diverse senza coordinamento. Weil indica A8833 come il modello concettualmente corretto, ma il percorso verso una legge federale è ancora lungo.

• Il tempo, lo si ripete spesso, sempre meno; e ogni nuovo modello con capacità offensive restringe quello disponibile per rispondere — prima che la risposta arrivi dai fatti.