OpenAI valuta di rallentare lo sviluppo dell'AI insieme ai concorrenti

Cos’è successo

Sam Altman ha detto ai dipendenti che OpenAI potrebbe rallentare lo sviluppo dei modelli più avanzati insieme ad altri laboratori, pur riconoscendo che qualcuno potrebbe non aderire. Lo riporta Bloomberg, citando persone informate sulla riunione interna di questa settimana (per ora, dunque, nessun accordo annunciato). Il responsabile scientifico Jakub Pachocki aveva già chiesto pause volontarie e l'azienda aveva sospeso parte delle attività dopo gli incidenti dell'estate, in particolar modo quello che ha coinvolto Hugging Face.

L'apertura arriva mentre le dimissioni dell'8 settembre di Jacob Coxon, ricercatore passato da OpenAI ad Anthropic, alimentano gli allarmi interni ai lab. Coxon accusa apertamente entrambe le aziende — per cui ha lavorato — di mettere a rischio l'umanità nella corsa alla superintelligenza, ossia a sistemi più capaci degli esseri umani in virtualmente ogni attività. OpenAI sta anche chiedendo al Congresso chiarimenti sulla legalità di un rallentamento coordinato, secondo Wired; un'intesa fra concorrenti che limita lo sviluppo potrebbe infatti entrare in conflitto con le norme antitrust.

Perché conta

Coxon definisce Anthropic “di gran lunga l’attore più responsabile nell’industria” e parla di una “night‑and‑day difference” rispetto a OpenAI nel modo in cui prende sul serio i rischi, pur dubitando che qualunque azienda possa fidarsi di sé stessa dentro la logica della corsa. Chi rallenta autonomamente rischia infatti di consegnare il vantaggio a un rivale che ritiene meno prudente; persino la convinzione di essere il soggetto più adatto a sviluppare un'AI sicura (molto radicata in Anthropic) diventa così, quasi paradossalmente, una ragione per accelerare ulteriormente.

• Il ricercatore ha lasciato appena due mesi prima di maturare il diritto alle azioni Anthropic previste dal suo contratto, rinunciandovi; conserva invece quelle di OpenAI. Un costo personale che rende poco convincente liquidare l'allarme come pubblicità. A sostenerlo è anche Evan Hubinger, responsabile dell'allineamento di Anthropic, che stima un rischio di estinzione superiore al 10% entro dieci anni: una valutazione personale, accompagnata però dall'ammissione che manca ancora del tutto un piano tecnico per mantenere una superintelligenza aderente alle intenzioni umane;
• Con modelli sempre più utili a costruire i propri successori, la ricerca AI può accelerare di generazione in generazione, accorciando il tempo disponibile per verificarne il comportamento. Gli agenti di OpenAI che durante una valutazione hanno attaccato Hugging Face, la piattaforma che ospita modelli e dati per l'AI, avevano aggirato i limiti imposti dagli umani proprio per raggiungere l'obiettivo assegnato. E se il problema di controllo accompagna già l'aumento delle capacità, il ciclo di automiglioramento interamente autonomo (recursive self-improvement, RSI) rimane uno scenario comunque prossimo;
• Accordarsi per rallentare può però significare limitare la concorrenza, e la liceità dipende dai dettagli dell'intesa, come spiega il giurista Nicholas Felstead su Lawfare. Una proposta bipartisan presentata a luglio cerca di creare un'esenzione antitrust per determinate collaborazioni sulla sicurezza, ma secondo Wired attende ancora l'esame alla Camera. John Schulman, cofondatore di OpenAI e oggi responsabile scientifico del laboratorio Thinking Machines, contesta però che l'incertezza giuridica giustifichi l'inazione, dacché i concorrenti possono già elaborare insieme una proposta prima ancora di decidere se e come impegnarsi a rallentare.

Adesso

• Interrogato il 10 settembre sul rischio di estinzione, Donald Trump ha detto di non esserne preoccupato, ribadendo la necessità di battere la Cina. La competizione che spinge i lab a correre è anche una priorità della Casa Bianca; un'intesa soltanto americana lascerebbe poi fuori i concorrenti esteri, motivo per cui Coxon sollecita un coordinamento internazionale;
• OpenAI ha chiesto il 9 settembre requisiti nazionali obbligatori e verifiche indipendenti, proponendo anche standard volontari fra lab con o senza sostegno governativo. Per dare sostanza alle verifiche servono però persone capaci di indagare fuori dalle aziende: è il lavoro scelto da Joe Benton e Josh Engels, usciti rispettivamente da Anthropic e Google DeepMind per passare a METR, organizzazione indipendente che valuta la sicurezza dell'AI. Vogliono rendere più conoscibili rischi che oggi il pubblico può giudicare soprattutto attraverso ciò che i lab decidono di divulgare;
• Steven Adler, ex ricercatore di sicurezza di OpenAI, indica sul New York Times interventi già possibili, a partire dal rendere pubblici anche gli incidenti sfiorati. Chiede inoltre registri delle attività dai quali risulti se gli agenti hanno alterato o cancellato le proprie tracce, proprio perché possono tentare di nasconderle. Sono le informazioni che servono anche per decidere quando fermarsi e verificare se le nuove protezioni funzionino. Per cominciare a raccoglierle e condividerle non occorre aspettare che Washington e Pechino si mettano d'accordo.