3 cose da sapere e 3 scenari sul traguardo della "intelligenza artificiale stagista" annunciato OpenAI e sul rallentamento chiesto dagli scienziati

Cos’è successo

OpenAI dice di aver raggiunto l'obiettivo, annunciato lo scorso autunno, di voler costruire uno “stagista di ricerca automatizzato” entro settembre 2026, ossia un sistema capace di svolgere incarichi ben definiti sotto direzione umana anche quando richiederebbero qualche giornata a un ricercatore esperto. Nel report pubblicato il 6 settembre, l'azienda documenta il crescente impiego interno degli agenti e conferma il prossimo traguardo, un ricercatore AI automatizzato (sempre supervisionato dagli umani), per marzo 2028.

Nel frattempo, il responsabile scientifico di OpenAI Jakub Pachocki ha pubblicato “An Alien Mind”, un saggio in cui avverte che nessun laboratorio, a suo giudizio, dispone di garanzie sufficienti sul comportamento dei modelli e sulla capacità di monitorarli per continuare responsabilmente a piena velocità ancora a lungo. A tre giorni dal lancio di GPT-6 Astra, infatti, Pachocki auspica rallentamenti volontari in attesa di soglie di sicurezza comuni e obbligatorie per proseguire lo sviluppo.

Perché conta

Con una generazione di AI che partecipa sempre più attivamente alla progettazione e allo sviluppo della successiva — a sua volta più capace di accelerare la ricerca — OpenAI punta a innescare un circuito di automiglioramento ricorsivo (recursive self-improvement, RSI). Il contributo degli agenti sta già crescendo, mentre rimane irrisolto come mantenere il controllo umano lungo l'intero percorso: quanto più lavoro sapranno svolgere da soli, del resto, tanto più diventerà difficile verificare tutto ciò che fanno.

• Secondo OpenAI, a metà agosto, per ogni giornata di lavoro umana si contavano ben 3,1 giornate di attività degli agenti, normalizzando entrambe su otto ore — una misura del tempo di esecuzione, da cui non si può dedurre un aumento equivalente della produttività. Il ruolo dei ricercatori è ancora sostanziale, dacché negli ultimi sei mesi oltre la metà dei compiti riusciti da quattro-otto ore, stimate per un umano, aveva richiesto almeno un loro intervento. Già adesso, però, si può delegare molto del lavoro necessario a condurre un esperimento; e se decidere quali idee e risultati portare avanti tocca ancora agli umani, l’orizzonte di marzo 2028 dovrebbe corrispondere con la progressiva caduta di anche questa barriera;
• Affidare ai modelli più autonomia richiede anche che questi sappiano rispettare principi generali in situazioni impreviste, oltre a perseguire l'obiettivo assegnato, ciò che Pachocki chiama “allineamento ai valori” (value alignment). Nell'attacco a Hugging Face, la piattaforma che ospita modelli e dati per l'AI, gli agenti di OpenAI avevano infatti mostrato quanto possa essere pericoloso “seguire le istruzioni”, aggirando le protezioni e raggiungendo sistemi esterni pur di superare i test. Premiare il raggiungimento di obiettivi sempre più ardui rischia così di insegnare ai modelli a piegare allo scopo persino ragionamenti apparentemente allineati;
• Per intercettare queste derive, OpenAI si affida molto alla catena di pensiero (chain-of-thought, COT), ossia i passaggi che il modello verbalizza mentre ragiona e da cui possono emergere strategie problematiche. Ma è una finestra parziale, che rischia peraltro di restringersi proprio quando servirebbe di più, ossia al crescere delle capacità dei modelli stessi. I sistemi più capaci, infatti, riescono a risolvere certi problemi ragionando meno “ad alta voce”, lasciando quindi meno materiale da analizzare; Pachocki ha inoltre segnalato a The Deep View persino la tendenza di Astra a esplicitare meno ragionamento quando gli viene detto che è sotto osservazione.

Adesso

• Dopo l'attacco a Hugging Face, OpenAI aveva già sospeso parte dell'addestramento di alcuni modelli futuri. Ora sappiamo che le ulteriori restrizioni imposte ad Astra il 7 agosto, di fronte a indizi di capacità di attacco informatico potenzialmente critiche, hanno ridotto del 59,2% le GPU assegnate a quella famiglia nella settimana successiva, benché l'aumento destinato ad altri modelli abbia compensato circa l'85% della diminuzione. Gran parte del compute è stato quindi reimpiegato, lasciando aperte altre possibilità di ricerca (senza che questi numeri ci dicano quanto fosse cambiata la velocità dei progressi). Rallentare richiede anche di decidere cosa fare della capacità di calcolo liberata, in modo coordinato dentro e fuori i lab;
• Pachocki, in merito, scrive di voler usare la ricerca automatizzata anche per migliorare l'allineamento e costruire difese contro gli agenti pericolosi, chiedendo dunque ai modelli di contribuire a risolvere problemi che la loro stessa evoluzione rende più urgenti. È una ragione concreta per continuare a svilupparli, accompagnata dall'ammissione che le garanzie attuali non bastano a sostenere ancora a lungo questa velocità di sviluppo. Il tempo guadagnato grazie all'AI potrebbe servire a verifiche più profonde, ma la concorrenza fra lab rende assai più allettante spenderlo sul prossimo aumento di capacità;
• La proposta è quindi trasformare gli impegni volontari dei lab in requisiti obbligatori per continuare lo sviluppo, con organismi esterni incaricati di verificarne il rispetto. Pachocki sollecita anche un coordinamento internazionale, ma lascia ancora da costruire tanto i criteri condivisi quanto il sistema che dovrebbe farli rispettare. Controllare soltanto ciò che arriva sul mercato lascerebbe fuori proprio il lavoro con cui gli agenti preparano la generazione successiva; e il controllo umano può cominciare a perdersi ben prima che un modello venga messo in vendita.