Claude scrive l'80% del suo codice e Anthropic chiede una pausa globale dell'AI perché il lavoro umano sarà sempre meno competitivo

Cos’è successo

L'Anthropic Institute, centro di ricerca interno ad Anthropic dedicato allo studio e alla definizione dell'impatto globale dell'intelligenza artificiale, ha pubblicato dati interni sul proprio avvicinamento al recursive self-improvement (Rsi) – in italiano, automiglioramento ricorsivo – ovvero il punto in cui un'AI sarebbe capace di progettare e addestrare da sola il proprio successore, migliorandosi senza intervento o supervisione umane. Non ci siamo ancora, scrivono gli autori Marina Favaro e Jack Clark, e non è un esito inevitabile, ma l’Rsi potrebbe arrivare molto prima di quanto le istituzioni siano pronte ad assorbire. Già oggi oltre l'80% del codice che Anthropic manda in produzione lo scrive Claude, AI sviluppata da Anthropic stesso, contro una manciata di punti percentuali appena un anno fa.

E, insieme ai numeri, arriva un'ammissione inusuale per un lab di frontiera: un rallentamento globale "sarebbe una cosa buona", scrivono. Anthropic sostiene che si fermerebbe davvero, in una sorta di pausa, a patto che lo facciano anche gli altri — in modo verificabile. Il tutto nella stessa settimana in cui ha chiuso un round di investimenti da 65 miliardi di dollari, depositato i documenti per l'Offerta pubblica iniziale per lo sbarco in Borsa e visto il run-rate, cioè il fatturato proiettato su base annua, puntare ai 50 miliardi di dollari.

Perché conta

Che l'Rsi sia destinata ad arrivare lo si va dicendo da tempo; ma è interessante notare come Anthropic abbia messo nero su bianco come la velocità di avvicinamento stia crescendo più in fretta del "molto in fretta" già preventivato. Ne sono prova i numeri analizzati su vari ambiti in cui Claude è stato coinvolto negli ultimi anni, che hanno forma palesemente esponenziale. Il tempo-orizzonte dei compiti che un modello porta a termine da solo, ad esempio, raddoppiava ogni sette mesi fino allo scorso anno; ora ce ne vogliono quattro. Se Claude Opus 3 portava a termine compiti da quattro minuti due anni fa, Opus 4.6 arriva a dodici ore; e per il 2027 si parla di settimane.

• Sul fronte dell'esecuzione, nell'ottimizzare il codice di un esperimento, Claude è passato da un'accelerazione di 3x a una di 52x in un anno — "da super utile a superumano", scrive Anthropic — dove un umano esperto si ferma a 4x in mezza giornata. Il sorpasso, in pratica, è già avvenuto. Edison (ripreso da Clark e Favaro) diceva che “il genio è 1% ispirazione e 99% sudore”; ed è proprio il sudore, la parte ripetitiva e incrementale del progresso, a essere già automatizzato;
• Il bastione umano sarebbe quell’1% rimanente, il giudizio: scegliere quali problemi contano, di quali risultati fidarsi. Ma anche lì il terreno pare stia iniziando a cedere. Su una selezione di passaggi critici, il modello migliore sceglieva la mossa successiva meglio dell'umano nel 51% dei casi già a novembre, numero passato a 64% ad aprile. E, in un problema di sicurezza lasciato interamente agli agenti AI, sistemi in grado di prendere decisioni autonome e compiere azioni mirate senza la costante supervisione umana, questi hanno recuperato il 97% del divario progettando da soli ogni esperimento (all'uomo restava solo scegliere il problema), contro il 23% di due ricercatori in una settimana. La "ricerca come gusto", avverte la stessa Anthropic, potrebbe essere solo l'ennesima skill in cui l'AI è meno capace — finché, di colpo, non lo è più;
• Anche se le capacità si fermassero a oggi, nello scenario che Anthropic giudica più probabile il lavoro della conoscenza sarebbe già stravolto; in quello del pieno Rsi "il lavoro umano smetterebbe di essere competitivo". Al netto della complessità del deployment, dunque — per cui distribuire nell’economia reale un’AI incontra tutta una serie di intoppi — cittadini, economia e ordinamenti sarebbero quasi del tutto impreparati ad assorbire lo shock rapido di un sistema in cui il contributo umano diventa largamente ancillare. Non c’è un precedente e al momento, ricorda Anthropic, ancora c’è troppa poca consapevolezza per mettere su contromisure serie.

Adesso

• L'apertura di Anthropic a una pausa è probabilmente onesta, ma resta un'impresa improba. Fermarsi sul serio richiederebbe che più lab di punta, in più paesi — Cina inclusa — si fermassero insieme e potessero verificare a vicenda di averlo fatto. E l’addestramento di un modello AI è molto più facile da nascondere di un silo missilistico, con un incentivo enorme a barare: chi continua mentre gli altri si fermano eredita il primato. I trattati nucleari ci hanno messo decenni, mentre "ora quel tempo non ce l’abbiamo", ammette la stessa Anthropic;
• Resta il paradosso del messaggero. A suonare l'allarme è il lab in testa alla corsa, con i dati interni che nessun altro possiede, nella settimana della propria Ipo; e la formula "rallenteremmo, ma solo se rallentano tutti" è insieme la posizione più onesta del settore e la più comoda, perché “compra” l'aureola della cautela mentre la corsa prosegue. Chi la accusa di "regulatory capture", come David Sacks, probabilmente forza la mano; ma il punto regge anche senza malizia, perché quella posizione è auto-interessata per costruzione. Il lab, come dice Ethan Mollick, è "un misto" di azienda da mille miliardi, ricercatori e filosofi in conflitto tra loro;
• La questione da seguire, allora, è se dalle "conversazioni" che Anthropic promette di avviare uscirà effettivamente un meccanismo di verifica oppure l'ennesima passerella. Il divario aumenta, i lab hanno un moltiplicatore 8x per adattarsi alla propria rivoluzione, la società no.