I superforecaster concordano sulla velocità esplosiva dell'AI — ma non su cosa ciò significhi

Cosa è successo

Stefan Schubert, sul suo popolare Substack “The Update”, ha messo in fila le reazioni al post di Ajeya Cotra qui ripreso la settimana scorsa, in cui la ricercatrice di METR ammetteva di aver sottostimato nuovamente le capacità dell'AI e assegnava un 10% alla possibilità che la R&D sull'AI possa essere completamente automatizzata entro fine anno.
Le reazioni sono istruttive per l'ampiezza del disaccordo, più che le singole posizioni. Tra persone che comunque partono tutte dallo stesso presupposto: si va veloci.
Il superforecaster Peter Wildeford, ad esempio, stima che l'AI sostituirà tutti i ricercatori AI entro il 2026-2030, tutto il lavoro white-collar entro il 2027-2033, tutta l'industria umana entro il 2032-2040. Eli Lifland, tra gli autori dell'AI Futures Model (successore del progetto AI 2027), gli ha fatto notare che secondo il proprio modello tra il primo e l'ultimo di quei passaggi intercorrono circa due anni, non quindici.
Il disaccordo è su quanto velocemente gli effetti si propagheranno nell'economia reale: Lifland pensa che la superintelligenza sarà così potente da rendere costosissimo non adottarla, comprimendo i tempi; Wildeford è più cauto sui bottleneck di diffusione.
Matthew Barnett ha aggiunto la voce più scettica, pur restando nel campo di chi si aspetta progressi rapidi. La sua tesi è che esista un "benchmark-reality gap".
I task su cui METR misura gli orizzonti temporali sono prevalentemente legati al software, facilmente valutabili e ben definiti. Non colgono management, pianificazione su obiettivi sfumati, autonomia generale su compiti ambigui.
Anche quando gli agenti riusciranno a completare task da un mese nella suite METR, gli effetti trasformativi sull'economia non seguiranno rapidamente, secondo lui — e persino l'automazione della R&D sull'AI sarà parziale, poi strozzata da compute e dati.
In molti, nota Schubert, si sono detti d'accordo con Barnett.

Perché è importante

Nella nostra narrazione di queste settimane abbiamo seguito la traiettoria da vicino: la curva GDPval di GPT-5.4 (dal 38,8% all'83% in quattro mesi), i time horizon della stessa Cotra che raddoppiano ogni pochi mesi, la tesi sulla scomponibilità che apre la porta a progetti di scala arbitraria. I numeri sono quelli e non c'è motivo di contestarli.
Il passaggio dai benchmark all'impatto reale è un’altra cosa, però, come articola bene Barnett: eccellere nel software non implica (per forza) una generalizzazione, per cui saper gestire, pianificare, operare in contesti dove i criteri di successo sono sfumati e l'autonomia richiesta è aperta non è una conseguenza obbligata.
In coda, Schubert aggiunge un punto prezioso circa l’ effetto di selezione sistematico per cui chi crede che le timeline siano brevi è più motivato a sviluppare competenza specifica nel campo. Il pool degli esperti di timeline AI finisce così per essere strutturalmente sbilanciato verso chi pensa che le cose andranno velocissimo; non un’osservazione che invalida le previsioni, ma un caveat epistemologico valido da tenere a mente.

E adesso?

La direzione non è in discussione e la velocità nemmeno, ma soppesare tutte queste considerazioni, conclude Schubert, è "diabolicamente difficile". La distanza tra il benchmark e il mondo reale, tra la capacità tecnica e la sua diffusione nell'economia, tra il progresso sui task definiti e l'autonomia su quelli aperti — qui è dove si annida tutta la (diabolica) incertezza che conta. E nessuno, nemmeno i migliori forecaster, sa ancora come misurarla.