Quando l’innovazione nell’AI si sposta dall’algoritmo all’interazione uomo–macchina

Cosa è successo?

Nel suo contributo su LSE Business Review, Kostakis Bouzoukas mostra come la frontiera dell’innovazione nell’intelligenza artificiale non sia più la performance del modello, ma il modo in cui esso viene integrato nei processi decisionali umani. L’analisi distingue tre ruoli operativi dell’AI: sistemi che consigliano (previsioni, ranking, stime di rischio), che aumentano il lavoro umano (bozze, segnalazione di anomalie) e che automatizzano decisioni a basso impatto entro confini rigidi. In pratica, però, molte organizzazioni confondono questi ruoli. Mappature interne mostrano che strumenti introdotti come semplici piloti o supporti decisionali finiscono spesso per operare come automazioni di fatto, talvolta senza un responsabile umano formalmente identificato.

Perché è importante?

Questa ambiguità crea un disallineamento critico tra rischio e controllo. Ruoli diversi dell’AI implicano profili di rischio profondamente differenti, ma se non vengono progettati esplicitamente, i sistemi scivolano verso l’automazione senza adeguate salvaguardie. L’innovazione, quindi, non riguarda più solo “quanto è bravo il modello”, ma come vengono definite soglie di confidenza, regole di escalation e possibilità di intervento umano. Senza un design intenzionale dell’interazione, l’AI porta o a un eccesso di fiducia cieca (rubber-stamping) o, all’opposto, a un sottoutilizzo sistematico.

E adesso?

La ricerca e l’innovazione sull’AI devono concentrarsi sulle architetture socio-tecniche: chi decide cosa, quando e con quale grado di autonomia della macchina. Il vantaggio competitivo si sposta verso chi progetta meglio l’interfaccia decisionale tra umano e AI, non verso chi ottiene solo incrementi marginali di accuratezza. In questo contesto, l’impatto dell’innovazione dipenderà sempre più dalla qualità del design dell’interazione e sempre meno dall’algoritmo in sé.