AI sanitaria: quando la sintesi diventa un rischio sistemico

Cosa è successo?

Dopo un’inchiesta di The Guardian, Google ha rimosso alcune AI Overviews sanitarie dai risultati di ricerca, riconoscendo che fornivano informazioni inesatte e potenzialmente pericolose. In particolare, le sintesi automatiche sui valori “normali” degli esami del fegato presentavano elenchi numerici privi di contesto clinico (età, sesso, etnia), rischiando di indurre pazienti con patologie gravi a credere di essere sani e a rinviare cure o controlli. Le rimozioni hanno riguardato query specifiche, ma variazioni minime delle stesse continuano a generare risposte AI.

Perché è importante?

Il caso evidenzia un problema strutturale: quando l’AI è integrata a monte dell’accesso all’informazione (91% di quota globale per Google Search), anche piccoli errori diventano rischi sistemici. In sanità, la sintesi senza contesto clinico non è una semplificazione innocua, ma una potenziale fonte di danno. Per policymaker e dirigenti, il punto chiave è che confidenza algoritmica ≠ affidabilità clinica, soprattutto se manca un chiaro handoff verso fonti certificate e professionisti.

E adesso?

Servono standard più stringenti: guardrail ex ante per l’AI sanitaria, audit clinici indipendenti, obblighi di signposting verso servizi medici affidabili e limiti chiari alle risposte automatiche. Per le aziende, la lezione è operativa: in ambiti ad alto rischio, l’AI generalista va sostituita con soluzioni dedicate, tracciabili e governate. La fiducia, una volta persa, è costosa da ricostruire.