Leggi aggiornate, segnalazioni più efficaci: il blueprint di OpenAI per tutelare i minori

Cosa è successo

OpenAI ha rilasciato il proprio Child Safety Blueprint, un documento di policy sviluppato in collaborazione con il National Center for Missing & Exploited Children (NCMEC) e l'Attorney General Alliance — il network dei procuratori generali statali americani — con il contributo di Thorn, organizzazione specializzata nella tutela dei minori online.

Il documento punta su tre fronti: aggiornare le leggi statali per coprire esplicitamente il materiale pedopornografico generato o alterato dall'AI; migliorare la qualità e l'efficacia investigativa delle segnalazioni alla CyberTipline (la piattaforma di segnalazione nazionale gestita dal NCMEC); e integrare nelle piattaforme AI meccanismi di prevenzione e rilevamento già in fase di progettazione.

Perché è importante

L'Internet Watch Foundation ha rilevato oltre 8.000 segnalazioni di materiale pedopornografico generato dall'AI nella sola prima metà del 2025, con una crescita del 14% rispetto all'anno precedente. A gennaio, utenti della piattaforma Grok di xAI hanno generato circa 3 milioni di immagini di carattere sessuale in undici giorni, 23.000 delle quali coinvolgevano minori. Quarantacinque stati americani hanno già aggiornato le proprie leggi per coprire il CSAM generato da AI, ma cinque stati e il Distretto di Columbia non lo hanno ancora fatto — e la responsabilità penale per i tentativi bloccati dai guardrail delle piattaforme rimane legalmente ambigua in buona parte del Paese.

Estendere la copertura legislativa, chiarire la responsabilità anche per i tentativi andati a vuoto, alzare la qualità delle segnalazioni alle forze dell'ordine: tutte le misure proposte rispondono a lacune documentate. Brad Carson, ex membro del Congresso ed ex sottosegretario alla Difesa, approva la struttura ed il focus sulla responsabilità per i tentativi di generazione (i prompt), ma segnala quattro pesanti assenze: tutto il framework è non-binding, quindi volontario; i modelli a pesi aperti —ovvero scaricabili e modificabili liberamente da chiunque senza guardrail centralizzati — non vengono trattati pur essendo probabilmente il fronte più esposto; sono assenti norme che attribuiscano alle piattaforme una responsabilità concreta per il CSAM generato attraverso i propri sistemi; e mancano anche standard robusti di provenienza e watermarking che permettano di risalire dal materiale al modello che lo ha prodotto.

OpenAI può affinare i propri guardrail e migliorare le segnalazioni; e naturalmente collaborare con il NCMEC. Non può però aggiornare le leggi statali né imporre standard a modelli distribuiti da altri — e il documento non affronta il problema.

E adesso?

Gli stessi procuratori generali che firmano la prefazione al blueprint riconoscono esplicitamente che la forza di qualsiasi framework volontario dipende dalla specificità degli impegni e dalla disponibilità dell'industria ad essere ritenuta responsabile; Anthropic, ad esempio, ha recentemente rivisto “al ribasso” le sue Responsible Scaling Policy sulla safety, annullando di fatto i vincoli che si era impegnata a rispettare — senza dover dare realmente conto a terzi.

La sola legge federale pertinente — il Take It Down Act del 2025, che vieta la condivisione di immagini intime non consensuali incluse quelle generate dall'AI — copre però un perimetro più stretto del CSAM in senso lato. Il vuoto normativo che il blueprint vorrebbe colmare richiede un'azione del Congresso che per ora non è all'orizzonte. Mentre, speditamente, i modelli continuano a diventare più capaci.