OpenAI ha identificato una campagna di influenza russa che promuoveva un think tank fittizio su 5 piattaforme social

Cos’è successo

OpenAI ha annunciato di aver interrotto e bannato un gruppo di account, registrati sul suo LLM ChatGPT: erano di origine russa e utilizzati in una sofisticata campagna di influenza. Gli operatori, che accedevano tramite VPN (dato che i modelli OpenAI non sono disponibili dalla Russia), generavano commenti e post in inglese su X, LinkedIn, Facebook, Substack e Telegram, istruendo il modello a nascondere ogni indizio linguistico della loro origine russa.

Il cuore dell’operazione era la promozione di un presunto International Burke Institute (IBI), una comunità di esperti con sede in Israele, il cui sito (registrato a febbraio 2025) presentava articoli accademici copiati da fonti reali, spesso con attribuzioni false o errate, e un indice di sovranità che elogiava la Russia e denigrava i Paesi occidentali (Francia, Germania, USA, e UE). Molti testi, nonostante le istruzioni, mostravano tracce di traduzione automatica da lingue slave.

Oltre ai post proattivi, gli operatori generavano risposte a utenti reali e gestivano canali Telegram (tra cui “Lahme Ente” in tedesco) critici verso Ucraina, UE e occidente. OpenAI ha definito questa campagna particolarmente elaborata rispetto a precedenti operazioni russe di influenza interrotte dall’inizio della guerra in Ucraina.

Perché conta

Si tratta di un’evoluzione delle operazioni di influenza russe: non più solo bot e troll farm, ma la costruzione di un’intera infrastruttura di “pensatoio” fittizio con contenuti accademici rubati e un indice di sviluppato su misura.

• Dimostra come gli attori statali usino l’AI generativa per amplificare e rendere più credibili campagne di disinformazione a basso costo, nascondendo la propria origine. In un mondo sempre più digitalizzato, generare credenziali fittizie è più facile;
• Le piattaforme di AI sono diventate un terreno di battaglia per le operazioni di influenza ibrida, e che l'identificazinoe proattiva da parte delle aziende tech può interromperle prima che scalino.

Adesso

• OpenAI continuerà a monitorare e condividere indicatori di minaccia con partner e governi; altre piattaforme (social e AI) dovranno rafforzare i controlli su account e contenuti generati. Ciò può valere per Grok di xAI, per Claude di Anthropic, ma la domanda è se varrà anche per i modelli aperti occidentali e non;
• L’International Burke Institute e i canali collegati rischiano di essere smantellati o migrare verso altre piattaforme; l’efficacia della campagna resta limitata, ma il modello può essere replicato, con effetti difficili da prevedere ma possibilmente importanti -- specie se generati di sponda ad attori presenti nei Paesi obiettivo;
• Sul medio termine, casi come questo spingeranno verso una maggiore cooperazione tra aziende di AI, governi e piattaforme social per rilevare e attribuire operazioni di influenza, e verso regole più chiare sull’uso di modelli generativi in contesti di disinformazione di Stato. Il problema si pone quando gli attori non sono più russi ma in contatto con la Russia: in quel caso, si entra in un campo minato perché da una parte c'è un attacco ai sistemi democratici e dall'altra i limiti posti dai loro fondamenti, tra cui il diritto di opinione.