Queste azioni sono spesso orchestrate da operazioni di informazione (IO) sponsorizzate dallo stato, che tentano di influenzare l'opinione pubblica durante i principali eventi geopolitici come le elezioni statunitensi, la pandemia di COVID-19 e altro ancora.

Combattere questi IO non è mai stato così cruciale. L'identificazione delle campagne di influenza con una tecnologia ad alta precisione ridurrà in modo significativo la classificazione errata degli utenti legittimi come fattori di IO, garantendo che i fornitori di social media o le autorità di regolamentazione non sospendano erroneamente gli account nel tentativo di frenare le attività illecite.

Alla luce di ciò, Luca Luceri, ricercatore dell’USC Information Sciences Institute (ISI), sta co-guidando uno sforzo per identificare e caratterizzare le campagne di influenza sui social media. Il suo articolo più recente "Unmasking the Web of Deceit:Uncovering Coordinated Activity to Expose Information Operations on Twitter" è stato presentato alla conferenza web del 13 maggio 2024.

"Io e il mio team abbiamo lavorato sulla modellazione e sull'identificazione dei driver IO come bot e troll negli ultimi cinque-dieci anni", ha affermato Luceri. "In questo documento, abbiamo avanzato le nostre metodologie per proporre una suite di modelli di machine learning supervisionati e non supervisionati in grado di rilevare campagne di influenza orchestrate da diversi paesi all'interno della piattaforma X (ex Twitter)."

Una rete fusa di comportamenti simili

Attingendo a un set di dati completo di 49 milioni di tweet provenienti da campagne verificate originarie di sei paesi (Cina, Cuba, Egitto, Iran, Russia e Venezuela), Luceri e il suo team hanno affinato cinque comportamenti di condivisione su X a cui partecipano i conducenti IO.

Questi includono co-retweeting (condivisione di tweet identici), co-URL (condivisione degli stessi collegamenti o URL), sequenza hashtag (utilizzo di una sequenza identica di hashtag all'interno dei tweet), retweet veloce (ricondivisione rapida di contenuti dagli stessi utenti), e somiglianza del testo (tweet con contenuto testuale simile).

Precedenti ricerche si erano concentrate sulla costruzione di reti che mappassero ogni tipo di comportamento, esaminando le somiglianze tra i singoli utenti su X. Tuttavia, Luceri e il suo team hanno notato che questi account spesso impiegano molte strategie contemporaneamente, il che significava che monitorare una traccia comportamentale era più semplice. non abbastanza.

"Abbiamo scoperto che il co-retweeting è stato utilizzato in modo massiccio nelle campagne a Cuba e in Venezuela", ha spiegato Luceri. "Tuttavia, se esaminassimo solo il co-retweeting senza considerare altri comportamenti, otterremmo buoni risultati nell'identificare alcune campagne, come quelle originarie di Cuba e Venezuela, ma male dove il co-retweeting è stato utilizzato meno, come nelle campagne russe."

Per catturare una gamma più ampia di comportamenti di condivisione coordinati, i ricercatori hanno costruito una rete di somiglianza unificata chiamata Rete fusa. Quindi, hanno applicato algoritmi di apprendimento automatico alimentati dalle proprietà topologiche della rete fusa per classificare le somiglianze di questi account e prevedere la loro futura partecipazione agli IO.

Luceri e il suo team hanno scoperto che questo metodo potrebbe essere applicabile alle campagne in tutto il mondo. Più utenti X all'interno della stessa campagna, indipendentemente da dove provenissero, hanno mostrato una notevole somiglianza collettiva nelle loro azioni.

"Considero il nostro lavoro un cambio di paradigma nei metodi di ricerca, offrendo una nuova prospettiva nell'identificazione delle campagne di influenza e dei loro fattori trainanti", ha affermato Luceri.

Sbloccare nuove opportunità

Il modello di machine learning senza supervisione sfrutta funzionalità di rete ben note ma sottoutilizzate, ottenendo una precisione superiore del 42% rispetto ad altri approcci tradizionali per rilevare le campagne di influenza. Luceri vede questo articolo come un punto di partenza che potrebbe aprire la strada a ulteriori percorsi di ricerca.

"Possiamo addestrare modelli sulle caratteristiche topologiche di questa rete di similarità e farli funzionare in scenari complessi:ad esempio, se diversi utenti provenienti da paesi diversi interagiscono tra loro, o situazioni più impegnative in cui disponiamo di informazioni limitate sulle campagne," - ha osservato Luceri.

Luceri ha anche presentato alla Web Conference un altro articolo "Leveraging Large Language Models to Detect Influence Campaigns in Social Media", che ha ricevuto il premio per il miglior articolo dall'International Workshop on Computational Methods for Online Discourse Analysis (BeyondFacts'24). Il documento esamina il potenziale dell’utilizzo degli LLM per riconoscere i segnali delle campagne di influenza guidate dall’intelligenza artificiale. Ciò è particolarmente cruciale nel clima attuale, in cui i media creati dall'intelligenza artificiale sono pervasivi.

"Queste attività coordinate hanno conseguenze nella vita reale", ha detto Luceri. "Hanno il potere di diffondere disinformazione e teorie del complotto che potrebbero portare a proteste o attacchi alla nostra democrazia, come l'interferenza dei troll russi nelle elezioni americane del 2016."

Luceri e il suo team sono impegnati a continuare la ricerca di strategie alternative per identificare campagne di influenza e proteggere gli utenti suscettibili all'influenza.