In un post sul suo blog, OpenAI ha rivelato di aver bloccato due “operazioni di influenza” provenienti da Russia e Iran che utilizzavano ChatGPT per diffondere propaganda creando profili di falsi giornalisti (nel caso dell’Iran) e gestendo un think-tank fittizio (russo), abbastanza efficace, secondo OpenAI, da alimentare in un caso tensioni pubbliche tra Ucraina e Polonia, “indicando un livello di penetrazione superiore a quello di qualsiasi operazione di influenza che abbiamo interrotto negli ultimi due anni”. Gli account sono stati sospesi da OpenAI. Per quanto riguarda l’operazione iraniana “abbiamo identificato quasi 100 articoli pubblicati o distribuiti con le firme dell’operazione in circa una dozzina di testate online in tutto il mondo”, ha affermato OpenAI. “Si trattava di testate di piccole e medie dimensioni, generalmente focalizzate su affari internazionali, geopolitica ed eventi in Medio Oriente”.
L’operazione ha usato sette profili di finti “giornalisti”. Questi profili fake sostenevano di avere provenienza occidentale e hanno iniziato a pubblicare nel luglio 2025 fino a ottobre 2026. Le pubblicazioni sono aumentate dopo l’inizio della guerra in Iran, e gli articoli avevano titoli come “La guerra in Iran e il crollo della credibilità morale occidentale”. Con gli stessi account venivano anche prodotti commenti sui social. Uno dei profili, a nome Ervin B. Hoskins, “scrittore freelance americano”, aveva account social su diverse piattaforme. Anche dagli account social OpenAI è risalita alla provenienza degli autori. L’operazione russa invece avrebbe ingannato “persone inconsapevoli” in America Latina per gestire un “think-tank”, chiamato Social research center (Src), utilizzato per attività segrete volte a minare la reputazione dell’Ucraina nella regione e per influenzare la politica locale, ha affermato l’azienda. “Le prove disponibili indicano che i dipendenti del Src in America Latina non erano consapevoli di lavorare per un gruppo russo”, ha precisato OpenAI.
Entrambe le operazioni “agivano su più fronti, sperimentando tattiche diverse per raggiungere i propri obiettivi. Oltre ai lunghi articoli, l’operazione iraniana generava gruppi di commenti per i social media, generalmente su temi legati alla guerra USA-Iran. Oltre a controllare il ‘centro studi’, l’operazione russa creava falsi documenti ‘trapelati’ e testi per registrazioni audio, alcuni dei quali sono stati individuati online. Entrambe le operazioni facevano anche ampio uso dell’Ai per redigere rapporti interni (per quella russa era l’impiego principale)”, scrive OpenAI. Usando la Breakout Scale, che valuta le operazioni di influenza su una scala da 1 (minimo) a 6 (massimo), “collocheremmo l’operazione di origine russa nella Categoria 5. È la prima operazione di Categoria 5 che abbiamo interrotto da quando pubblichiamo i nostri rapporti”, spiega OpenAI. “L’operazione di origine iraniana ha raggiunto la Categoria 4. Entrambe sono riuscite a far pubblicare i propri contenuti, non tutti generati con i nostri modelli, su testate dei media tradizionali, anziché limitarsi a postarli sui social media”.