OpenAI affirme avoir fermé les comptes liés à deux opérations d’influence qui utilisaient l’intelligence artificielle pour alimenter de faux médias et un faux groupe de réflexion. L’une est attribuée à des acteurs russes, l’autre à des acteurs iraniens. Dans les deux cas, l’IA a surtout accéléré des méthodes de manipulation déjà connues.
Un faux centre de recherche piloté depuis la Russie
La première opération, baptisée « Dark Clark » par OpenAI, ciblait plusieurs pays d’Amérique latine. Ses responsables auraient utilisé ChatGPT pour rédiger des rapports internes, préparer certains contenus et suivre l’activité d’une plateforme présentée comme un centre de recherche indépendant.
Selon l’entreprise, les opérateurs ont recruté des personnes sur place qui ne savaient pas qu’elles travaillaient pour une structure contrôlée depuis la Russie. Ce dispositif leur a permis de produire des analyses originales, de contacter des experts et de donner une apparence crédible au projet. Des documents et des enregistrements falsifiés ont également circulé.
OpenAI classe Dark Clark au niveau 5 sur 6 de son échelle de diffusion des opérations d’influence. C’est le niveau le plus élevé attribué à une opération neutralisée par l’entreprise depuis le début de ses rapports publics. Ce classement reflète sa capacité à atteindre des médias, des responsables et des institutions au-delà de ses propres comptes sociaux.
Sept faux journalistes pour l’opération iranienne
La seconde campagne, surnommée « Bogus Bylines », aurait créé sept profils de journalistes. Ces personnages proposaient des tribunes et des articles à des médias en ligne de petite ou moyenne taille. Les thèmes portaient notamment sur le conflit entre les États-Unis et l’Iran.
Près d’une centaine de textes auraient été proposés. L’opération a aussi généré des séries de commentaires destinés aux réseaux sociaux. OpenAI lui attribue un niveau 4 sur son échelle, car une partie des contenus a été reprise par de véritables publications.
L’IA accélère une mécanique plus ancienne
Le rapport ne décrit pas une manipulation entièrement automatisée. Les opérateurs combinaient des modèles génératifs, des identités fictives, des relais humains et des techniques classiques de relations presse. L’IA améliorait la vitesse de rédaction, la traduction et la cohérence éditoriale, mais la diffusion dépendait toujours de personnes ou d’organisations trompées.
Ce constat déplace le risque. Le problème ne réside pas seulement dans la production massive de messages sur les réseaux sociaux. Une fausse rédaction ou un faux institut peut chercher à obtenir la légitimité d’un média existant, d’un chercheur ou d’un responsable politique.
La transparence devient un outil de défense
OpenAI indique avoir interdit les comptes concernés et partagé des informations avec les autorités compétentes. La société souligne aussi que ces opérations sont vulnérables à l’exposition publique : une fois leurs identités et leurs méthodes documentées, leurs relais deviennent plus difficiles à maintenir.
Pour les rédactions et les institutions, le signal d’alerte est concret. L’identité d’un auteur, l’existence réelle d’une structure, l’origine des documents et la chaîne de publication doivent être vérifiées séparément. Un texte crédible et bien traduit ne constitue plus une preuve suffisante de provenance.
Sources : rapport d’OpenAI, NBC News et CyberScoop.
