Comment des Russes ont utilisé ChatGPT pour inonder les réseaux de faux contenus

OpenAI a annoncé avoir banni un groupe de comptes ChatGPT liés à la Russie, utilisés pour mener une opération d'influence coordonnée sur plusieurs plateformes. Ces comptes contournaient les restrictions géographiques d'accès au service grâce à des VPN.

Les contenus générés ont été diffusés sur Substack, Telegram, X, Facebook et LinkedIn. L'opération visait à promouvoir une entité fictive et à façonner une image favorable de la Russie à l'international.

Une fausse institution comme façade

Au centre du dispositif se trouvait l'International Burke Institute (IBI), présenté comme une communauté d'experts internationaux en économie, politique et relations internationales. Son site web a été enregistré en février 2025.

OpenAI a établi que de nombreux articles publiés sur ce site avaient été copiés depuis des travaux académiques, parfois avec de fausses attributions. D'autres textes semblaient avoir été rédigés par un locuteur slavophone, puis traduits automatiquement en anglais. Rien n'indique que ChatGPT a servi à produire ces articles, mais l'outil a bien été mobilisé pour créer des publications promotionnelles pointant vers ce site.

L'un des opérateurs a également utilisé ChatGPT pour générer l'image de profil d'un canal Telegram baptisé "American Observer" et demandait régulièrement des résumés en russe de l'activité de ce canal.

Un indice de souveraineté taillé sur mesure

L'opération comprenait aussi la création d'un "Burke Index", présenté comme un indice mesurant la souveraineté des États selon sept critères : politique, économique, technologique, informationnel, culturel, cognitif et militaire. Chaque dimension est calculée sur une base de 100 points, pour un total cumulé possible de 700.

Dans ce classement, les États-Unis arrivent en tête avec 650,9 points, suivis par la Chine (649,1) et la Suisse (610,7). La Russie obtient 601,4 points, avec un profil décrit comme celui d'un État à haut niveau de souveraineté et d'autosuffisance militaire et économique. OpenAI souligne que cet indice est distinct des opérations d'influence russes déjà documentées et constitue l'un des éléments les plus caractéristiques de cette campagne.

Une portée limitée, mais une infrastructure préoccupante

L'audience réellement touchée reste modeste. Les canaux Telegram de l'opération comptaient entre 10 000 et 20 000 abonnés chacun. La grande majorité des contenus était rédigée en anglais, et les opérateurs demandaient explicitement à ChatGPT d'effacer tout indice linguistique pouvant trahir une origine russe.

OpenAI insiste sur le fait que la portée numérique de l'opération importe moins que l'infrastructure construite autour d'elle. L'institution fictive, ses prétendus experts, ses contenus académiques détournés et son indice propriétaire formaient un ensemble suffisamment crédible pour asseoir une légitimité apparente.

Selon la société, cette affaire illustre comment des acteurs malveillants peuvent utiliser l'IA comme outil d'appui dans une stratégie plus large, visant à fabriquer de l'autorité, à masquer l'origine réelle des récits promus et à bâtir des actifs susceptibles d'être amplifiés dans le temps. Elle montre aussi que cet usage de l'IA peut finalement exposer l'ensemble de l'opération.

Source : Thehackernews