Dans un monde où l’information façonne les perceptions, la Chine utilise discrètement ChatGPT pour orchestrer des messages de propagande sur les réseaux sociaux. Cette stratégie soulève des questions sur la manipulation numérique et l’influence sur l’opinion publique, mettant en lumière le rôle des technologies avancées dans la géopolitique actuelle.

Utilisation discrète de ChatGPT par la Chine pour des posts de propagande sur les réseaux sociaux

OpenAI a récemment révélé des preuves suggérant que la Chine utilise discrètement ChatGPT pour générer des publications de propagande sur les réseaux sociaux, ainsi que pour mener des opérations de surveillance numérique. Les plateformes ciblées incluent Reddit, TikTok, Facebook et X.

Opérations de propagande révélées

L’entreprise d’intelligence artificielle a bloqué dix de ces opérations, dont quatre semblent avoir "probablement leur origine en Chine". D’autres pays tels que la Russie, l’Iran et la Corée du Nord sont également soupçonnés d’abuser de ce service de manière similaire.

Génération de contenu et engagement

Selon un rapport de NPR, le chatbot a été utilisé non seulement pour créer des posts originaux, mais aussi pour interagir avec ces publications. Il est intéressant de noter que les auteurs de ces opérations ont aussi utilisé ChatGPT pour rédiger leurs propres évaluations de performance concernant l’utilisation abusive de l’outil.

Les propagandistes chinois utilisent ChatGPT pour rédiger des posts et des commentaires sur les réseaux sociaux — et aussi pour créer des évaluations de performance décrivant ce travail pour leurs supérieurs, rapportent les chercheurs d’OpenAI.

Ben Nimmo, chercheur principal de l’équipe d’intelligence et d’investigations d’OpenAI, a déclaré lors d’un appel avec des journalistes que « ce que nous constatons en provenance de la Chine est une gamme croissante d’opérations clandestines utilisant une variété de tactiques ».

L’opération "Sneer Review"

Une opération chinoise que OpenAI a nommée "Sneer Review" a utilisé ChatGPT pour générer de courts commentaires diffusés sur TikTok, X, Reddit, Facebook et d’autres sites, en anglais, en chinois et en ourdou. Les sujets abordés incluaient la démolition de l’Agence américaine pour le développement international par l’administration Trump, avec des publications louant et critiquant cette décision. De plus, des commentaires critiquant un jeu taïwanais dans lequel les joueurs s’efforcent de vaincre le Parti communiste chinois ont également été générés. Dans de nombreux cas, l’opération produisait à la fois un post et des commentaires y répondant.

Ironiquement, les évaluations de performance générées par l’IA ont fourni des aperçus sur ces opérations.

Les acteurs derrière "Sneer Review" ont également utilisé les outils d’OpenAI pour réaliser un travail interne, notamment en créant "une évaluation de performance décrivant, en détail, les étapes nécessaires à l’établissement et à la gestion de l’opération". OpenAI a noté que les comportements observés sur les réseaux sociaux correspondaient étroitement aux procédures décrites dans cette évaluation.

Opérations d’intelligence et de collecte de données

Un autre aspect de ces opérations a impliqué l’utilisation de ChatGPT pour générer des courriels destinés à des journalistes, analystes et politiciens, dans le cadre d’une opération apparente de collecte de renseignements. Cela soulève des questions sur l’utilisation de technologies avancées pour des activités de manipulation et de surveillance.

Sites de médias sociaux ciblés

Les plateformes comme Reddit, TikTok, Facebook et X ont été particulièrement visées, témoignant d’une stratégie bien orchestrée pour influencer l’opinion publique par le biais de contenu contrôlé. La diversité des langues utilisées, y compris l’anglais, le chinois et l’ourdou, montre également l’étendue de ces efforts de propagande.

Réactions et implications

L’utilisation de ChatGPT pour des activités de propagande soulève des préoccupations éthiques et juridiques. La possibilité que des gouvernements utilisent des outils d’intelligence artificielle pour manipuler l’opinion publique n’est pas nouvelle, mais des révélations comme celles d’OpenAI mettent en lumière la complexité et la portée de ces opérations.

Pour plus d’informations sur ce sujet, vous pouvez consulter cet article de NPR.