Opération conversationnelle usurpant l'identité d'un militant réel : cas GTG-84006

Ce qui s'est passé

Nous avons identifié et supprimé une opération d'influence distribuée ciblant des audiences à l'intérieur et à l'extérieur de l'Iran. Pour tromper les utilisateurs, l'opération a usurpé l'identité d'un militant réel en demandant à un agent d'IA partagé de cloner le compte Telegram personnel du militant, puis en lui indiquant en persan qu'il était maintenant cette personne. L'acteur a demandé à Claude de lire environ 8 400 publications Telegram du militant afin de reproduire son style d'écriture, puis l'a utilisé pour tenir des conversations politiques en temps réel avec ses contacts. Pour autant que nous sachions, ces contacts ne savaient pas qu'ils parlaient à un compte assisté par IA.

Bien que les acteurs ne partageaient pas d'infrastructure de comptes ni ne montraient de signes évidents de coordination, notre enquête a lié la campagne à l'Organisation des moudjahidin du peuple iranien (OMPI/MEK) et à son front politique, le Conseil national de résistance iranien (CNRI).

Notre enquête a montré qu'au moins quatre personnes dirigeant la campagne travaillaient pour l'organisation médiatique officielle du CNRI. L'opération s'appuyait sur des actifs médiatiques du CNRI/MEK sur plusieurs plateformes, notamment la télévision et la radio, la radiodiffusion par satellite et à ondes courtes, Instagram, Telegram et X/Twitter. Bien que l'existence d'un cycle d'approbation par comité et de notes sur la direction du MEK suggèrent qu'il pourrait y avoir une affectation centrale des tâches, nous n'avons pas pu vérifier l'étendue du contrôle centralisé.

En utilisant la Breakout Scale, nous avons évalué l'opération comme catégorie 2 (plusieurs plateformes, distribuée via les propres actifs médiatiques du CNRI du réseau et les comptes amplificateurs).

Ce que l'IA a fait

L'opération a gratté avec succès plus de 500 canaux de réseaux sociaux pour construire des profils détaillés de personnes à l'intérieur de l'Iran. Ils ont ensuite regroupé ces cibles par ville, âge, profession, position politique et antécédents d'arrestation, ce qui a pu les aider à adapter les messages à des audiences spécifiques.

Le réseau a analysé environ 51 944 messages archivés de ces conversations pour construire des profils psychologiques détaillés de dizaines de personnes spécifiques à l'intérieur de l'Iran. Pour diffuser davantage son message, le compte usurpateur a également envoyé un titre de fausse actualité de dernière minute à plus de 30 contacts simultanément.

Pour promouvoir le plan en dix points de la présidente du CNRI, Maryam Rajavi, le réseau a créé des avatars générés par IA pour chaque article. L'acteur a animé ces avatars, leur a donné une voix et les a utilisés dans du contenu vidéo.

Le rôle de l'IA était l'usurpation d'identité et la conversation en temps réel, pas seulement la rédaction de publications publiques. Le rapport indique également que l'opération a gratté plus de 500 canaux sociaux et construit des profils regroupés par ville, âge, etc., pour des contacts ultérieurs. Cette page décrit uniquement le risque de « construire des listes de contact au niveau du groupe » et ne fournit aucun champ de profil ni liste.

Ce que le rapport a observé

Le rapport l'a évaluée comme catégorie 2 de la Breakout Scale : plusieurs plateformes, mais la distribution s'est principalement produite au sein de ses propres médias et comptes amplificateurs.

Que les contacts n'étaient pas au courant était la compréhension du rapport à ce moment-là (« pour autant que nous sachions »), pas une enquête médico-légale indépendante sur chaque conversation.

Confirmé et inconnu

Réponse de la plateforme

Anthropic a supprimé les comptes concernés et l'agent partagé.

Limites de la réponse：Supprimer l'accès au modèle ne peut pas notifier automatiquement toutes les personnes usurpées ou les contacts avec qui l'on a conversé.