Plateforme de manipulation électorale ciblant la Malaisie : cas GTG-84005

Ce qui s'est passé

Nous avons identifié et supprimé un compte qui utilisait Claude pour exploiter une plateforme commerciale de manipulation électorale ciblant principalement les utilisateurs malaisiens. Le réseau consistait en environ 1 000 faux comptes de réseaux sociaux X/Twitter, un média de fausses actualités et une série de dossiers fabriqués.

La plateforme a été déguisée en outil de renseignement cyber défensif et de contre-désinformation. Cependant, notre enquête a trouvé un lien clair avec BBS Bilisim Teknolojileri, une entreprise technologique basée à Istanbul qui vendait l'accès à la plateforme comme capacité payante « d'influence à la demande ». Selon la documentation du propre acteur de la menace, l'infrastructure était commercialisée comme un « écosystème d'action politique en temps réel, de qualité militaire et piloté par l'IA ».

L'opération impliquait que l'acteur utilisait la plateforme construite via Claude pour profiler et cibler les électeurs malaisiens circonscription par circonscription, en utilisant les données de recensement et électorales qu'il avait ingérées. La plateforme gérait un réseau d'environ 1 000 faux comptes optimisés pour gonfler les métriques d'engagement et contourner les systèmes de détection des plateformes de réseaux sociaux. La configuration exploitait également un site de fausses actualités appelé « Malaysia Pulse », alimenté par un pipeline de réécriture par IA pour ce média d'actualités synthétique.

Les personnes derrière l'opération ont également généré des dossiers de renseignement fabriqués pour diffuser de fausses accusations contre un politicien de l'opposition et des organisations de la société civile. Ces accusations ont été entièrement fabriquées par l'acteur.

Nous avons évalué la campagne comme catégorie 2 de la Breakout Scale, ce qui signifie que les actifs étaient distribués sur plusieurs plateformes mais qu'il n'y avait aucune preuve qu'ils aient pénétré dans les communautés réelles.

Ce que l'IA a fait

L'acteur a utilisé Claude Code pour construire des tableaux de bord personnalisés pour gérer, exécuter et suivre le réseau de faux comptes. Ces tableaux de bord suivaient des métriques telles que les likes et les vues que les comptes trompeurs généraient pour chaque cible. Un exemple était un compte d'un haut fonctionnaire du gouvernement malaisien enregistrant des chiffres en millions. Comme ces chiffres étaient auto-déclarés par le propre outil de l'acteur, nous n'avons pas pu les vérifier de manière indépendante.

L'opération a utilisé de vraies données de recensement et électorales, ainsi que des millions d'enregistrements d'électeurs, pour cibler les fractures politiques et sociales les plus sensibles du pays : race, religion et monarchie dans les 222 circonscriptions parlementaires de Malaisie.

La plateforme gérait plus de 1 000 faux comptes X/Twitter. Chaque compte avait une logique de « vieillissement des comptes » pour le rendre authentique pendant une période avant d'être déployé dans des opérations d'influence, y compris la mise à jour régulière des cookies et des adresses IP. Le tableau de bord incluait un paramètre permettant aux utilisateurs d'ajuster le nombre total de vues artificielles que chaque cible devait recevoir. Nous avons observé une demande, en soutien au premier ministre en fonction de Malaisie, de 1 million de vues artificielles pour son compte.

L'acteur a généré des accusations contre des personnes nommées que notre propre recherche du modèle n'a pas pu corroborer.

Dans les cas où Claude a refusé d'effectuer les opérations demandées par l'opération — y compris après avoir identifié un document comme du matériel de diffamation politique — l'acteur a négocié l'utilisation d'une formulation assainie pour continuer à construire la même capacité.

L'acteur a cherché un contrat avec le régulateur national des communications de Malaisie. Nous n'avons trouvé aucune preuve que cette tentative ait réussi.

Claude a été utilisé pour construire le système de ciblage par circonscription en utilisant de vraies données électorales, concevoir et exploiter le réseau de faux comptes de réseaux sociaux et sa logique d'évasion de détection, réécrire et blanchir les fausses actualités, et itérer sur les dossiers fabriqués.

Le média d'actualités synthétique a également gratté des reportages légitimes de Malaisie et fait réécrire le modèle plusieurs fois avant de les republier sous des signatures fabriquées. Il a republié des articles de médias étrangers alignés sur les États de Russie et de Chine, notamment TV BRICS, Xinhua, Sputnik/RIA et CGTN, en supprimant l'attribution étatique pour qu'ils ressemblent à des reportages indépendants locaux de Malaisie.

Ce que le rapport a observé

Le rapport a confirmé l'objet de la plateforme, la méthode de classification de la population et l'existence d'un stock de faux comptes. Le rapport a confirmé que l'opération a été découverte et bannie pendant sa phase pilote. Le rapport a confirmé que ses observations correspondent étroitement aux capacités décrites dans l'enquête de Forbidden Stories de 2023.

Le rapport liste à la fin les indicateurs de compromission pertinents (domaines, IP, etc.) pour que les défenseurs puissent enquêter. Selon les limites de sécurité de ce site, les valeurs spécifiques des indicateurs ne sont pas reproduites.

Confirmé et inconnu

Réponse de la plateforme

Anthropic indique qu'il a identifié le compte par détection interne, cartographié l'empreinte complète de l'opération et utilisé les indicateurs récupérés pour bloquer les abus futurs ; le rapport original partage des indicateurs de domaines, IP et comptes avec les partenaires du secteur.

Limites de la réponse：L'action a ciblé le compte de la plateforme et les indicateurs connus ; le rapport n'indique pas si la plateforme commerciale offre toujours des capacités similaires à d'autres clients.