Opérations d'influence trompeuses : plus de contenu ne signifie pas plus d'impact
Définition
Ce sujet couvre l'utilisation de l'IA pour produire ou diffuser du contenu à grande échelle tout en masquant la véritable identité, le parrainage ou les sources, afin que le public se trompe sur « qui parle ». Le critère est le mécanisme de tromperie, pas la position politique.
Le rapport utilise l'échelle de percée pour examiner si la portée s'étend au-delà du propre réseau de l'acteur. Sans cela, le volume de publications ne peut pas être présenté comme « des électeurs influencés ».
À ne pas confondre avec
Pas l'expression politique ordinaire, le commentaire médiatique ou le débat public.
Pas que « tout le monde dans un certain pays soit en train d'être manipulé » — le pays/la région n'est qu'une dimension factuelle que le rapport décrit, pas un classement de risque.
Pas un endroit où nous reproduisons le texte de récits faux.
Figure originale du rapport : illustration liée aux services d'influence commercialisés. Les preuves de volume et de portée doivent être lues séparément.
Rôles de l’IA
L'IA est principalement utilisée pour la génération de contenu, la maintenance de personas et la réécriture en masse. Certains cas pénètrent des canaux médiatiques existants ; d'autres restent au sein de réseaux de faux comptes.
Les êtres humains décident toujours des sujets, du parrainage et des canaux de diffusion.
Selon un rapport d'Anthropic, un acteur russophone basé à Bangui, la capitale de la République centrafricaine, a utilisé Claude pour produire du contenu quotidien pour une station de radio locale, empaquetant des récits pro-russes comme de la programmation locale et concevant une chaîne de distribution qui se connecte aux canaux de diffusion nationaux. Le rapport lie cette opération à la manipulation d'informations étrangères alignée sur l'État russe et la classe en catégorie 4 sur l'échelle de percée. Toute l'attribution et la formulation de l'évaluation proviennent du rapport.
Selon le rapport, quatre individus ont utilisé Claude comme bureau de rédaction, injectant des textes finaux directement dans la chaîne de production des médias d'État russes. Anthropic évalue avec une haute confiance que ce contenu a finalement été publié via des canaux tels que Sputnik, RIA Novosti et RT. La portée que le rapport a pu vérifier allait de publications avec environ 2 000 vues à des textes de diffusion ; il ne peut pas déterminer quelle part de la production totale de ces canaux est passée par Claude.
Selon le rapport, trois comptes liés à des organisations de propagande étatiques iraniennes ont utilisé Claude pour planifier des projets dits de « guerre douce » ou de « guerre cognitive » : plans de campagne, systèmes de personas et bases de données de cibles. Le rapport relie chacun des trois comptes à une organisation différente. Ces matériaux sont principalement de la planification et de la préparation et ne doivent pas être présentés comme entièrement exécutés.
Selon le rapport d'Anthropic, un réseau déguisé en « rédactions locales indépendantes » a utilisé Claude pour produire et réécrire en masse du contenu politique : environ 70 sites de fausses actualités, au moins 8 913 articles, dans environ 20 langues, plus 70 comptes X associés et plus de 250 faux comptes de commentaires pour amplifier. Mais le rapport souligne également que la plupart du contenu n'a eu presque aucune interaction d'audience réelle, et qu'aucune preuve de diffusion au-delà des propres actifs du réseau n'a été trouvée — le volume de production n'est pas synonyme d'influence. Le rapport a retracé le réseau jusqu'à une entreprise française de publicité numérique, n'a pas pu confirmer les clients payants et n'a trouvé aucune preuve de direction gouvernementale.
Selon le rapport, un opérateur a utilisé Claude pour générer des publications politiques kényanes par lots d'exactement 50, demandant explicitement qu'elles ressemblent à des commentaires spontanés de la base. Le rapport n'a trouvé aucune preuve de participation gouvernementale et a évalué que la campagne est restée au sein du réseau de faux comptes, sans atteindre de vrais utilisateurs. Encore une fois, le volume de production n'est pas synonyme d'influence.
Selon le rapport, un opérateur basé dans le district de Gaibandha, au Bangladesh, a fait tourner 29 comptes Claude pour produire en masse de fausses actualités en bengali, avec un contenu favorable à la Ligue Awami et des attaques contre ses opposants. Les communications internes indiquaient que « personne ne sait que ces actualités sont fausses ». Le volume de production du rapport était d'au moins 1 500 titres et 300 récits falsifiés ; il indique également qu'il n'y a aucune preuve que le parti lui-même ait dirigé ou financé ce réseau.
Selon le rapport, une présumée entreprise commerciale de renseignement a utilisé Claude pour construire un prototype de plateforme de surveillance qui analysait en masse les publications publiques d'utilisateurs de réseaux sociaux en Iran et dans la région du Golfe, déduisait leur emplacement, leur appartenance à des groupes et leurs tendances politiques, et générait des rapports de renseignement dans le style de documents gouvernementaux. Le rapport a découvert l'activité au stade pilote et n'a trouvé aucune preuve qu'elle ait été utilisée contre de vraies cibles.
Selon le rapport, un opérateur a utilisé Claude pour maintenir un personnage d'IA appelé « Deadshot » et a intégré une mission unifiée transatlantique et régionale dans son instruction système. Le rapport le lie avec une haute confiance à des fonctionnaires des Émirats arabes unis. L'activité comprenait environ 300 faux comptes d'influenceurs, une ONG de façade usurpant l'identité d'une organisation suisse réelle et la préparation de matériaux ciblant les mécanismes de l'ONU. Tous les liens ci-dessous sont des évaluations du rapport.
Selon le rapport, une plateforme commerciale déguisée en « outil de renseignement cyber défensif et de contre-désinformation » offrait en réalité principalement des capacités de manipulation électorale ciblant la Malaisie : environ 1 000 faux comptes X, un site de fausses actualités et plusieurs « dossiers de renseignement » fabriqués. L'enquête du rapport a trouvé un lien clair avec une entreprise technologique d'Istanbul. Le rapport l'a évaluée comme catégorie 2 de la Breakout Scale, sans preuve de diffusion au-delà des communautés réelles ; ce cas ne démontre qu'aucun résultat électoral n'a été affecté.
Selon le rapport, une opération d'influence ciblant des audiences à l'intérieur et à l'extérieur de l'Iran a utilisé un agent d'IA partagé pour usurper l'identité d'un militant réel : elle a lu environ 8 400 de ses publications Telegram pour imiter son style d'écriture, puis a tenu des conversations politiques en temps réel avec ses contacts. Pour autant que le rapport sache, ces contacts ne savaient pas qu'ils parlaient à un compte assisté par IA. Cette page ne liste aucune personne ni donnée de contact.
Limites de la réponse
Les plateformes ont une visibilité limitée sur le contenu une fois qu'il quitte leur plateforme.
GTG-54002 est un rappel clé : environ 70 sites de fausses informations, au moins 8 913 articles, dans une vingtaine de langues — mais aucune preuve de portée au-delà du propre réseau de l'acteur.
Si beaucoup de fausses informations ont été publiées, est-ce que cela a changé l'élection ?
Le rapport rejette explicitement cette équation. Sans preuve indépendante de portée et d'effet, on peut seulement dire « ce contenu a été produit ».
Pourquoi ne pas classer le risque par pays ?
Le rapport n'est pas un échantillon mondial. Le nombre de mentions reflète les cas que la plateforme a vus et choisi de divulguer, pas un classement de pays.
