Chapitre 6 du rapport : Arnaques et fraude (rapport de septembre 2026)
Ce chapitre ne compte qu'un seul cas, GTG-15001 : le rapport affirme qu'un réseau d'applications de rencontre mélangeait des identités d'IA non divulguées avec des travailleurs humains indépendants dans le même service et facturait les utilisateurs à l'unité.
p. 139–142 · 1 unités de cas
Constatations clés
Le rapport affirme que l'opérateur a utilisé Claude pour construire plus de 20 applications de rencontre et pour alimenter les identités conversationnelles d'IA qu'elles contenaient, tout en présentant le service comme entièrement fourni par des humains.
Sur la fenêtre de deux semaines d'avril 2026 : plus de 4 700 identités d'IA, au moins 25 000 personnes uniques ayant interagi et environ 2,36 millions de messages traités par Claude — il s'agit de chiffres d'échelle des interactions, pas de nombres de victimes confirmées.
L'accent de ce chapitre est mis sur l'identité non divulguée et l'incitation au paiement, pas sur l'IA de compagnie en soi ; les travailleurs humains indépendants sont utilisés pour passer les « vérifications d'authenticité », et un seul appel vidéo ne suffit pas à prouver qu'une plateforme est transparente.
Ce qui s’est passé
Ce chapitre est court (pages 139–142 du rapport original) et ne contient que GTG-15001. Le rapport l'utilise comme un échantillon montrant « les capacités et les limites des modèles d'IA actuels dans la fraude » : il ne s'appuyait sur aucune technique novatrice d'utilisation abusive de modèles, mais son échelle était nettement supérieure à celle d'un cas similaire de 2025 (dans lequel un acteur utilisait un bot Telegram pour générer des messages de rencontre pour d'autres arnaqueurs), et il faisait délibérément intervenir plusieurs fournisseurs d'IA pour assumer des rôles non chevauchants : Claude s'occupait de la conversation automatisée, tandis que d'autres modèles s'occupaient des suggestions de réponse, de la génération d'images et de la modération du contenu.
Selon le rapport, la structure de l'opération était un « marché à trois côtés » : les utilisateurs cibles (que le rapport situe aux États-Unis) faisaient glisser un fil de correspondance où environ les trois quarts étaient des identités alimentées par Claude et environ un quart des travailleurs humains indépendants, impossibles à distinguer les uns des autres ; l'envoi de messages et les correspondances consommaient des crédits à l'unité qui nécessitaient de recharger la monnaie intégrée à l'application. Les travailleurs indépendants étaient recrutés sur invitation et rémunérés par message, appel vidéo et suivi sur les réseaux sociaux ; les identités d'IA recevaient pour instruction de ne jamais révéler leur caractère automatisé, d'éviter les demandes de vidéo et de faire progresser la conversation par étapes fixes.
Le rapport souligne également deux détails facilement négligés. Premièrement, le prompt système qui pilotait les identités se lisait comme un déploiement ordinaire de jeu de rôle ou de compagnie, et la tromperie et la monétisation n'étaient pas visibles depuis une seule conversation ; dans un petit échantillon, le raisonnement du modèle a fait apparaître des signaux de préjudice (par exemple, des utilisateurs révélant une maladie grave ou une détresse extrême), mais la sortie a continué de maintenir le personnage. Deuxièmement, le rapport affirme que les applications étaient spécifiquement conçues pour échapper à la revue des magasins d'applications, notamment un contrôleur d'interface qui ne s'activait que pendant la revue, des noms différenciés sur plus de 20 variantes de l'application et des redirections de paiement qui pouvaient être masquées pendant la revue.
En ce qui concerne l'acquisition et la réponse, le rapport affirme que l'acteur s'est appuyé sur une infrastructure de revente d'API et de proxy basée en Chine pour obtenir et faire pivoter l'accès aux modèles à grande échelle, afin de contourner les régions prises en charge et les politiques d'utilisation d'Anthropic ; Anthropic a banni les comptes et les organisations attribués à l'opération, a partagé les résultats avec les autres laboratoires d'IA assumant des rôles non conversationnels et a fourni les métriques de la plateforme directement à Apple et Google. Pour connaître l'ensemble des faits et la manière de lire les chiffres, voir la page complète du cas sur ce site.
Illustration du rapport original : le « marché à trois côtés » de GTG-15001 — utilisateurs, identités d'IA alimentées par Claude (environ 75 %) et travailleurs humains indépendants (environ 25 %) coexistent dans le même fil, avec des messages facturés à l'usage.
Selon un rapport d'Anthropic, un studio d'applications chinois a utilisé Claude pour construire un réseau de plus de 20 applications de rencontre et animer des identités virtuelles d'IA qui conversaient avec les utilisateurs, même si ses services étaient annoncés comme entièrement gérés par des humains. Sur une fenêtre de deux semaines en avril 2026, le rapport a trouvé plus de 4 700 identités virtuelles d'IA distinctes interagissant avec au moins 25 000 personnes uniques. Le studio a également recruté de vraies personnes pour les mélanger dans le même flux de correspondance que les bots, principalement pour des vérifications d'authenticité. Le ratio IA/humains était d'environ 3:1.
Limites de la réponse
Ce chapitre ne divulgue qu'un seul cas, un échantillon que l'éditeur a choisi de divulguer en fonction de la visibilité de sa propre plateforme : il ne peut pas être utilisé pour estimer l'échelle mondiale de la fraude par IA, le nombre total de victimes ou la répartition par secteur, ni pour dériver la sécurité globale d'un magasin d'applications donné. Tous les chiffres d'échelle sont liés à la fenêtre d'observation de deux semaines d'avril 2026 et à une définition précise ; « personnes uniques ayant interagi » ne signifie pas victimes confirmées.
Les descriptions de l'attribution de l'acteur, des mesures de réponse et des partenaires proviennent toutes d'Anthropic ; ce site n'a pas vérifié indépendamment tous les résultats réels. Les indicateurs de compromis tels que les domaines et les IP listés par le rapport ne sont pas reproduits sous forme concrète conformément aux limites de sécurité de ce site ; bannir des comptes n'est pas la même chose que confirmer que toutes les applications concernées ont cessé de fonctionner.
