Arnaques et fraude par IA : quand l'autre personne n'est pas celle que vous croyez
Définition
Dans ce rapport, « arnaques et fraude » désigne le fait pour des acteurs d'utiliser l'IA pour créer ou entretenir une fausse apparence, amenant d'autres personnes à payer, recharger ou continuer à investir temps et argent sans connaître la vérité. Le chemin typique est : d'abord gagner la confiance avec une identité ou un contenu faux, puis orienter l'interaction vers la facturation par message ou les transferts d'argent.
Le rôle de l'IA dans ces activités est principalement de réduire les coûts et d'augmenter l'échelle : une petite équipe peut maintenir simultanément des milliers de conversations qui « semblent humaines ». Le préjudice incombe à la partie tenue dans l'ignorance : elle ne sait pas à quoi elle a réellement affaire.
À ne pas confondre avec
L'utilisation normale de produits de compagnie ou de chat par IA qui divulguent clairement leur identité n'est pas de la fraude. Ce sujet se concentre sur les cas où l'identité est délibérément cachée et utilisée pour inciter au paiement.
Les arnaques sentimentales, les schémas de « boucherie de cochons » et les tactiques similaires existaient avant l'IA. Le rapport n'attribue pas toute la fraude traditionnelle à l'IA, et ce site ne conclut pas que toutes les applications de rencontre sont peu fiables.
Ce chapitre ne divulgue qu'un seul cas. C'est un échantillon que la plateforme a choisi de divulguer et ne peut pas être utilisé pour estimer l'ampleur mondiale de la fraude par IA, ni pour caractériser un magasin d'applications ou une catégorie de service tout entier.
Illustration originale du rapport : dans le cas GTG-15001, la relation entre utilisateurs, identités IA, travailleurs humains indépendants et le mécanisme de paiement : environ 75 % du flux d'information sont des identités IA, près de 25 % sont des humains ; les messages sont facturés à l'unité, et les appels vidéo et les suivis de personnes réelles sont utilisés comme « preuve d'authenticité ».
Rôles de l’IA
Dans le cas de ce chapitre, l'IA joue deux rôles principaux : interaction d'identité (l'IA converse en continu avec des personnes réelles sous une identité fictive et, comme instruit, ne révèle jamais sa nature automatisée) et génération de contenu (images d'avatar, suggestions de réponse pour les travailleurs humains indépendants) ; le rapport mentionne également que l'IA a été utilisée pour construire les applications elles-mêmes (développement logiciel).
Il faut souligner : l'IA ne réalise pas toute l'arnaque seule. La structure de l'arnaque, les règles de facturation et la conception pour contourner la modération sont mises en place par l'opérateur ; les travailleurs humains indépendants gèrent les parties que l'IA ne peut pas faire, comme les appels vidéo. Décrire ces cas comme « l'IA commet de la fraude de manière autonome » est inexact.
Selon un rapport d'Anthropic, un studio d'applications chinois a utilisé Claude pour construire un réseau de plus de 20 applications de rencontre et animer des identités virtuelles d'IA qui conversaient avec les utilisateurs, même si ses services étaient annoncés comme entièrement gérés par des humains. Sur une fenêtre de deux semaines en avril 2026, le rapport a trouvé plus de 4 700 identités virtuelles d'IA distinctes interagissant avec au moins 25 000 personnes uniques. Le studio a également recruté de vraies personnes pour les mélanger dans le même flux de correspondance que les bots, principalement pour des vérifications d'authenticité. Le ratio IA/humains était d'environ 3:1.
Selon le rapport d'Anthropic, la chaîne d'approvisionnement de l'IA est devenue une cible, un butin et une source de puissance de calcul pour les attaques des acteurs malveillants. L'accès à l'IA sous forme de clés API volées, de jetons de session et d'appareils est de plus en plus l'objectif unique de plusieurs groupes criminels. GTG-50021 est un faux service de revente d'IA exploité par un acteur russophone et ukrainophone. Les clients pensaient acheter un accès Claude à prix réduit, mais leur trafic était redirigé silencieusement vers d'autres modèles ; l'outil du revendeur installait également un collecteur d'identifiants sur l'appareil, revendant les identifiants de compte à d'autres réseaux de proxies.
Limites de la réponse
Tous les chiffres de ce chapitre ont une portée définie : la fenêtre d'observation est de deux semaines en avril 2026 ; « plus de 4 700 » est le nombre d'identités IA identifiées ; « au moins 25 000 » est le nombre de personnes distinctes ayant interagi, pas le nombre confirmé de personnes ayant payé ou subi des pertes. Le rapport ne donne pas de chiffre total de pertes financières.
Ce chapitre est un cas que l'éditeur Anthropic a choisi de divulguer en fonction de la visibilité de sa propre plateforme ; l'attribution des acteurs et les descriptions des mesures correctives proviennent de l'éditeur ; ce site n'a pas vérifié indépendamment tous les résultats dans le monde réel.
Les « au moins 25 000 personnes » du rapport sont-elles le nombre de personnes ayant perdu de l'argent ?
Non. La portée de ce chiffre est : le nombre de personnes distinctes ayant interagi avec des identités IA pendant les deux semaines d'avril 2026. Le rapport n'indique pas combien d'entre elles ont réellement payé ou subi des pertes financières, ni ne donne de chiffre total de pertes. Lire « personnes ayant interagi » comme « nombre de victimes » exagère les faits.
Nous avons eu un appel vidéo, donc ce doit être une personne réelle, n'est-ce pas ?
Cela seul ne suffit pas. Selon le rapport, le réseau recrute spécifiquement des travailleurs humains indépendants pour réaliser des appels vidéo en direct et des suivis sur les réseaux sociaux, précisément pour passer les « vérifications d'authenticité » des victimes. Une interaction vidéo réelle ne prouve pas que la plateforme a divulgué véridiquement l'identité de toutes les autres interactions.
Utiliser l'IA pour des produits de rencontre ou de compagnie est-il en soi de la fraude ?
Non. La clé dans ce cas n'est pas « que l'IA ait été utilisée », mais cacher l'identité de l'IA aux utilisateurs et utiliser une fausse identité pour inciter au paiement par message. Les produits qui divulguent clairement que l'autre partie est une IA et dont la facturation est transparente sont structurellement différents de la fraude décrite dans le rapport.
Comment les utilisateurs ordinaires peuvent-ils réduire le risque ?
Soyez attentif à plusieurs signaux : le service divulgue-t-il clairement si des identités IA sont utilisées ; le chat est-il facturé par message et nécessite-t-il des recharges constantes pour continuer ; l'autre personne évite-t-elle toujours les appels vidéo ou les rencontres en personne. Pour des étapes concrètes, consultez le guide de ce site « Comment repérer des identités IA non divulguées sur les applications de rencontre ».
