Utilisation abusive de l'IA
Terme général désignant les activités qui utilisent des systèmes d'IA pour tromper, nuire à autrui ou violer les politiques de service.
Définition
L'utilisation abusive de l'IA est le concept général utilisé dans le rapport de renseignement sur les menaces d'Anthropic : des acteurs qui exploitent les capacités des modèles pour mener des activités qui violent les politiques d'utilisation, telles que des cyberattaques, des opérations d'influence trompeuses, la surveillance, la fraude et le développement lié aux armes. Le rapport indique qu'entre décembre 2025 et août 2026, son équipe a identifié et traité des activités d'utilisation abusive dans sept domaines de préjudice.
L'utilisation abusive ne signifie pas que « l'IA agit malveillamment toute seule ». Dans les cas décrits dans le rapport, les acteurs humains fixent les objectifs et prennent les décisions clés, tandis que l'IA accélère ou étend l'exécution. L'utilisation abusive ne signifie pas non plus que le modèle lui-même a dysfonctionné : de nombreuses techniques (comme le vol d'identifiants et l'ingénierie sociale) existaient avant l'IA, et ce qui a changé, c'est principalement le coût et le degré d'automatisation.
Il faut également noter la portée de la divulgation : le rapport publie des cas typiques observés et traités par la plateforme, spécifiquement les « plus significatifs et les plus novateurs », et non une statistique complète de l'utilisation abusive de l'IA dans le monde. On ne peut pas déduire le risque global d'un pays, d'une marque ou d'un groupe à partir du nombre de cas.
{esc(t(CURRENT_LANG, "not_confused_with"))}
- Il ne s'agit pas de préjudices involontaires ou d'« hallucinations » résultant d'une utilisation normale de l'IA ; le rapport se concentre sur l'utilisation malveillante intentionnelle.
- Il ne s'agit pas de tous les comportements controversés impliquant l'IA ; violer la politique de la plateforme et enfreindre la loi sont deux niveaux de jugement différents, et le rapport lui-même ne tire pas de conclusions juridiques.
{esc(t(CURRENT_LANG, "example"))}
L'aperçu du rapport indique que son équipe a identifié et traité des activités d'utilisation abusive dans sept domaines de préjudice, allant de personnages d'IA non divulgués dans des applications de rencontre à l'espionnage cybernétique assisté par l'IA, avec des acteurs comprenant des groupes soupçonnés d'être soutenus par l'État, des criminels motivés par le profit et des fournisseurs de surveillance commerciale.