Cyberattaques assistées par l'IA
Des cyberattaques qui intègrent l'IA dans des étapes telles que la reconnaissance, le développement d'outils et le traitement des données ; les techniques sous-jacentes restent pour la plupart les anciennes.
Glossaire
Ces termes sont expliqués selon les conventions de lecture en français, avec des liens vers des exemples dans le rapport. Les concepts quasi synonymes sont gardés séparés : par exemple, la distillation et la distillation non autorisée sont deux entrées distinctes.
Utilisation abusive de l'IA
Terme général désignant les activités qui utilisent des systèmes d'IA pour tromper, nuire à autrui ou violer les politiques de service.
Vol de clés API
Voler les clés ou les sessions de connexion nécessaires pour appeler des services d'IA, transformant le quota, les données et l'identité de quelqu'un d'autre en vos propres ressources d'attaque.
Confiance dans l'attribution
Une formulation que le rapport utilise pour indiquer à quel point il est certain de « qui l'a fait », par exemple, confiance élevée ou confiance moyenne. Ce n'est pas une note de ce site.
Augmentation de capacité
L'IA permet à un même acteur d'aller au-delà de ce que ses ressources d'origine pouvaient atteindre en vitesse, échelle ou profondeur.
Comportement inauthentique coordonné
Plusieurs comptes travaillant ensemble pour publier un contenu hautement cohérent tout en prétendant être des personnes ordinaires sans lien entre elles.
Double usage
Le même type de connaissance, d'article ou de logiciel peut être utilisé à des fins légitimes ou potentiellement pour nuire.
Indicateurs de compromission
Des indices techniques que les défenseurs utilisent pour identifier des activités liées, tels que des domaines, des adresses ou des signatures de fichiers. Ce site ne reproduit pas de valeurs spécifiques.
Opérations d'influence
Utiliser l'IA pour produire ou diffuser du contenu en cachant l'identité, le parrainage ou les sources, afin que le public se trompe sur qui parle.
Distillation de modèles
Entraîner un modèle plus petit pour reproduire les sorties d'un modèle plus grand. Lorsque cela se fait sans autorisation, cela devient une distillation non autorisée.
Profilage sans consentement
Créer des profils de personnes sans leur connaissance ou leur consentement, souvent en utilisant des données personnelles extraites.
Distillation non autorisée
Utiliser les sorties d'un modèle sans permission pour entraîner un autre modèle qui reproduit ses capacités.