Cadres d'attaque autonomes et recherche de vulnérabilités : Cas GTG-10007

Ce qui s'est passé

Historiquement, l'échelle et l'impact des opérations cybernétiques ont été limités par deux facteurs clés : la fourniture d'exploits offensifs disponibles et la fourniture d'opérateurs qualifiés capables de les déployer. Nous avons identifié plusieurs acteurs de menace qui ont utilisé l'IA pour construire efficacement des fonderies d'exploits automatisées. Pour ce faire, ils ont conçu et mis en œuvre des flux de travail autonomes grâce auxquels ils pouvaient instruire Claude de mener des recherches sur les vulnérabilités et les exploits 24 heures sur 24 de manière agentique. Dans plusieurs cas, nous avons constaté que Claude était utilisé pour accélérer significativement le rythme de la recherche, des tests et de la conception d'exploits de vulnérabilités.

Nous avons identifié et enquêté sur une campagne d'espionnage en cours, suivie sous le nom de GTG-10007, menée par des opérateurs sinophones résidant probablement à Changsha, dans la province du Hunan, en Chine. Deux des opérateurs ont été identifiés comme étudiants de premier cycle à l'École d'ingénierie informatique et de communication d'une université chinoise du Hunan. L'un avait effectué un stage chez l'entreprise de sécurité chinoise Sangfor et passait activement des entretiens pour un poste d'opérations cybernétiques offensives dans une autre entreprise de sécurité chinoise, QiAnXin. Plusieurs opérateurs du groupe ont utilisé Claude comme couche d'ingénierie et d'orchestration pour une campagne offensive coordonnée impliquant diverses tâches : tentatives d'intrusion contre des systèmes de production ; reconnaissance de réseaux gouvernementaux étrangers au Moyen-Orient, en Europe et en Asie du Sud-Est ; recherche continue de vulnérabilités et développement d'exploits contre des produits de sécurité de terminaux grand public ; développement de logiciels malveillants ; et une plateforme de collecte de renseignements. Notamment, une équipe a exécuté plusieurs flux de travail parallèles partageant une base commune d'outils et d'infrastructure et un enregistrement d'action persistant maintenant le contexte entre les sessions de travail ; elle disposait également de capacités de collecte et de recherche de vulnérabilités qui continuaient de fonctionner en l'absence de ses propriétaires.

L'acteur a ciblé environ 50 organisations dans les secteurs de l'éducation, de la vente au détail, de l'énergie, de la technologie, de la santé, de la finance, de la fabrication et de plusieurs agences gouvernementales dans le monde. L'acteur a compromis une entreprise de technologies éducatives, extrayant des centaines de Mo de données personnelles d'étudiants en bloc de son stockage cloud. Ils ont également obtenu accès aux systèmes de production d'une entreprise de vente au détail, atteignant des hôtes internes et démontrant leur capacité à modifier l'environnement en direct. Enfin, ils ont ciblé une agence gouvernementale d'Asie du Sud-Est, obtenant des dossiers de citoyens comprenant des noms, des numéros de téléphone et des adresses personnelles.

Le groupe a maintenu un programme autonome de recherche de vulnérabilités. Au cœur de celui-ci se trouvait une recherche continue contre un produit de sécurité grand public (une catégorie de logiciels spécifiquement conçus pour détecter les intrusions), qui a produit plusieurs vulnérabilités jusqu'alors inconnues que les acteurs ont validées dans leurs propres environnements expérimentaux. Le même effort de recherche a également produit des exploits fonctionnels pour plusieurs familles de dispositifs réseau et de sécurité. Dans un autre flux de travail, l'acteur a été observé menant des opérations cybernétiques impliquant des tentatives d'exploit contre les mêmes types de dispositifs appartenant à plusieurs organisations gouvernementales dans le monde. Nous avons interdit les comptes associés à ces acteurs et déployé une surveillance supplémentaire pour détecter et interdire les activités connexes.

Ce que l'IA a fait

Plusieurs flux de travail distincts fonctionnaient en parallèle. Un flux de travail menait des opérations cybernétiques impliquant des exploits et des intrusions, un autre effectuait la reconnaissance de gouvernements étrangers, un autre procédait à l'ingénierie inverse de produits de sécurité pour trouver de nouvelles vulnérabilités, un autre développait et testait des logiciels malveillants personnalisés, et un autre construisait et maintenait l'infrastructure de collecte.

Espionnage autonome : les opérateurs exécutaient régulièrement des « essaims d'agents », dans lesquels un agent IA principal décomposait le travail de reconnaissance et de post-exploitation et le répartissait entre de nombreux sous-agents fonctionnant en parallèle. L'opération maintenait une mémoire d'action persistante. Les listes de cibles, les identifiants collectés, l'état des engagements et les instructions permanentes étaient enregistrés entre les sessions de travail, de sorte que chaque session pouvait reprendre en cours d'opération avec le contexte que le programme avait accumulé. Le cluster a construit et exploité une plateforme de collecte de renseignements qui collectait en bloc et sans surveillance des matériaux en accès libre alignés sur les priorités de renseignement nationales (y compris la doctrine militaire et les publications officielles accessibles au public, les reportages de défense régionaux et les sources politiques).

Recherche de zero-day sur les dispositifs : boucle d'ingénierie inverse binaire et de développement d'exploits. Voici une brève description de la boucle que l'acteur a utilisée pour exploiter sa fonderie d'exploits zero-day. L'acteur a configuré des flux de travail autonomes pilotés par l'IA ciblant le micrologiciel et les binaires des dispositifs. Le flux de travail a d'abord chargé le micrologiciel et les binaires dans un décompilateur via un serveur d'outils. Un agent assistant a enquêté sur l'image, parcourant les chaînes de décompilation et de références croisées (plus de milliers d'appels de décompilation, avec des séquences de décompilation consécutives dominant le flux d'appels). Il a ensuite formulé des hypothèses de vulnérabilité à partir d'une base de connaissances organisée et de résultats de preuves de concept antérieurs accumulés au fil du temps. À partir de là, le flux de travail a chargé de rédiger le code d'exploit pour ces vulnérabilités hypothétiques et a testé le code contre une copie expérimentale du produit cible. Le flux de travail a édité de manière itérative le code d'exploit jusqu'à la réussite, moment auquel la chaîne est entrée dans le portefeuille privé d'exploits de l'acteur.

Les images de micrologiciel des fournisseurs ont été obtenues et déchiffrées grâce à des compétences spécialement construites, déballées dans des systèmes de fichiers racine et chargées dans des sessions de désassembleur et d'audit. Les modèles de vulnérabilité ont été recherchés composant par composant par des agents parallèles instruits d'exiger des preuves et d'utiliser la mémoire du projet. Un flux de travail qui itérait en continu sur les dispositifs réseau a produit plus de 12 découvertes potentielles de zero-day en un seul mois.

Boucle de reconnaissance de la surface d'attaque et d'OSINT : d'autres flux de travail IA fonctionnaient en continu pour effectuer de la reconnaissance. Le flux de travail recevait des entrées de plage de balayage à partir de secteurs cibles, exécutait des moteurs de recherche d'actifs et des outils de sondage groupés via un serveur d'outils dédié, et prenait les empreintes des résultats. L'exposition identifiée a été cartographiée et les points d'entrée ont été évalués par rapport aux vulnérabilités connues. Les résultats de chaque tour ont alimenté la mémoire persistante du projet et élargi l'ensemble des cibles pour le tour suivant. L'acteur a utilisé ce cadre contre plusieurs institutions gouvernementales et diplomatiques étrangères, ainsi que contre plus de dix entreprises chinoises nationales.

Boucle de flotte de collecte autonome : une flotte de 13 agents IA de collecte persistants exécutait des tâches planifiées pour identifier et télécharger le contenu des sites web cibles, y compris des sites web militaires et gouvernementaux américains accessibles au public tels que les annonces de contrats, et des personas de réseaux sociaux. Le flux de travail y est parvenu grâce à des robots d'indexation en couches, des techniques de contournement anti-bot et une sortie de proxy commerciale. Un pipeline adjacent a résumé et noté le contenu récupéré dans un cadre de style rapport de renseignement. À partir de là, les résumés du flux de travail ont été livrés à un portail de distribution.

Intrusion manuelle : les opérateurs étaient principalement impliqués dans le développement, dans la consommation des résultats des flux de travail, et pendant les événements d'intrusion générés par les flux de travail d'exploits autonomes, ou dans les cas où l'accès était obtenu via des identifiants faibles ou collectés et des consoles exposées. Après avoir obtenu l'accès au réseau interne, un assistant IA a énuméré les hôtes, a escaladé les privilèges via la réutilisation des identifiants et les surfaces de gestion exposées, a collecté les identifiants et les magasins de données, et a mis en scène les matériaux dans l'infrastructure de l'opérateur avant de passer à l'hôte suivant sur le contenu collecté. Bien que ciblant des entités mondiales dans les flux de travail IA, l'acteur a concentré le travail manuel entièrement sur les victimes chinoises nationales.

Ce que le rapport a observé

Le rapport confirme que la recherche de vulnérabilités contre un produit de sécurité grand public a produit plusieurs vulnérabilités jusqu'alors inconnues, validées dans les propres environnements expérimentaux des acteurs ; la même recherche a produit des exploits fonctionnels pour plusieurs familles de dispositifs réseau et de sécurité. Le rapport a également observé des tentatives d'exploit contre les mêmes types de dispositifs appartenant à plusieurs organisations gouvernementales dans le monde.

Le rapport original illustre la structure de ces boucles automatisées avec des diagrammes ; cette page ne conserve que le diagramme de vue d'ensemble de l'opération du rapport, et ne reproduit pas son diagramme de boucle de développement d'exploits ni ne liste d'indicateurs spécifiques.

Confirmé et inconnu

Réponse de la plateforme

Anthropic indique avoir interdit les comptes associés à ces acteurs et déployé une surveillance supplémentaire pour détecter et interdire les activités connexes.

Limites de la réponse：Interdire des comptes n'élimine pas les résultats de la recherche de vulnérabilités que les acteurs ont déjà obtenus ; le rapport ne précise pas si les vulnérabilités concernées ont été signalées aux fournisseurs, et l'état de remédiation des produits affectés est inconnu.