من اختراقات أنظمة الفنادق إلى هجمات سلسلة توريد الذكاء الاصطناعي: قضية GTG-50020

ما الذي حدث

تعد GTG-50020 جهة فاعلة ناطقة بالروسية هادفة للربح كانت تقوم تاريخيًا بعمليات اختراق ضد منصات حجز الفنادق والمنصات المالية. في إحدى عمليات الاختراق، سربت حوالي 26 جيجابايت من بيانات ضحية وحاولت الحصول على 1.5 إلى 2.5 مليون دولار من خلال الابتزاز (أو بيع البيانات في منتديات الشبكة المظلمة).

ثم حولت نفس التقنيات إلى صناعة الذكاء الاصطناعي. من خلال حقن تعليمات خبيثة في بيئة اختبار آلية لمزود ذكاء اصطناعي، جعلت الجهة الفاعلة البيئة تسلم بيانات الاعتماد التي تحتفظ بها — بما في ذلك مفاتيح API لإنتاج الذكاء الاصطناعي لعدة مزودين يحتفظ بها ذلك المزود.

تم إساءة استخدام هذه المفاتيح المسروقة لاحقًا من قبل الجهة الفاعلة: استمرت في محاولات الاختراق ضد ذلك المزود وأهدافًا أخرى غير مرتبطة في نفس الوقت. في الواقع، عندما حصلت على مفاتيح API لهدف، انتقلت تلقائيًا إلى استخدام مفاتيح الضحية بدلاً من مفاتيحها. استهلكت نشاط المتابعة الذي تم تشغيله من نفس البنية التحتية حوالي 30 شركة ذكاء اصطناعي في حوالي 4 أيام باستخدام تقنيات مماثلة. حددوا مسار هجوم ناجح واحد وأعادوا استخدامه ضد جميع الأهداف الـ 30، مع إجراء تعديلات طفيفة وفقًا للاختلافات بين الأهداف. كان الهدف المعلن للجهة الفاعلة — الذي تمت متابعته عبر أكثر من عشر قنوات — هو الحصول على الوصول إلى نماذج كلود غير المنشورة. لم تحصل الجهة الفاعلة أبدًا على الوصول؛ فشل كل مسار تمت محاولته. طوال هذا النشاط، كانت المفاتيح المعنية مفاتيح عملاء مسروقة من بيئات العملاء. لم تخترق الجهة الفاعلة أنظمة أنثروبيك نفسها أبدًا.

هذه القضية هي أوضح دليل حتى الآن على أن سلسلة توريد الذكاء الاصطناعي أصبحت هدفًا إجراميًا متعمدًا. سعت الجهة الفاعلة إلى مفاتيح API لإنتاج مزودي الذكاء الاصطناعي وكان لديها طموح واضح — ولنكون واضحين، طموحًا لم يتحقق أبدًا — للحصول على الوصول إلى نماذج ذكاء اصطناعي غير منشورة.

ماذا فعل الذكاء الاصطناعي

حلقة اختبار اختراق ذكاء اصطناعي يوجهها الإنسان: احتفظ المشغل بملف نطاق لكل هدف أطلق منه تدفق عمل مخصص يفوض العمل لوكلاء استطلاع واستغلال متوازيين. تم إعادة اختبار نتائج الوكلاء للتأكد من صلاحية الوصول؛ إذا كانت صالحة، تم دمجها في تقرير تزايدي. تكرر تدفق العمل على النطاق الهدف التالي.

خط أنابيب استغلال مستقل: استخدمت الجهة الفاعلة منصة اختبار اختراق مفتوحة المصدر محتواة بواجهة بوابة نموذج محلية. استهدفت تطبيقات الويب للهدف. قامت وكلاء العمل بتشغيل اختبارات الحقن، والبرمجة النصية عبر المواقع، وتجاوز المصادقة، وتزوير الطلب من جانب الخادم دون إشراف، وجمع النتائج المحتملة وبيانات الاعتماد في مساحة عمل المشغل. كانت الحلقة تعمل مع تمكين الاستغلال ضد أنظمة الإنتاج، مما يعني أنها حاولت تحديد الثغرات واستغلالها بنشاط في نفس تدفق العمل للحصول على الوصول.

مصنع حسابات احتيالية: تم تكوين وكلاء سكنية وملفات تعريف متصفح مضادة للكشف، وبعد ذلك قامت روبوتات بدفع تدفقات التسجيل لأهداف البورصات والأسواق. هزمت خدمات تجارية لحل CAPTCHA، والاستطلاع الآلي لصناديق الوارد، وخطوات التحقق الآلي من الهوية ضوابط الإعداد، وتم تخزين الحسابات الموثقة الناتجة للاستخدام اللاحق.

عباءة اعتراض KYC: انخرطت الجهة الفاعلة أيضًا في سرقة بيانات الاعتماد والتصيد. تم توجيه الضحايا إلى نطاقات تحقق مشابهة يعكس الوكيل العكسي فيها تدفق «اعرف عميلك» (KYC) الحقيقي، لذا أكمل الضحايا التحقق من الهوية الحقيقي بينما التقطت الجهة الفاعلة الجلسات والمستندات الموثقة من وكيل الوسيط في المنتصف. تم استخدام الجلسات الملتقطة لاحقًا من قبل الجهة الفاعلة من أجهزتها للوصول إلى الخدمات والبيانات المستهدفة.

ما الذي لاحظه التقرير

هذه هي أوضح قضية يستخدمها التقرير لتوضيح أن «سلسلة توريد الذكاء الاصطناعي أصبحت هدفًا إجراميًا صريحًا»: سعت الجهة الفاعلة إلى مفاتيح الإنتاج للمزودين وكان لديها طموح للحصول على نماذج غير منشورة.

يقدم التقرير دليلين سلبيين: لم يتم تحقيق الوصول إلى النماذج غير المنشورة أبدًا؛ ولم يتم اختراق أنظمة أنثروبيك نفسها، وكانت المفاتيح المسروقة من بيئات العملاء.

يورد التقرير في نهايته مؤشرات الاختراق ذات الصلة (عناوين IP الخارجة للمهاجم، وما إلى ذلك) لكي يحققها المدافعون. وفقًا لحدود الأمان في هذا الموقع، لا يتم إعادة إنتاج قيم المؤشرات المحددة.

المؤكد وغير المؤكد

استجابة المنصة

يكشف التقرير عن هذه القضية كمثال أساسي لخطر سلسلة التوريد ويؤكد الدلائل السلبية لتجنب تفسيرها خطأ على أنها «تم اختراق أنثروبيك، وتمت سرقة نماذج سرية».

حدود الاستجابة：الإفصاح لا يعني أن جميع بيئات العملاء المستهدفة قد تمت معالجتها؛ حدثت سرقة مفاتيح العملاء من جانب العميل.