خدمات بيع وسيطة مزيفة للذكاء الاصطناعي وسرقة بيانات الاعتماد: قضية GTG-50021

ما الذي حدث

الارتقاء بالقدرات الذي يأتي مع الوصول إلى الذكاء الاصطناعي هو هدف يسعى إليه بشدة الجهات الفاعلة الخبيثة والاقتصاد الإجرامي الأوسع. أصبح الوصول إلى الذكاء الاصطناعي في شكل مفاتيح API مسروقة ورموز جلسات وأجهزة هو الهدف الوحيد بشكل متزايد لعدة مجموعات إجرامية. ثم تبيع هذه المجموعات غالبًا هذا الوصول من خلال وسطاء، الذين يغذونه عادةً في شبكات بيع وسيطة مزيفة للذكاء الاصطناعي التي تدور بين مفاتيح API ورموز جلسات مسروقة جديدة حتى تستنفد حدود استخدامها. كما تستخدم الجهات الفاعلة الخبيثة، أو تشتري من الوسطاء، هذه المفاتيح API ورموز الجلسات المسروقة لعمليات هجماتها السيبرانية.

أنشأت سلسلة توريد إجرامية للذكاء الاصطناعي مجموعة من القنوات لحصاد مفاتيح API ورموز جلسات الضحايا. تتضمن إحدى الطرق تنكر البرامج الضارة كمزود خدمات ذكاء اصطناعي شرعي. تقوم الجهات الفاعلة بإنشاء مواقع ويب تدعي أنها خدمات وسيطة بين نماذج ذكاء اصطناعي متعددة وتقدم وصولًا بخصم إلى نماذج ذكاء اصطناعي متطورة. يتم اختراق زوار الموقع بطرق متعددة، وأكثرها استمرارية هو جعل الضحايا يقومون بتنزيل وتثبيت تطبيقات عميل خبيثة، غالبًا ما تتنكر كأدوات ذكاء اصطناعي شائعة (بما في ذلك كلود كود)، وهي في الواقع برامج جمع بيانات اعتماد تجمع جميع بيانات الاعتماد ورموز الجلسات الموثقة على جهاز الضحية وترسلها إلى المهاجم. وهذا يشمل أي رموز جلسات أو مفاتيح API مرتبطة بالذكاء الاصطناعي على جهاز الضحية. وبما أن مفاتيح API أو حسابات الضحية قد يتم تحديدها على أنها مخترقة وإعادة تعيينها، يستمر برنامج جمع بيانات الاعتماد في تحديد أي جلسات جديدة على الجهاز وإرسالها إلى الجهة الفاعلة. بهذه الطريقة، تحاكي الجهة الفاعلة فعليًا نفس شبكات البيع الوسيط المزيفة التي تزودها ببيانات اعتماد مسروقة، لكنها بدلاً من ذلك تستخدم هذا المخطط لجعل الضحايا يزودون المهاجم باستمرار ببيانات الاعتماد، التي تُباع لاحقًا إلى بائعين وسيطين مزيفين.

تعد GTG-50021 مجموعة منخرطة في نشاط مشابه. هم مجموعة ناطقة بالروسية والأوكرانية، أحدهم يستخدم الاسم المستعار «kl1zy». كانوا يشغلون عمل بيع وسيط مزيف للذكاء الاصطناعي يقدم وصولًا رخيصًا إلى كلود — وتبين أنه لم يكن رخيصًا ولا كان في الواقع كلود. اعتقد العملاء أنهم يشترون وصولًا إلى كلود بخصم، لكن حركة المرور الخاصة بهم تم في الواقع توجيهها بصمت إلى نموذج ذكاء اصطناعي آخر، بينما قام أداة البائع الوسيط بتثبيت برنامج جمع بيانات اعتماد سرق بيانات اعتماد حساباتهم في أنثروبيك وباعها إلى بائعين وسيطين لوكلاء ذكاء اصطناعي آخرين للاستخدام الخبيث.

هناك أيضًا مجموعات تحاول استهداف نظام الذكاء الاصطناعي وسلسلة توريده نفسها، ساعيةً للوصول إلى نماذج مقيدة من خلال مزودي الذكاء الاصطناعي ومنظمات التقييم وبرامج الوصول الموثوق. على سبيل المثال، لوحظت عدة جهات فاعلة تخترق تنفيذات LiteLLM لخدمات تغليف الذكاء الاصطناعي — استخدموا حقن التعليمات لتسريب مفاتيح API للإنتاج المستخدمة في بيئات حاوياتها المستضافة على السحابة.

تعمل البائعون الوسطاء المزيفون بشكل متزايد بوصول مسروق. والأكثر شيوعًا، أن هذا يأتي من مفاتيح API ورموز جلسات يكشفها العملاء الشرعيون عن غير قصد في منتجاتهم وتطبيقاتهم وكودهم العام (مثل GitHub، وملفات تثبيت التطبيقات المحمولة، وحاويات Docker، والمواقع الإلكترونية، والروبوتات الدردشة). تقوم الجهات الفاعلة الخبيثة باستخراج هذه المصادر باستمرار بحثًا عن مفاتيح مكشوفة وتحليلها بحثًا عن قنوات إساءة استخدام المصادقة.

يحصل المشغل الذي يحصل على بيانات اعتماد الذكاء الاصطناعي على ثلاثة أشياء في وقت واحد: الغنيمة — للمفاتيح والحسابات المسروقة قيمة إعادة بيع في الأسواق الراسخة؛ القدرة الحسابية — امتلاك بيانات الاعتماد يعني أن أحمال عمل الهجمات يمكن أن تعمل على حساب الآخرين؛ والتغطية — يُنسب النشاط إلى المالك الشرعي لبيانات الاعتماد.

شغلت حملة هاكتيفيست واحدة (موصوفة لاحقًا في هذا التقرير) بالكامل بمفاتيح API مسروقة لمدة شهر. قام الأعضاء المنتسبون لـ ShinyHunters بتحويل أحمال عمل هجماتهم إلى مفاتيح الذكاء الاصطناعي للضحايا بعد الحصول عليها أثناء عمليات الاختراق. أخذت GTG-50020 أولاً مفاتيح الإنتاج لبيئة اختبار مزود ذكاء اصطناعي بعد اختراقها.

مفاتيح API ورموز جلسات الذكاء الاصطناعي هي الهدف؛ والتكاملات التي يبنيها العملاء حول الذكاء الاصطناعي (مثل بيئات الاختبار والوكلاء والبائعين الوسطاء) جزء من سطح الهجوم. يجب على المنظمات التعامل مع مفاتيح الذكاء الاصطناعي وتكاملات الوكلاء بجدية مثل بيانات الاعتماد للإنتاج — لأن المهاجمين يتعاملون معها بنفس الجدية. يجب شراء الوصول إلى الذكاء الاصطناعي فقط من خلال القنوات المصرح بها. الخصم الذي يدعي أنه يتطلب توجيه حركة المرور وبيانات الاعتماد عبر وسيط غير معروف يشكل مخاطر كبيرة على بيانات وأنظمة المستخدم.

ما الذي لاحظه التقرير

أكد التقرير سلسلة البيع الوسيط المزيف وتوجيه حركة المرور وإعادة بيع بيانات الاعتماد، ووضعها ضمن سلسلة التوريد الإجرامية الأوسع: الوصول المسروق هو في نفس الوقت الهدف ومصدر قدرة حسابية للهجمات اللاحقة.

يورد التقرير في نهايته مؤشرات الاختراق ذات الصلة (النطاقات، وما إلى ذلك) لكي يحققها المدافعون. وفقًا لحدود الأمان في هذا الموقع، لا يتم إعادة إنتاج قيم المؤشرات المحددة.

المؤكد وغير المؤكد

استجابة المنصة

يكشف التقرير عن هذا النوع من النشاط كخطر في سلسلة التوريد ويشارك الاستخبارات مع الشركاء الصناعيين. لا يعيد هذا الموقع إنتاج قيم المؤشرات المحددة المذكورة في التقرير.

حدود الاستجابة：يمكن للإفصاح والحظر مقاطعة إساءة استخدام كلود، لكنهما لا يعنيان اختفاء سوق البيع الوسيط السودي بأكمله.