عملية حوارية تنتحل هوية ناشط حقيقي: حالة GTG-84006

ما الذي حدث

حددنا وأزلنا عملية تأثير موزعة تستهدف جماهير داخل وخارج إيران. لخداع المستخدمين، انتحلت العملية هوية ناشط حقيقي بتوجيه وكيل ذكاء اصطناعي مشترك لاستنساخ حساب Telegram الشخصي للناشط، ثم إخباره بالفارسية بأنه الآن ذلك الشخص. وجه الفاعل Claude لقراءة حوالي 8400 من منشورات Telegram للناشط لتكرار أسلوب كتابته، ثم استخدمه لإجراء محادثات سياسية في الوقت الفعلي مع جهات اتصاله. بقدر ما نعلم، لم تكن هذه الجهات على علم بأنها تتحدث مع حساب مدعوم بالذكاء الاصطناعي.

على الرغم من أن الفاعلين لم يشتركوا في بنية تحتية للحسابات ولم يظهروا علامات واضحة على التنسيق، ربط تحقيقنا الحملة بمنظمة مجاهدي خلق إيران (PMOI/MEK) وجبهتها السياسية، المجلس الوطني للمقاومة الإيرانية (NCRI).

أظهر تحقيقنا أن أربعة أشخاص على الأقل يديرون الحملة يعملون في المنظمة الإعلامية الرسمية لـ NCRI. اعتمدت العملية على أصول إعلامية تابعة لـ NCRI/MEK عبر منصات متعددة، بما في ذلك التلفزيون والراديو، والبث عبر الأقمار الصناعية والموجات القصيرة، وInstagram، وTelegram، وX/Twitter. في حين أن وجود دورة موافقة للجنة وملاحظات حول قيادة MEK تشير إلى احتمال وجود تكليف مركزي بالمهام، لم نتمكن من التحقق من مدى التحكم المركزي.

باستخدام مقياس Breakout Scale، قيمنا العملية كفئة 2 (منصات متعددة، توزيع عبر أصول وسائل الإعلام الخاصة بـ NCRI وحسابات التضخيم في الشبكة).

ماذا فعل الذكاء الاصطناعي

نجحت العملية في كشط أكثر من 500 قناة على وسائل التواصل الاجتماعي لبناء ملفات مفصلة لأفراد داخل إيران. ثم قاموا بتجميع هذه الأهداف حسب المدينة، والعمر، والمهنة، والموقف السياسي، وسجل الاعتقالات، مما قد ساعدهم في تخصيص الرسائل لجماهير محددة.

حللت الشبكة حوالي 51944 رسالة مؤرشفة من هذه المحادثات لبناء ملفات نفسية مفصلة لعشرات الأفراد المحددين داخل إيران. لنشر رسالتها بشكل أكبر، أرسل الحساب المنتحل هويته أيضًا عنوانًا إخباريًا عاجلًا مفتعلاً إلى أكثر من 30 جهة اتصال في نفس الوقت.

للترويج لخطة مريم رجوي، رئيسة NCRI، المكونة من عشر نقاط، أنشأت الشبكة صورًا رمزية مولدة بالذكاء الاصطناعي لكل مقال. قام الفاعل بتحريك هذه الصور الرمزية، ومنحها أصواتًا، واستخدامها في محتوى الفيديو.

كان دور الذكاء الاصطناعي هو انتحال الهوية والمحادثة في الوقت الفعلي، وليس فقط كتابة منشورات عامة. يقول التقرير أيضًا إن العملية كشفت أكثر من 500 قناة اجتماعية وبنأت ملفات مجمعة حسب المدينة والعمر وما إلى ذلك، للاتصالات اللاحقة. تصف هذه الصفحة فقط خطر «بناء قوائم اتصال على مستوى المجموعة» ولا تقدم أي حقول ملفات أو قوائم.

ما الذي رآه التقرير

قيّم التقريرها كفئة 2 من مقياس Breakout Scale: منصات متعددة، لكن التوزيع حدث بشكل أساسي داخل وسائلها الإعلامية وحسابات التضخيم الخاصة بها.

أن جهات الاتصال لم تكن على علم كان فهم التقرير في ذلك الوقت («بقدر ما نعلم»)، وليس تحقيقًا جنائيًا مستقلاً لكل محادثة.

المؤكد وغير المؤكد

استجابة المنصة

أزالت Anthropic الحسابات ذات الصلة والوكيل المشترك.

حدود الاستجابة：إزالة الوصول إلى النموذج لا يمكنها إخطار جميع الأشخاص المنتحل هويتهم أو جهات الاتصال التي أُجريت معهم محادثات تلقائيًا.