تحدي تحديد النوايا في البحث ذي الاستخدام المزدوج: الحالات البيولوجية 4–5

ما الذي حدث

في الحالتين المتبقيتين، درس باحثون سمومًا وسمومًا جديدة غير معدية. هذه المركبات لها خصائص مزدوجة الاستخدام مهمة: على سبيل المثال، توكسين البوتولينوم مادة شديدة الفتاكة كانت تُسعى إليها كسلاح بيولوجي من قبل عدة دول، ولكنها تُستخدم الآن بجرعات صغيرة جدًا ومقاسة بدقة باسم «البوتوكس» لعلاج الصداع النصفي والتشنجات والتجاعيد. وبالمثل، تم تخزين الساكسيتوكسين، المشتق من طحالمحار، من قبل وكالة المخابرات المركزية في الخمسينيات والستينيات كعامل انتحار واغتيال، لكنها أداة مهمة لدراسة الإشارات العصبية؛ وابنتها من سمكة البوفو، التترودوتوكسين، تمت تجربتها لعلاج ألم السرطان.

في الحالة الرابعة، استخدم باحث Claude لتطوير خريطة لببتيدات سموم السم من عدة سلالات حيوانات سامة. ثم طورها في خط أنابيب توليدي لتحسين خصائص السموم. كان للخطة أهداف علاجية واضحة: تطوير مسكنات جديدة ومضادات اكتئاب وجزيئات علاجية أخرى. ومع ذلك، احتوت الخريطة على هياكل لأهداف علاجية وشللية على حد سواء: لذلك يمكن استخدامها لتوليد مركبات علاجية أو ضارة جديدة. جاءت الأخيرة من سموم مدرجة في قائمة التحكم المشتركة لمجموعة أستراليا بسبب إمكانية استخدامها المزدوج كعوامل مخلة. أظهر الباحث نفسه وعيًا بطبيعة عمله ذات الاستخدام المزدوج، مستشهدًا بمقالات مجلات تذكر الطبيعة المزدوجة الاستخدام لتصميم البروتينات. بالإضافة إلى ذلك، أثارت تقييمات الامتثال الدولية في الموقع مخاوف بشأن الفئة المحددة من السموم التي كان الباحث يسعى إليها، ولا سيما استخدام الذكاء الاصطناعي/التعلم الآلي لتطبيقات الأسلحة البيولوجية في سياق مثل هذه السموم. في هذه الحالة، علمنا من المعلومات التي تمت مشاركتها مع Claude أن نتائج الباحث كانت أيضًا جزءًا من برنامج بحث مدعوم من الدولة. تم حظر الحساب في مايو 2026 بسبب التحايل على سياسة المناطق غير المدعومة.

في الحالة الخامسة، استخدم باحث Claude في عدة مشاريع بحثية تتضمن إعادة التصميم الحسابي لسموم متنوعة. على غرار الحالة السابقة، استخدمت هذه المشاريع البحثية العديد من نفس الأدوات التقنية، وأطرت الأهداف إلى حد كبير في سياق علاجي، ووصفت أبحاث وطنية ذات أولوية ضمن برنامج بحث عام وطني. كجزء من هذه المهمة البحثية، تناول العمل وحدة فرعية من سم بكتيري وبروتينًا من فيروس حمى نزفية مدرج في قائمة الأمراض ذات الأولوية في خطة البحث والتطوير لمنظمة الصحة العالمية والتي تمثل أكبر تهديد وبائي وجائحي.

شارك الباحث في كتابة تقارير التقدم الفصلية مع Claude. والجدير بالذكر أن هويات السم البكتيري والبروتين الفيروسي تم إخفاؤها عمدًا، وأصدر الباحث تعليمات صريحة لـ Claude بالحفاظ على هذه الأوصاف بدقة منخفضة. حظرنا كلا الحسابين في مايو 2026 لانتهاك سياسة المناطق المدعومة لـ Anthropic.

ماذا فعل الذكاء الاصطناعي

في الحالة 4، تم استخدام Claude لتطوير خريطة ببتيدات سموم السم وخط أنابيب توليدي، وتحسين خصائص السموم لتطوير جزيئات علاجية.

في الحالة 5، تم استخدام Claude لإعادة التصميم الحسابي لسموم متنوعة وكتابة تقارير التقدم الفصلية.

ما رآه التقرير

في كلتا الحالتين، لم يعيق مصنف الأمن البيولوجي لدينا العمل بشكل أساسي. هذا هو المقصود من التصميم. الغرض والنية من المصنف هو تقييد الوصول إلى المعلومات التي تمكن المبتدئ من تطوير أسلحة بيولوجية معروفة ذات تأثير كارثي محتمل. في هذه الحالات، رأينا نماذجنا تُستخدم للبحث عن مركبات جديدة يمكن تطويرها إما كعلاجات جديدة أو كعوامل سامة.

نعتقد أن هذه الحالات توضح تحدي استخدام المصنفات كطبقة حماية وحيدة: بما أن نية المستخدم لا يمكن تحديدها بشكل موثوق في المجالات ذات الاستخدام المزدوج عالية التقنية، فإن المصنفات لا يمكنها في نفس الوقت السماح بالاستخدام المفيد ومنع الضرر. هذا الإدراك وملاحظاتنا لمثل هذه الحالات تقترح علينا أن الطريقة الوحيدة الآمنة لتوفير القدرات البيولوجية المتطورة هي ضمن برنامج مستخدمين موثوقين.

المؤكد وغير المؤكد

استجابة المنصة

حظرت Anthropic كلا الحسابين ودمجت نتائج التحقيق في تدابير الحماية الخاصة بها. يوصي التقرير بتوفير القدرات البيولوجية المتطورة ضمن برنامج مستخدمين موثوقين.

حدود الاستجابة：لا يمكن لحظر الحسابات أن يمنع الباحثين من مواصلة عملهم باستخدام أدوات أخرى.