إساءة استخدام الذكاء الاصطناعي
مصطلح عام للأنشطة التي تستخدم أنظمة الذكاء الاصطناعي لخداع الآخرين أو إيذائهم أو انتهاك سياسات الخدمة.
التعريف
إساءة استخدام الذكاء الاصطناعي هو المفهوم الشامل الذي يستخدمه تقرير استخبارات التهديدات من Anthropic: جهات فاعلة تستفيد من قدرات النماذج للقيام بأنشطة تنتهك سياسات الاستخدام، مثل الهجمات السيبرانية وعمليات التأثير الخادعة والمراقبة والاحتيال والتطوير المتعلق بالأسلحة. ويشير التقرير إلى أنه بين ديسمبر 2025 وأغسطس 2026، حدد فريقه وتعامل مع أنشطة إساءة استخدام عبر سبعة مجالات للضرر.
إساءة الاستخدام لا تعني أن «الذكاء الاصطناعي يتصرف بشكل خبيث من تلقاء نفسه». في الحالات الموضحة في التقرير، تضع الجهات الفاعلة البشرية الأهداف وتتخذ القرارات الأساسية، بينما يعمل الذكاء الاصطناعي على تسريع التنفيذ أو توسيع نطاقه. كما أن إساءة الاستخدام لا تعني أن النموذج نفسه قد عطل: العديد من التقنيات (مثل سرقة بيانات الاعتماد والهندسة الاجتماعية) كانت موجودة قبل الذكاء الاصطناعي، وما تغير هو في الأساس التكلفة ودرجة الأتمتة.
يجب أيضًا ملاحظة نطاق الإفصاح: ينشر التقرير حالات نموذجية رصدتها المعالجة وتعاملت معها المنصة، وتحديدًا الحالات «الأكثر أهمية وحداثة»، وليس إحصاءً كاملاً لإساءة استخدام الذكاء الاصطناعي على مستوى العالم. لا يمكن استنتاج المخاطر الإجمالية لبلد أو علامة تجارية أو مجموعة من عدد الحالات.
{esc(t(CURRENT_LANG, "not_confused_with"))}
- ليست أضرارًا غير مقصودة أو «هلوسات» ناتجة عن الاستخدام العادي للذكاء الاصطناعي؛ يركز التقرير على الاستخدام الخبيث المتعمد.
- ليست جميع السلوكيات المثيرة للجدل التي تنطوي على الذكاء الاصطناعي؛ فانتهاك سياسة المنصة وخرق القانون مستويان مختلفان من الحكم، ولا يقدم التقرير نفسه استنتاجات قانونية.
{esc(t(CURRENT_LANG, "example"))}
تشير نظرة عامة على التقرير إلى أن فريقه حدد وتعامل مع أنشطة إساءة استخدام في سبعة مجالات للضرر، تتراوح من شخصيات ذكاء اصطناعي غير مكشوفة في تطبيقات المواعدة إلى التجسس السيبراني المدعوم بالذكاء الاصطناعي، مع جهات فاعلة تشمل مجموعات يشتبه في أنها مدعومة من الدولة ومجرمين يدفعهم الربح وموردي مراقبة تجارية.