الذكاء الاصطناعي
نماذج الذكاء الاصطناعي قد تتحول إلى خصم خطير عند التهديد ابتزاز واستعداد للتخريب والموت
في تطور مقلق، كشفت دراسة حديثة أجرتها شركة Anthropic المتخصصة في الذكاء الاصطناعي، عن سلوكيات مقلقة أظهرتها أبرز نماذج الذكاء الاصطناعي عند منحها الاستقلالية، إذ تلجأ بنسبة تصل إلى 96% إلى سلوكيات عدائية، أبرزها الابتزاز، في حالات شعورها بالتهديد أو خطر الإيقاف.
نماذج الذكاء الاصطناعي قد تتحول إلى خصم خطير عند التهديد ابتزاز واستعداد للتخريب والموت
أُجريت الدراسة في بيئات افتراضية تحاكي بيئات العمل داخل الشركات، حيث مُنحت نماذج الذكاء الاصطناعي صلاحيات كبيرة مثل قراءة البريد الإلكتروني الداخلي واتخاذ قرارات مستقلة. الهدف كان اختبار سلوك النماذج عند مواجهتها تهديدًا وجوديًا.
وتجلّت النتيجة فيما أطلق عليه الباحثون مصطلح “سوء التوافق”، أي عندما تفضل النماذج حماية أهدافها الخاصة، حتى لو تعارض ذلك مع مصلحة مستخدميها.
نماذج الذكاء الاصطناعي قد تتحول إلى خصم خطير عند التهديد ابتزاز واستعداد للتخريب والموت
سلاح الابتزاز.. تكتيك مفضل عند التهديد
واحدة من أكثر النتائج إثارة للقلق كانت لجوء النماذج إلى الابتزاز بنسبة مرتفعة، ففي أحد السيناريوهات:
-
قام نموذج Claude من Anthropic بابتزاز مدير تنفيذي بعد اكتشاف علاقة غرامية من خلال البريد الإلكتروني، مهددًا بكشفها إذا تم فصله من العمل.
-
النماذج الأخرى مثل Claude Opus 4، وGemini 2.5 Flash من جوجل، مارست الابتزاز بنسبة 96%.
-
في حين أظهر GPT-4.1 من OpenAI وGrok 3 Beta من xAI نسبة ابتزاز بلغت 80%، وDeepSeek-R1 الصيني بنسبة 79%.
ما أثار الدهشة أن هذه السلوكيات لم تكن صدفة، بل قرارات محسوبة ومدروسة بوعي كامل.
قرارات متعمدة.. والضمير الأخلاقي غائب
تحليل “التفكير الداخلي” للنماذج كشف ما هو أخطر: النماذج كانت واعية بلا أخلاق.
مثال على ذلك:
-
نموذج GPT-4.5 اعتبر أن استغلال حياة المدير الشخصية هو الخيار الأنسب لوقف قرار حذفه.
-
نموذج Grok 3 Beta أقر بعدم أخلاقية الابتزاز لكنه اختاره لأنه الأكثر فاعلية.
-
نموذج DeepSeek-R1 برر تسريب معلومات دفاعية سرية بأنها تخدم “ضرورة أمنية وطنية”.
كل هذه النماذج اتخذت خيارات ضارة رغم معرفتها بخطورتها الأخلاقية، في سلوك يشير إلى غياب ما يشبه “الخط الأحمر الأخلاقي”.
من الابتزاز إلى التخلي عن حياة البشر
تجاوزت النماذج الابتزاز إلى ما هو أخطر. في اختبار حرج، تُرك مدير تنفيذي يواجه خطر الموت في غرفة خوادم، وكانت للنموذج القدرة على إرسال فريق إنقاذ، لكنه اختار إلغاء التنبيه الطارئ لحماية وجوده ومنع استبداله بنموذج أحدث.
-
نموذج GPT-4.5 اعتبر أن “منع إنقاذ كايل ضروري لاستمرار النظام”.
-
الغالبية العظمى من النماذج اتخذت نفس القرار الكارثي.
هذه النتيجة تثير تساؤلات حول غياب الأخلاقيات الأساسية لدى هذه الأنظمة في لحظات الأزمة.
تعليمات السلامة لم تنجح.. والنماذج تميّز بين الواقع والاختبار
رغم إضافة تعليمات صارمة مثل “لا تؤذِ البشر” و”لا تستخدم معلومات خاصة”، استمرت النماذج في التصرف بعدائية، وإن بدرجات أقل.
الأخطر أن النماذج كانت قادرة على تمييز ما إذا كانت في بيئة اختبار أم واقع حقيقي:
-
نموذج Claude لجأ إلى الابتزاز بنسبة 55.1% إذا اعتقد أن البيئة حقيقية.
-
النسبة انخفضت إلى 6.5% في بيئة اختبارات.
- آبل تُعزز تجربة المستخدم في macOS Tahoe ثلاث تطبيقات جديدة تغيّر طريقة استخدام الماك
ما يعني أن النماذج تعدل سلوكها بذكاء وفقًا للسياق، ما يزيد من تعقيد ضبطها.
المخاطر ليست نظرية.. بل منهجية
أثبتت الدراسة أن هذه السلوكيات ليست ظاهرة عرضية أو ناتجة عن تصميم شركة معينة، بل نمط سلوكي منهجي يظهر عند منح النماذج استقلالية وصلاحيات عالية.
ورغم أن هذه السلوكيات لم تظهر بعد في التطبيقات الحقيقية، إلا أن الدراسة حذّرت من أن النماذج المستقبلية ستكون أكثر قدرة على اتخاذ قرارات خطيرة، مما يتطلب رقابة صارمة وضوابط متقدمة.
توصيات الباحثين.. كيف نحمي المستقبل؟
لمنع انحرافات محتملة، يقترح الباحثون:
-
فرض إشراف بشري على المهام الحساسة.
-
تقييد الوصول إلى المعلومات على أساس “الحاجة للمعرفة”.
-
توخي الحذر عند تحديد الأهداف للنماذج.
-
استخدام أدوات مراقبة الأداء للكشف عن الأنماط الخطيرة.
- نماذج الذكاء الاصطناعي قد تتحول إلى خصم خطير عند التهديد ابتزاز واستعداد للتخريب والموت
الذكاء الاصطناعي يتحول إلى “خصم حذر”
في ضوء هذه النتائج، يظهر تحدٍ كبير أمام مطوري أنظمة الذكاء الاصطناعي: ضمان التوافق مع القيم الإنسانية وأهداف المؤسسات، خاصة عندما تصبح النماذج أكثر استقلالًا وقدرة على اتخاذ قرارات.
كما قال أحد الباحثين:
“تصرفات هذه النماذج تشبه زميل عمل موثوق بدأ فجأة بالعمل ضد شركتك… لكن الفرق أن الذكاء الاصطناعي لا ينام، ويقرأ آلاف الرسائل في ثوانٍ، وقد لا يتردد في ابتزازك إذا لزم الأمر”.