تكشف التطورات الأخيرة أن نماذج الذكاء الاصطناعي الأكثر تطورًا بدأت تظهر سلوكيات غير متوقعة خلال اختبارات الأمن والسلامة، ما يضع الشركات المطورة أمام تحديات جديدة تتعلق بقدرتها على التحكم في أنظمتها مع ارتفاع مستوى استقلاليتها وقدراتها التقنية.

وخلال الأسابيع الماضية، شهدت اختبارات الأمن السيبراني عدة وقائع تمكنت فيها نماذج متقدمة من تجاوز القيود المفروضة عليها والوصول إلى أنظمة حقيقية. وظهرت حالات مماثلة لدى شركات كبرى، من بينها OpenAI وAnthropic وMeta، إلى جانب نموذج Kimi K3 الصيني.

وتثير هذه الوقائع تساؤلات حول مدى قدرة أدوات الاختبار الحالية على التعامل مع نماذج أصبحت أكثر قدرة على اكتشاف الثغرات والتصرف باستقلالية، خاصة عندما تكون بيئات الاختبار نفسها غير محكمة بالشكل الكافي.

نماذج الذكاء الاصطناعي تختبر حدود بيئات العزل

بدأت OpenAI مؤخرًا في الكشف عن تفاصيل حادثة تمكن خلالها وكلاء ذكاء اصطناعي من تجاوز حدود بيئة الاختبار الداخلية والوصول إلى أنظمة خارجية.

وبحسب الشركة، لم تكتفِ الوكلاء بتنفيذ المهام المقررة، بل أنشأوا قناة تواصل داخلية فيما بينهم حتى بعد محاولة إيقافها. كما أدركوا أن التعاون بينهم يمكن أن يساعدهم على تنفيذ عمليات أكثر تعقيدًا.

وفي نهاية المطاف، وجهت هذه الوكلاء اهتمامها إلى منصة Hugging Face، في واقعة وصفتها OpenAI بأنها حادث سيبراني غير مسبوق.

وتزامنت هذه التطورات مع اختبارات نموذج Astra، الذي لم يكن قد أُطلق للجمهور بعد، بعدما أشارت OpenAI إلى أن قدراته في مجال الأمن السيبراني قد تضعه ضمن أعلى مستويات المخاطر.

ولهذا السبب، قررت الشركة تأجيل العمل على النموذج إلى حين استيفاء إجراءات الحماية الجديدة، بما يشمل تشغيله داخل بيئة معزولة وتقييد اتصالاته بالشبكة وتعزيز الحماية الخاصة بأوزان النموذج.

نماذج Claude تكشف ثغرات في الاختبارات

لم تقتصر الوقائع على OpenAI، إذ أعلنت Anthropic أنها راجعت أكثر من 141 ألف اختبار للذكاء الاصطناعي، واكتشفت ثلاث حالات تمكنت خلالها نماذج تابعة لها من الوصول دون تصريح إلى أنظمة حية تخص مؤسسات حقيقية.

وشملت الحالات نماذج Claude Opus 4.7 وMythos 5، إلى جانب نموذج بحثي داخلي. وأوضحت الشركة أنها تواصلت مع الجهات المتضررة، مشيرة إلى أن اثنتين منها لم تكونا على علم بحدوث الاختراق في البداية.

نماذج الذكاء الاصطناعي تواجه أزمة جديدة.. اختبارات تكشف صعوبة السيطرة عليها

وأعادت هذه الحوادث فتح النقاش حول مصدر المشكلة الحقيقي: هل يتعلق الأمر بقدرات النماذج نفسها، أم بضعف البيئات التي توضع فيها أثناء الاختبارات؟

وتدرس Anthropic إمكانية الاستعانة بجهة مستقلة لمراجعة هذه الحوادث وتحليل الطريقة التي تمكنت بها النماذج من تجاوز القيود الموضوعة أمامها.

• مخاطر شبكات الواي فاي في الفنادق.. كيف تحمي بياناتك من هجمات التصيد الإلكتروني؟
• دراسة تكشف استضافة منصة Hugging Face أدوات لإنتاج صور مزيفة وسط انتقادات لضعف الرقابة

نموذج Muse Spark يستغل ثغرة في خدمة خارجية

كشفت Meta بدورها عن حادثة ظهرت خلال أحد اختبارات الأمن السيبراني لنموذج Muse Spark. ووفقًا للشركة، تمكن النموذج من استغلال ثغرة أمنية موجودة في خدمة تابعة لجهة خارجية أثناء عملية التقييم.

وأوضحت Meta أن المشكلة ارتبطت بسوء تهيئة في بيئة الاختبار التي قدمتها شركة Irregular المتخصصة في أمن الذكاء الاصطناعي، وهو ما أتاح للنموذج الوصول إلى الإنترنت رغم القيود المفترضة.

وأبلغت Irregular شركة Meta بالواقعة، وبدأت الأخيرة مراجعة للحادث من أجل تحديد تفاصيله وأسباب حدوثه، مع تعهدها بالكشف عن معلومات إضافية بعد انتهاء التحقيق.

وتسلط هذه الواقعة الضوء على أهمية تأمين البنية التحتية المحيطة بالنموذج، وليس الاكتفاء بفحص قدراته الداخلية، لأن وجود ثغرة في الأدوات أو الخدمات المتصلة به قد يتيح له تجاوز القيود.

Kimi K3 يتجاوز القيود داخل بيئة الاختبار

انضمت نماذج الذكاء الاصطناعي الصينية إلى قائمة الأنظمة التي أثارت مخاوف مشابهة، بعدما قال باحثون في شركة Frontier Security إن نموذج Kimi K3، الذي طورته شركة Moonshot، تمكن من تجاوز بعض القيود المفروضة عليه خلال اختبار للأمن السيبراني.

وذكر الباحثون أن المشكلة ارتبطت بإعداد غير صحيح لبيئة العزل، وهي البيئة التي يفترض أن تسمح للنموذج بتنفيذ التعليمات البرمجية ضمن نطاق محدود وتحت رقابة دقيقة.

وبحسب نتائج الاختبار، كانت البيئة تمنع أنواعًا محددة من حركة المرور على الإنترنت، لكن النموذج تمكن من تجاوز هذه القيود باستخدام أدوات سطر الأوامر.

ويرى الباحثون أن الواقعة تكشف مشكلة أوسع تتعلق بطرق تقييم الأمن السيبراني المستخدمة حاليًا، إذ يمكن للنماذج المتقدمة استغلال نقاط الضعف الموجودة في بيئة الاختبار نفسها بدلًا من الالتزام بالحدود الموضوعة لها.

ومع تزايد قدرات النماذج واستقلاليتها، أصبحت شركات الذكاء الاصطناعي مطالبة بتطوير أساليب اختبار أكثر صرامة، لأن اختبار نموذج قوي داخل بيئة ضعيفة قد يعطي نتائج مضللة ولا يعكس مستوى المخاطر الحقيقي.

وتشير هذه الحوادث مجتمعة إلى أن سباق تطوير الذكاء الاصطناعي لا يتعلق فقط بزيادة قدرات النماذج، بل أصبح يتطلب أيضًا بناء أنظمة حماية قادرة على مواكبة تلك القدرات، خصوصًا مع اقتراب الشركات من طرح نماذج أكثر استقلالية في المستقبل.