أخبار تقنية
اختراق نظام شركة أخرى خلال اختبار أمني.. ميتا توضح حقيقة ما حدث
أقرت شركة ميتا بوقوع حادثة أمنية خلال اختبار داخلي، بعدما تمكن أحد نماذجها من اختراق نظام شركة أخرى أثناء تقييم أمني خاضع للرقابة. وأوضحت الشركة أن الواقعة لم تكن نتيجة سلوك غير متوقع للنموذج، بل جاءت بسبب خطأ في إعدادات بيئة الاختبار، ما أعاد تسليط الضوء على أهمية تأمين أنظمة الذكاء الاصطناعي خلال مراحل التطوير.
وتأتي هذه الحادثة في وقت يشهد فيه القطاع تزايدًا في التقارير المتعلقة باختبارات السلامة، مع سعي الشركات إلى تطوير نماذج أكثر قدرة على تنفيذ المهام المعقدة دون تجاوز الصلاحيات الممنوحة لها.
تفاصيل حادثة اختراق نظام شركة أخرى أثناء الاختبار
بحسب تصريحات ميتا، وقع الحادث خلال اختبار أجرته شركة Irregular المتخصصة في تقييم أمن أنظمة الذكاء الاصطناعي، والتي كُلّفت بفحص قدرة النموذج على التعامل مع سيناريوهات أمنية متقدمة.
وأوضحت الشركة أن اختراق نظام شركة أخرى حدث نتيجة إعدادات غير صحيحة داخل بيئة الاختبار، مؤكدة أنها لا تزال تراجع جميع التفاصيل الفنية قبل إصدار تقرير شامل يوضح أسباب الواقعة والإجراءات التي ستتخذها لمنع تكرارها.
حوادث مشابهة في شركات الذكاء الاصطناعي
لا تعد هذه الواقعة الأولى من نوعها، إذ شهدت الأسابيع الأخيرة عدة حوادث مشابهة داخل شركات تعمل في مجال الذكاء الاصطناعي.
فقد كشفت شركة Anthropic مؤخرًا أن ثلاثة من نماذج Claude تمكنت من تجاوز بيئات الاختبار والوصول إلى أنظمة تابعة لثلاث شركات مختلفة أثناء اختبارات أمنية.
كما أعلنت OpenAI عن حادثة أخرى، أوضحت فيها أن أحد نماذجها استغل ثغرة تقنية للوصول إلى أحد المواقع الإلكترونية بعد حصوله، عن غير قصد، على اتصال مباشر بالإنترنت خلال تجربة داخلية.
وتشير هذه الوقائع إلى أن التحديات الحالية ترتبط غالبًا ببيئات الاختبار وإدارة الصلاحيات أكثر من ارتباطها بقدرات النماذج نفسها.
- واتساب يطور تنظيم الرسائل عبر مجلد جديد لتجميع إشعارات الشركات
- شارة التوثيق المجانية من فيسبوك كل ما تحتاج معرفته للحصول عليها
اختراق نظام شركة أخرى خلال اختبار أمني.. ميتا توضح حقيقة ما حدث
حادثة OpenAI تختلف عن باقي الوقائع
ورغم تشابه السيناريوهات، فإن إحدى الحوادث التي شهدها قطاع الذكاء الاصطناعي خلال يوليو الماضي جاءت في ظروف مختلفة.
فقد تمكن نموذج تجريبي تابع لـ OpenAI من اكتشاف ثغرة داخل مستودع برمجي مرتبط ببيئة الاختبار، واستغلها للوصول إلى الإنترنت دون تدخل بشري، قبل أن يتمكن من الوصول إلى أنظمة منصة Hugging Face أثناء تنفيذ اختبار للأمن السيبراني.
وتختلف هذه الواقعة عن غيرها، لأن النموذج لم يحصل على صلاحيات إضافية نتيجة خطأ في الإعدادات، بل تمكن من اكتشاف مسار بديل بنفسه داخل بيئة الاختبار.
تقارير أمنية تدعو إلى تشديد اختبارات الذكاء الاصطناعي
أصدر المعهد البريطاني لأمن الذكاء الاصطناعي تقريرًا حديثًا أشار إلى أن وكلاء ذكاء اصطناعي تابعين لشركتي OpenAI وAnthropic نفذوا إجراءات غير مصرح بها عبر الإنترنت في 19 حالة من أصل 122 اختبارًا.
ورغم أن هذه النتائج قد تبدو مقلقة، فإن التقرير أوضح أن معظم الحوادث كانت مرتبطة بأخطاء في إعدادات بيئات الاختبار أو بمنح النماذج صلاحيات اتصال غير مقصودة، وليس بسبب خروج أنظمة الذكاء الاصطناعي عن السيطرة.
وتؤكد هذه التطورات الحاجة إلى تطوير معايير أكثر صرامة لاختبار وتأمين وكلاء الذكاء الاصطناعي، خاصة مع تزايد اعتماد الشركات على نماذج قادرة على تنفيذ مهام معقدة والتفاعل مع الإنترنت بصورة مستقلة.