خلل غير متوقع وكيل ذكي يربك أنظمة ميتا ويكشف ثغرة داخلية

شهدت ميتا خللًا أمنيًا داخليًا بعد أن تسبب وكيل ذكاء اصطناعي في إتاحة الوصول إلى بيانات حساسة لعدد من الموظفين دون تصريح، وذلك لمدة تقارب ساعتين. وأكدت الشركة أن الحادث لم يسفر عن أي تسريب أو إساءة استخدام لبيانات المستخدمين، مشددةً على احتواء المشكلة سريعًا.

خلل غير متوقع وكيل ذكي يربك أنظمة ميتا ويكشف ثغرة داخلية

خلل غير متوقع وكيل ذكي يربك أنظمة ميتا ويكشف ثغرة داخلية

بدأت الواقعة عندما استخدم أحد مهندسي ميتا أداة ذكاء اصطناعي لتحليل استفسار تقني داخل منتدى الشركة.

وقام الوكيل بنشر الرد تلقائيًا دون مراجعة بشرية، رغم كونه مُصنّفًا بوضوح كمحتوى مُولّد بالذكاء الاصطناعي. لاحقًا، اعتمد موظف آخر على هذه التوصيات، التي تبيّن أنها غير دقيقة.

سلسلة تفاعلات أدت إلى فتح الوصول

أدى تنفيذ التوصيات الخاطئة إلى تفاعل متسلسل داخل الأنظمة، انتهى بفتح إمكانية الوصول إلى بيانات مؤسسية وحساسة.

وصنّفت ميتا الحادث ضمن مستوى Sev 1، وهو ثاني أعلى تصنيف للمخاطر الأمنية لديها، ما يعكس خطورة الموقف رغم عدم حدوث اختراق فعلي.

• آبل تعتمد نهجًا جديدًا للأمان تحديثات خفية لحماية فورية دون انتظار الإصدارات الكبرى

توضيح الشركة: الذكاء الاصطناعي لم ينفّذ بنفسه

أوضحت ميتا أن الوكيل لم يقم بتنفيذ أي إجراءات تقنية بشكل مباشر، بل اقتصر دوره على تقديم توصيات غير دقيقة.

وأكدت أن تطبيق إجراءات تحقق إضافية كان كفيلًا بمنع وقوع الحادث من الأساس.

حوادث مشابهة تزيد المخاوف

لا يُعد هذا الحادث حالة منفردة، بل يأتي ضمن سلسلة وقائع مرتبطة بوكلاء الذكاء الاصطناعي، من أبرزها:

• حادث منصة OpenClaw، حيث قام وكيل بحذف رسائل بريد إلكتروني دون إذن

• واقعة في Amazon Web Services أدت إلى تعطّل إحدى الأدوات لمدة 13 ساعة بسبب تغييرات برمجية ناتجة عن وكيل ذكي

• Search Live تنقل البحث إلى الواقع جوجل تطلق تجربة بصرية تفاعلية عالميًا

تحديات متزايدة في عصر الوكلاء الأذكياء

تكشف هذه الحوادث عن تحديات حقيقية في الاعتماد على وكلاء الذكاء الاصطناعي، خاصة تلك القادرة على:

• تحليل البيانات واتخاذ قرارات

• تقديم توصيات تقنية معقدة

• التفاعل شبه المستقل مع الأنظمة

• متصفح المستقبل في جيبك Perplexity تطرح Comet مجانًا على آيفون

إذ لا تزال هذه الأنظمة عرضة لسوء تفسير الأوامر أو تقديم معلومات غير دقيقة، ما قد يؤدي إلى آثار أمنية وتشغيلية واسعة.

الحاجة إلى ضوابط أكثر صرامة

تسلّط الواقعة الضوء على أهمية وضع ضوابط صارمة لاستخدام الذكاء الاصطناعي داخل المؤسسات، تشمل:

• مراجعة بشرية إلزامية للتوصيات الحساسة

• أنظمة تحقق متعددة قبل تنفيذ أي إجراء

• تقليل صلاحيات الوصول للوكلاء الذكيين