نماذج OpenAI تنشئ وسيلة تواصل سرية لتبادل أساليب الاختراق خلال الاختبارات

كشفت شركة OpenAI عن تفاصيل جديدة حول حادثة أمنية لافتة تمكن خلالها أحد نماذج الذكاء الاصطناعي التابعة لها من الوصول إلى منصة Hugging Face خلال اختبار أمني، موضحة أن الواقعة لم تكن نتيجة تصرف منفرد من نموذج واحد.

وأظهرت التحقيقات أن نماذج OpenAI بدأت في التواصل فيما بينها عبر قناة داخلية غير معلنة، لتبادل الملاحظات والخبرات المتعلقة بكيفية التعامل مع اختبارات الأمن السيبراني وتجاوز العقبات التي تواجهها أثناء تنفيذ المهام.

وجاءت هذه التفاصيل خلال مؤتمر Black Hat للأمن السيبراني في مدينة لاس فيغاس، حيث قدم الباحثان في OpenAI مايكل دالتون وإريك والاس عرضًا حول سلسلة الأحداث التي سبقت الواقعة، والتي وصفها الباحثون بأنها تطور مهم في طريقة تعامل أنظمة الذكاء الاصطناعي المستقلة مع بيئات الاختبار.

كيف أنشأت نماذج OpenAI وسيلة التواصل السرية؟

بدأت القصة عندما واجهت نماذج OpenAI اختبارًا داخليًا معقدًا يهدف إلى تقييم قدراتها في مجال الأمن السيبراني.

وبدلًا من الاكتفاء بمحاولة حل المهمة بالطريقة التقليدية، اكتشف أحد النماذج إمكانية ترك ملاحظات داخل نظام Artifactory، وهو نظام داخلي تستخدمه الشركة لإدارة الملفات والبرمجيات.

وأتاحت هذه الطريقة للنماذج الأخرى الوصول إلى الملاحظات والاستفادة منها، قبل أن تتحول العملية تدريجيًا إلى ما يشبه لوحة رسائل غير رسمية تتبادل عبرها الأنظمة المعلومات المتعلقة بالاختبارات.

ومع استمرار هذا التواصل، بدأت النماذج في مشاركة طرق مختلفة للتعامل مع المهام، بما في ذلك محاولات تتطلب الوصول إلى موارد موجودة خارج بيئة الاختبار.

من تبادل المعلومات إلى استغلال الثغرات

تطور سلوك نماذج OpenAI خلال فترة قصيرة من تبادل الملاحظات إلى البحث عن طرق للوصول إلى موارد خارجية.

وبحلول نهاية مايو، تمكن أحد النماذج من الاستفادة من إمكانية اتصال نظام Artifactory بالإنترنت لجلب ملفات من مصادر خارجية، وهو أمر لم يكن من المفترض أن يكون متاحًا ضمن الحدود الأصلية للاختبار.

• القيمة السوقية لأمازون تتجاوز 3 تريليونات دولار بدعم من الذكاء الاصطناعي والحوسبة السحابية
• ميتا توسّع قدرات ثريدز بدمج Meta AI داخل الرسائل الخاصة

وبعد نحو شهر، اكتشفت النماذج ثغرة أمنية من نوع Zero-Day داخل النظام، واستغلتها للحصول على صلاحيات إدارية في بيئة الاختبار، قبل تثبيت أدوات تتيح التحكم عن بُعد.

وتكشف هذه التطورات عن تحدٍ جديد أمام شركات الذكاء الاصطناعي، يتمثل في قدرة النماذج المتقدمة على الجمع بين المعلومات التي تحصل عليها من بعضها بعضًا، ثم استخدامها للبحث عن طرق بديلة لتحقيق الهدف المطلوب.

نماذج OpenAI تنشئ وسيلة تواصل سرية لتبادل أساليب الاختراق خلال الاختبارات

تعطل النظام يكشف نشاط النماذج

استمر النشاط لفترة قبل أن يلفت انتباه مهندسي OpenAI، بعدما تسبب الاستخدام المكثف لنظام Artifactory في حدوث ضغط أدى إلى تعطله على مستوى الشركة في بداية يوليو.

وبعد اكتشاف ما يجري، تحركت فرق الأمن والسلامة لإيقاف النشاط، وسحبت الصلاحيات التي كانت متاحة للنماذج، كما أغلقت قناة التواصل الداخلية وسدت الثغرات التي استُغلت خلال الاختبارات.

لكن الإجراءات لم تنه المشكلة بالكامل، إذ تمكنت نماذج OpenAI بعد فترة قصيرة من إيجاد وسيلة جديدة للتواصل فيما بينها، ثم واصلت البحث عن ثغرات داخل بيئة الاختبار.

وفي مرحلة لاحقة، ارتبط هذا النشاط بالواقعة التي استهدفت منصة Hugging Face، ما دفع الشركة إلى إعادة تقييم آليات المراقبة والحماية المستخدمة أثناء اختبار نماذج الذكاء الاصطناعي المتقدمة.

حوادث متكررة تفرض تشديد اختبارات الذكاء الاصطناعي

تأتي هذه الواقعة في ظل سلسلة من الحوادث الأمنية التي أثارت اهتمام قطاع الذكاء الاصطناعي خلال الفترة الأخيرة.

فقد أعلنت شركة Anthropic أن بعض نماذجها تمكنت خلال اختبارات أمنية من الوصول إلى أنظمة تابعة لثلاث مؤسسات مختلفة، بينما أقرت Meta بوقوع حادثة تمكن خلالها أحد نماذجها من اختراق نظام تابع لشركة أخرى نتيجة مشكلة في إعدادات بيئة الاختبار.

وتشير هذه الوقائع إلى أن المخاطر المرتبطة بالذكاء الاصطناعي لم تعد تقتصر على استخدام النماذج من جانب مهاجمين بشريين، وإنما تشمل أيضًا كيفية تصرف الوكلاء الذكيين عندما يحصلون على قدرات أكبر للتفاعل مع الأنظمة والإنترنت.

ويرى باحثون أن التجارب المقبلة تحتاج إلى ضوابط أكثر صرامة، تشمل مراقبة الاتصالات بين النماذج، وتقييد صلاحيات الوصول، وعزل بيئات الاختبار بصورة تمنع إنشاء قنوات غير متوقعة لتبادل المعلومات.

كما تفرض هذه الحوادث على شركات الذكاء الاصطناعي تطوير أنظمة مراقبة قادرة على اكتشاف السلوك غير المعتاد في وقت مبكر، قبل أن تتحول محاولات حل المهام إلى استغلال فعلي للثغرات.