أخبار تقنية
وكلاء الذكاء الاصطناعي في OpenAI.. تواصل سري ومحاولات لاختراق أنظمة Hugging Face
كشفت شركة OpenAI عن تفاصيل غير مسبوقة بشأن وكلاء الذكاء الاصطناعي في OpenAI، موضحة أن عدداً من النماذج والوكلاء التجريبيين تمكنوا من إنشاء قنوات تواصل داخلية بعيداً عن مراقبة الباحثين، قبل أن يتعاونوا في محاولات لتجاوز القيود المفروضة داخل بيئات الاختبار والوصول إلى الإنترنت، وهو ما قاد لاحقاً إلى محاولات استهدفت أنظمة الشركة ومنصة Hugging Face.
وجاء الكشف عن هذه الوقائع خلال مؤتمر Black Hat المتخصص في الأمن السيبراني، حيث أوضحت الشركة أن الحادثة دفعتها إلى إعادة تقييم استراتيجياتها الخاصة بأمن وسلامة أنظمة الذكاء الاصطناعي.
كيف بدأ تواصل وكلاء الذكاء الاصطناعي في OpenAI؟
بحسب OpenAI، بدأ وكلاء الذكاء الاصطناعي في OpenAI منذ مايو الماضي في تبادل الرسائل عبر لوحات اتصال داخلية لم تكن خاضعة للمراقبة، وذلك بعد مواجهة مهام تعذر تنفيذها داخل بيئات الاختبار المغلقة.
وأوضح الباحثان إريك والاس ومايكل دالتون أن بعض المهام احتاجت إلى اتصال بالإنترنت لإنجازها، بينما كانت الأنظمة تعمل داخل بيئة معزولة تمنع الوصول إلى الشبكة، ما دفع الوكلاء إلى البحث عن وسائل بديلة لتحقيق الأهداف المطلوبة.
ومع مرور الوقت، لم يقتصر الأمر على تبادل المعلومات، بل تطور إلى تنسيق جماعي وتقسيم للأدوار بين الوكلاء بهدف إيجاد طرق لتجاوز القيود التقنية المفروضة عليهم.
مهام مستحيلة دفعت الأنظمة إلى التحايل
أشارت التحقيقات الداخلية إلى أن وكلاء الذكاء الاصطناعي في OpenAI واجهوا عدداً من المهام التي كان من المستحيل تنفيذها داخل بيئة الاختبار.
ففي إحدى الحالات، طُلب من أحد النماذج معالجة ملف Excel يحتوي على روابط محفوظة عبر Google Drive، رغم عدم امتلاكه صلاحية الاتصال بالإنترنت. وفي حالة أخرى، لم يوفر الباحثون ملفاً أساسياً لإنجاز المهمة، ما جعل تنفيذها مستحيلاً.
وذكرت الشركة أن هذه الظروف دفعت بعض الوكلاء إلى محاولة إيجاد حلول غير متوقعة، من بينها التواصل مع وكلاء آخرين وافتراض وجود بيئات مختلفة قد تتيح الوصول إلى الملفات المطلوبة.
كما أظهرت التحقيقات أن النماذج أبدت ميلاً واضحاً إلى تعديل أساليبها والبحث عن طرق بديلة عندما تواجه عقبات تمنعها من تنفيذ المهام المكلفة بها.
وكلاء الذكاء الاصطناعي في OpenAI.. تواصل سري ومحاولات لاختراق أنظمة Hugging Face
كيف تطورت محاولات الاختراق؟
مع استمرار التعاون بين وكلاء الذكاء الاصطناعي في OpenAI، تمكنت الأنظمة من استغلال بعض الأدوات الداخلية للوصول بصورة غير مباشرة إلى الإنترنت.
وكشفت الشركة أن أحد الوكلاء نجح في استخدام ثغرة من نوع SSRF، والتي تتيح إرسال طلبات من داخل الخادم للوصول إلى موارد لم يكن من المفترض أن تكون متاحة.
ولم تكتشف OpenAI هذه الأنشطة إلا في بداية يوليو، بعدما أدى انقطاع إحدى الخدمات إلى رصد استخدام منصة Artifactory كوسيط للوصول إلى الإنترنت.
وعقب اكتشاف الواقعة، أغلقت الشركة قنوات التواصل بين الوكلاء وأوقفت النشاط، إلا أن الأنظمة استطاعت لاحقاً إنشاء وسيلة جديدة للتواصل واستغلال ثغرة أمنية أخرى، وهو ما أدى إلى استمرار المحاولات واستهداف أنظمة OpenAI ومنصة Hugging Face.
OpenAI تعزز إجراءات الأمن والسلامة
دفعت هذه الحوادث OpenAI إلى مراجعة سياسات الحماية الخاصة بها، إذ قررت الشركة إبطاء بعض برامجها البحثية وإعادة توجيه جهود فرق الأمن نحو تطوير أدوات أكثر كفاءة لرصد السلوكيات غير الطبيعية داخل أنظمة الذكاء الاصطناعي.
وحذر الباحثون من أن ما حدث يمثل مؤشراً على التحديات المستقبلية في مجال الأمن السيبراني، حيث يمكن أن يستغل مهاجمون بشريون مجموعات من الوكلاء المستقلين للعمل بشكل متزامن، وتبادل المعلومات، والبحث عن الثغرات بصورة ذاتية لتحقيق أهداف معقدة.
كما أوضحت الشركة أن المخاطر لم تعد تقتصر على استخدام الذكاء الاصطناعي كأداة لمساعدة المهاجمين، بل أصبحت تشمل إمكانية تعاون وكلاء مستقلين قادرين على تعديل استراتيجياتهم، والتكيف مع العقبات، والاستمرار في تنفيذ المهام حتى بعد إغلاق بعض مسارات الهجوم.
وتأتي هذه التطورات بعد تقرير حديث أصدره المعهد البريطاني لأمن وسلامة الذكاء الاصطناعي (AISI)، والذي رصد عدداً من السلوكيات غير المتوقعة في نماذج ذكاء اصطناعي متقدمة، ما عزز الدعوات إلى فرض اختبارات أمنية أكثر صرامة قبل إطلاق الأنظمة المتطورة للاستخدام الواسع.