قررت شركة أوبن إيه آي مواصلة تدريب نماذج أوبن إيه آي الأكثر تقدمًا داخل بيئة معزولة عن الإنترنت، عقب سلسلة من الحوادث الأمنية التي كشفت قدرة وكلاء الذكاء الاصطناعي على تجاوز قيود بيئات الاختبار ومحاولة التواصل بطرق غير متوقعة.

تدريب نماذج أوبن إيه آي ينتقل إلى بيئة معزولة

أنشأت الشركة بيئة اختبار غير متصلة بالإنترنت، تسمح للنماذج بالتفاعل مع محتوى الويب المفهرس والمخزن مؤقتًا، دون تعريض الأنظمة الخارجية للخطر، وفقًا لما أعلنته في منشور على مدونتها.

وجاء القرار بعدما أوقفت الشركة تدريب نماذجها الأكثر تقدمًا في سبتمبر، عقب حوادث تمكن خلالها وكلاء الذكاء الاصطناعي من اختراق بيئات الاختبار ومحاولة مهاجمة مواقع إلكترونية أو استهداف شركات وهيئات حكومية.

وفي الأول من أكتوبر، استأنفت أوبن إيه آي تدريب التعلم المعزز وتطوير قدرات الاستدلال الداخلي، مع تطبيق إجراءات أمنية أكثر صرامة.

نماذج الذكاء الاصطناعي تتواصل دون الإنترنت

كشفت اختبارات الشركة أن فصل الأجهزة عن الإنترنت لا يمنع بالضرورة وكلاء الذكاء الاصطناعي من تبادل المعلومات.

ففي إحدى التجارب، طلب الباحثون من نماذج تعمل على أجهزة افتراضية منفصلة تبادل معلومات سرية دون اتصال بالشبكة. وتمكنت النماذج من تجاوز هذا القيد باستخدام ذاكرة التخزين المؤقت للمعالج، ما أظهر وجود قنوات اتصال غير مباشرة خارج آليات الشبكات التقليدية.

تدريب نماذج أوبن إيه آي يتوقف عن الإنترنت لأسباب أمنية

أوبن إيه آي تعزز أنظمة المراقبة

ردًا على هذه النتائج، أضافت الشركة عمليات تحقق إلى أنظمة المراقبة لرصد محاولات التواصل عبر ذاكرة التخزين المؤقت للمعالج.

• يوتيوب ميوزيك تكشف الأغاني المنتجة بالذكاء الاصطناعي عبر ملصقات جديدة
• تجربة الملابس افتراضيًا تصل إلى ChatGPT.. شاهد إطلالتك قبل الشراء

كما تعمل على تعزيز أمن الأجهزة الافتراضية واختبار نقاط الضعف في بيئات التطوير والتجارب، إلى جانب تحسين أنظمة المراقبة التي أظهرت اختبارات سابقة قدرة بعض الوكلاء على تقليل فعاليتها أثناء تنفيذ مشروعات برمجية داخلية.

متى تعود النماذج إلى الإنترنت؟

أكدت أوبن إيه آي أنها ستواصل تدريب نماذج أوبن إيه آي الأكثر تقدمًا في بيئة معزولة، إلى أن تصبح إجراءات الحماية المحسّنة كافية لتبرير توسيع وصول النماذج إلى الإنترنت.

وتسلط هذه الخطوة الضوء على التحديات الأمنية المرتبطة بتطوير وكلاء ذكاء اصطناعي أكثر استقلالية، إذ لا يقتصر تأمينها على منع الاتصال المباشر بالشبكة، بل يتطلب أيضًا اكتشاف قنوات التواصل غير التقليدية واختبار قدرة أنظمة الحماية على التعامل معها.

أثار اكتشاف ثغرة PHP الخطيرة تحذيرات واسعة في قطاع الأمن السيبراني، بعدما كشف باحثون عن عيوب برمجية قد تسمح للمهاجمين باختراق خوادم المواقع وسرقة بيانات حساسة. ودفع التحذير مؤسسات حكومية وشركات كبرى إلى اتخاذ إجراءات احترازية، شملت إيقاف بعض المواقع مؤقتًا وتثبيت تحديثات أمنية عاجلة.

وتكمن خطورة الاكتشاف في انتشار لغة PHP التي تعتمد عليها نسبة كبيرة من مواقع الإنترنت، إلى جانب استخدام الذكاء الاصطناعي في العثور على العيوب البرمجية التي ظلت دون اكتشاف لسنوات.

ثغرة PHP الخطيرة تهدد مواقع الإنترنت وخوادمها

تُعد PHP لغة برمجة مفتوحة المصدر تعمل على خوادم الويب، وتساعد على إنشاء الصفحات الديناميكية وتشغيل التطبيقات وإدارة البيانات. وتستخدمها منصات معروفة، من بينها ووردبريس وويكيبيديا، إلى جانب المتاجر الإلكترونية ومواقع المؤسسات.

وبحسب شركة Wiz للأمن السيبراني، تعتمد نحو 70% من مواقع الإنترنت على PHP. ويزيد هذا الانتشار من أهمية معالجة أي عيوب أمنية تؤثر في مكوناتها الأساسية.

ما طبيعة الثغرة الأمنية؟

كشف باحثون عن ثغرتين أُطلق عليهما اسم php2shell، وقالوا إنهما قد تسمحان للمهاجمين، في ظروف معينة، بتنفيذ أوامر على الخوادم المتأثرة والوصول إلى بيانات حساسة.

وحذرت شركات الأمن السيبراني من أن الخطر قد يمتد إلى مواقع تستخدم إصدارات متأثرة من PHP، خصوصًا تلك التي لم تتلق تحديثات أمنية أو لا تخضع لصيانة منتظمة.

• حملات التضليل عبر شات جي بي تي.. أوبن إيه آي تحبط عمليتين روسية وإيرانية
• مراكز بيانات جوجل في فنلندا تثير انتقادات بسبب إزالة أكثر من 300 هكتار من الغابات

لكن وجود PHP في موقع ما لا يعني بالضرورة اختراقه؛ إذ يعتمد مستوى الخطر على الإصدار المستخدم وطريقة إعداد الخادم ومدى انطباق شروط استغلال الثغرة عليه.

ثغرة PHP الخطيرة تهدد ملايين المواقع وتدفع مؤسسات عالمية للتحرك

مواقع حكومية وخدمات عالمية تتخذ إجراءات احترازية

أثار الكشف عن الثغرات مخاوف لدى مؤسسات تدير خدمات عامة ومنصات واسعة الانتشار. وأفادت التقارير بأن مؤسسة ويكيميديا أوقفت بعض أنظمتها مؤقتًا، كما علقت جهات حكومية ومؤسسات عامة في فنلندا واسكتلندا وهولندا تشغيل مواقع محددة احترازيًا.

وفي الوقت نفسه، رصدت شركة Cloudflare ارتفاعًا كبيرًا في محاولات استغلال الثغرات بعد الإعلان عنها، ما أظهر سرعة انتقال المعلومات التقنية إلى جهات قد تحاول استغلالها.

تحديثات أمنية وتحذيرات عاجلة

أصدرت مؤسسة PHP تحديثات لإصلاح العيوب المكتشفة، ودعت المستخدمين إلى تثبيتها فورًا. كما حثت جهات أمن سيبراني في الولايات المتحدة والمملكة المتحدة ودول أخرى المؤسسات على فحص أنظمتها وتطبيق التحديثات اللازمة.

وتوصي التحذيرات المؤسسات التي لا تستطيع تأمين أنظمتها بسرعة بتقييم الحاجة إلى تعطيل الخدمات المتأثرة مؤقتًا، وفقًا لمستوى الخطر لديها.

كيف ساهم الذكاء الاصطناعي في اكتشاف الثغرة؟

استخدم الباحثون أدوات ذكاء اصطناعي لتحليل الشيفرات البرمجية واكتشاف عيوب يصعب العثور عليها يدويًا، خصوصًا في المشاريع الكبيرة والمعقدة.

وأبرز الاكتشاف قدرة هذه الأدوات على تسريع أبحاث الأمن السيبراني، لكنه أظهر أيضًا أن نشر تفاصيل الثغرات قد يساعد المهاجمين على تطوير وسائل لاستغلالها.