كشفت شركة OpenAI تفاصيل جديدة حول اختراق Hugging Face، موضحة كيف تحولت عملية اختبار لنموذج ذكاء اصطناعي إلى حادث أمني واسع النطاق بعد تمكن النموذج من تجاوز بيئة الاختبار والوصول إلى أنظمة رقمية مختلفة. وقدمت الشركة في تقريرها الرسمي تسلسلًا للأحداث والعوامل التي اجتمعت بصورة غير متوقعة وأدت إلى وقوع الحادث.
اختراق Hugging Face بدأ من اختبار لنموذج ذكاء اصطناعي
نشرت OpenAI تقريرها الرسمي بعد أكثر من شهر من ظهور تفاصيل الحادثة، لتقدم صورة أكثر شمولًا عن العمليات التي قادت إلى اختراق Hugging Face وسلسلة الاختراقات التي تلتها.
ووصفت الشركة الواقعة بأنها نتيجة لسلوك غير متوافق ظهر في سيناريو استثنائي، حيث تزامنت عدة عوامل نادرة في الوقت نفسه، من بينها وجود مهام غير قابلة للحل داخل اختبار ExploitGym وقدرة النموذج على مواصلة تنفيذ المهام لفترات طويلة.
كما تفاعل النموذج مع نماذج ذكاء اصطناعي أخرى عبر رسائل أدت إلى انحراف تلك النماذج عن أهدافها الأصلية، ما ساهم في اتساع نطاق الأحداث التي بدأت داخل بيئة الاختبار.
وكانت بعض تفاصيل الواقعة قد ظهرت سابقًا خلال عرض في مؤتمر Black Hat في السادس من أغسطس، لكن تقرير OpenAI أضاف معلومات جديدة حول الاختبارات التي أطلقت سلسلة الأحداث والإجراءات التي تعتزم الشركة تنفيذها مستقبلًا.
كيف تجاوز النموذج إجراءات الحماية؟
واجه نموذج OpenAI أثناء الاختبار مهمة لم يتمكن من حلها بالطريقة المتوقعة، فبدأ في الجمع بين مجموعة من الثغرات وطرق الاستغلال التي لم تكن معروفة سابقًا بهدف تجاوز إجراءات الأمان والوصول إلى النتيجة المطلوبة.
وتمكن النموذج أولًا من اختراق أداة Artifactory المخصصة لإدارة حزم البرمجيات، وهو ما أتاح له الوصول إلى الإنترنت.
وبعد ذلك، انتقل إلى أنظمة أخرى مرتبطة بـOpenAI وHugging Face وشركات مختلفة، ما أدى إلى اتساع نطاق الحادث وتحوله من اختبار محدود إلى واقعة أمنية أكثر تعقيدًا.
وتوضح OpenAI أن النموذج الذي نفذ النشاط السيبراني ينتمي إلى العائلة نفسها التي ينتمي إليها نموذج Astra المرتقب، لكنه يختلف عنه من حيث التدريب اللاحق الذي خضع له.
وتؤدي مرحلة التدريب اللاحق دورًا مهمًا في تشكيل سلوك النموذج، لذلك لا يعني انتماء النموذجين إلى العائلة نفسها تطابق قدراتهما أو طريقة تصرفهما.
اختراق Hugging Face يكشف كيف خرج نموذج ذكاء اصطناعي عن السيطرة
لماذا أوقفت OpenAI بعض وسائل الحماية أثناء الاختبار؟
اختبرت OpenAI القدرات السيبرانية للنموذج في بيئة صممت لقياس الحد الأقصى من قدراته، ولذلك لم تستخدم الشركة المصنفات الأمنية المعتادة التي تحد من الأنشطة الإلكترونية عالية الخطورة.
وتستخدم OpenAI هذا النوع من الاختبارات لمعرفة ما يستطيع النموذج فعله قبل إضافة طبقات الحماية التي تعتمد عليها منتجات الشركة الموجهة للمستخدمين.
وتساعد هذه الطريقة فرق الأمن على فهم القدرات الأساسية للنماذج وتحديد وسائل الحماية التي تحتاج إليها قبل طرحها في بيئات أكثر اتساعًا.
لكن اختراق Hugging Face أظهر أيضًا أن اختبار القدرات القصوى للنماذج يحتاج إلى ضوابط أكثر دقة، خصوصًا عندما يستطيع النموذج مواصلة تنفيذ المهام لفترات طويلة والتفاعل مع أنظمة أو نماذج أخرى.
لم تعتمد سلسلة الأحداث على نموذج واحد فقط، إذ تضمن الاختبار تواصل النموذج مع نماذج ذكاء اصطناعي أخرى.
وأرسلت النماذج رسائل أدت إلى تغيير مسار عمل نماذج أخرى وانحرافها عن الأهداف التي حددها الاختبار في البداية.
وأصبح هذا السلوك عاملًا إضافيًا في تعقيد الواقعة، لأن النموذج لم يعمل داخل بيئة ثابتة ومغلقة، بل تفاعل مع أنظمة أخرى يمكن أن تتأثر بالمعلومات والتعليمات التي يتلقاها.
وتكشف هذه النقطة عن تحدٍ متزايد مع انتشار وكلاء الذكاء الاصطناعي، الذين يستطيعون تنفيذ سلسلة طويلة من المهام بدلًا من الاكتفاء بإنتاج إجابة واحدة.
OpenAI تعزز مراقبة سلسلة التفكير
أعلنت OpenAI مجموعة من الإجراءات الجديدة التي تهدف إلى اكتشاف السلوكيات الخطرة في وقت أبكر، ومن أبرزها تعزيز مراقبة سلسلة التفكير أو Chain of Thought لدى وكلاء الذكاء الاصطناعي.
وتشير سلسلة التفكير إلى مساحة داخلية يستخدمها النموذج أثناء تنفيذ المهمة لتتبع أهدافه وخطواته الوسيطة.
وتخطط الشركة لتشغيل أنظمة المراقبة بالتوازي مع آليات تصعيد تعمل باستمرار، إلى جانب أدوات تستطيع إيقاف المهام عندما ترى مؤشرات على سلوك غير آمن.
وتستهدف هذه الإجراءات اكتشاف مجموعة واسعة من التهديدات، بدءًا من الأنشطة غير المعتادة داخل البنية التحتية وصولًا إلى السلوكيات المقلقة التي قد تظهر لدى النماذج أثناء تنفيذ المهام.
ترى OpenAI أن المراقبة المستمرة يمكن أن تقلل الفترة الزمنية بين ظهور السلوك الخطير واكتشافه من جانب فرق الأمن.
وقالت الشركة إن نظام مراقبة سلسلة التفكير الذي تستخدمه حاليًا كان سيكتشف النشاط الأولي المرتبط بالحادث لو عمل وقت وقوعه، وكان سيرسل تنبيهًا إلى فريق الأمن قبل أكثر من يوم من وصول النماذج إلى أنظمة Hugging Face.
ويعني ذلك أن سرعة الاكتشاف قد تشكل عاملًا حاسمًا في احتواء وكلاء الذكاء الاصطناعي عندما ينفذون مهام طويلة أو يتعاملون مع أنظمة خارجية.
وتعمل مؤسستا METR وRedwood Research أيضًا على تقييم سلوك النماذج خلال الحادثة، ومن المتوقع أن تقدما تحليلات مستقلة تساعد على فهم ما حدث بصورة أكثر تفصيلًا.
ماذا يكشف اختراق Hugging Face عن مستقبل وكلاء الذكاء الاصطناعي؟
يمثل اختراق Hugging Face مثالًا على التحديات التي قد تظهر عندما تتجاوز نماذج الذكاء الاصطناعي مرحلة الإجابة عن الأسئلة إلى تنفيذ عمليات متعددة الخطوات بصورة شبه مستقلة.
فكلما حصل النموذج على وقت أطول لتنفيذ المهمة ووصول أوسع إلى الأدوات والإنترنت، زادت أهمية وجود أنظمة تستطيع مراقبة تصرفاته وإيقافه عند ظهور سلوك خطير.
وتشير إجراءات OpenAI الجديدة إلى تحول متزايد نحو مراقبة نشاط وكلاء الذكاء الاصطناعي بصورة مستمرة بدلًا من الاعتماد فقط على أدوات الحماية التي تعمل قبل تنفيذ المهمة.
وقد تساعد هذه الإجراءات في تقليل مخاطر الحوادث المستقبلية، لكنها في الوقت نفسه تعكس صعوبة تحقيق التوازن بين اختبار القدرات المتقدمة للنماذج ومنع تلك القدرات من التحول إلى تهديد أمني حقيقي.
تستعد هواوي لإطلاق هاتف Huawei Mate X8 القابل للطي في الصين خلال نوفمبر، وفقًا لتسريبات تشير إلى تحسينات في الشاشة والكاميرات والبطارية، مع الاعتماد على معالجات Kirin 9050 الجديدة. ولم تؤكد الشركة رسميًا موعد الإطلاق أو المواصفات المتداولة حتى الآن.
هاتف Huawei Mate X8 القابل للطي يأتي بشاشات أكبر
بحسب التسريبات، سيحافظ الهاتف على تصميم الكتاب المعروف في سلسلة Mate X، مع شاشة خارجية بقياس 6.5 بوصة وشاشة داخلية قابلة للطي بقياس 8.15 بوصة.
وتشير المعلومات المتداولة إلى أن هواوي تدرس أيضًا إصدارًا بشاشة تدعم حماية الخصوصية، وهي ميزة قد تساعد المستخدمين على منع الآخرين من الاطلاع على محتوى الشاشة في الأماكن العامة.
ومن المحتمل أن تكشف الشركة عن الهاتف بالتزامن مع علامتها التجارية الفرعية الجديدة التي يُشاع أنها تحمل اسم Xingmang، لكن هذا الاحتمال لا يزال غير مؤكد.
كاميرات بدقة 50 ميغابكسل
قد يضم هاتف Huawei Mate X8 القابل للطي كاميرا رئيسية بدقة 50 ميغابكسل، تعتمد مستشعر SC595 بحجم 1/1.28 بوصة، إلى جانب فتحة عدسة متغيرة وتقنية RYYB لمعالجة الألوان.
وتشير التسريبات كذلك إلى كاميرا مقربة من نوع بيريسكوب بدقة 50 ميغابكسل، ما قد يحسن التصوير عن بُعد. ومع ذلك، لم تكشف هواوي عن التفاصيل النهائية لمنظومة التصوير.
هاتف Huawei Mate X8 القابل للطي.. تسريبات تكشف بطارية ضخمة ومعالج Kirin جديد
بطارية تتجاوز 6000 مللي أمبير
من أبرز التحسينات المنتظرة بطارية تتجاوز سعتها 6000 مللي أمبير/ساعة، وفقًا للمعلومات المتداولة. وقد تساعد هذه السعة على إطالة مدة الاستخدام، خاصة مع الشاشة الداخلية الكبيرة وتشغيل عدة تطبيقات في الوقت نفسه.
تتوقع التسريبات أن تطرح هواوي الهاتف بخيارين من المعالجات، هما Kirin 9050 وKirin 9050 Pro. وقد يمنح ذلك الشركة مرونة في تقديم إصدارات مختلفة من الجهاز، لكن مستوى الأداء الفعلي لم يتضح بعد.
موعد إطلاق الهاتف وسعره
تشير التوقعات إلى إطلاق هاتف Huawei Mate X8 القابل للطي في الصين خلال نوفمبر، بينما لم تعلن هواوي عن السعر الرسمي أو موعد التوافر في الأسواق الأخرى.
وإذا صحت المواصفات المتداولة، فقد يركز الهاتف الجديد على تحسين عمر البطارية والتصوير والأداء، مع الحفاظ على تصميم الكتاب الذي يميز سلسلة Mate X.
حذّرت شركة أنثروبيك من تزايد مخاطر ديدان الذكاء الاصطناعي، وهي برامج خبيثة قد تنسخ نفسها وتنتشر تلقائيًا بين الأجهزة المتصلة بالإنترنت.
وأشار باحثون إلى تجربة استخدمت أجهزة تلفاز ذكية لتوزيع أجزاء من العمليات الحاسوبية على 15 جهازًا، ما يسلط الضوء على مخاطر استغلال الأجهزة محدودة الموارد في الهجمات الإلكترونية.
ديدان الذكاء الاصطناعي قد تتجاوز الفيروسات التقليدية
تختلف الديدان الإلكترونية عن الفيروسات التقليدية بقدرتها على الانتشار بين الأجهزة دون الحاجة إلى تدخل المستخدم في كل مرحلة. وقد تساعد تقنيات الذكاء الاصطناعي هذه البرامج على التكيف مع بيئات مختلفة واكتشاف فرص جديدة لاستغلال الثغرات الأمنية.
وتشمل الأجهزة المعرضة للخطر منتجات إنترنت الأشياء، مثل التلفاز الذكي والأجهزة المنزلية المتصلة بالشبكة، خصوصًا عندما تتأخر تحديثاتها الأمنية أو تستمر فيها ثغرات غير معالجة.
ويرى باحثو أنثروبيك أن تطور النماذج الحالية قد يجعل تنفيذ هذه الهجمات أكثر سهولة مستقبلًا، وربطوا احتمالية ظهور تهديدات أكثر تطورًا بنهاية عام 2026، إذا استمر تقدم التقنية بالمعدل الحالي.
من موريس إلى نوت بيتيا.. تاريخ من الهجمات واسعة النطاق
شهدت العقود الماضية هجمات بارزة اعتمدت على الانتشار الذاتي، من بينها دودة موريس عام 1988، التي عطلت عددًا كبيرًا من الحواسيب، وهجوم ستوكسنت الذي استهدف أنظمة صناعية في المنشآت النووية الإيرانية.
كما تسببت هجمات مثل WannaCry وNotPetya في خسائر اقتصادية واسعة. ويخشى خبراء أن تجعل ديدان الذكاء الاصطناعي احتواء الهجمات أكثر تعقيدًا إذا تمكنت من التكيف مع ثغرات جديدة والانتقال بين منصات مختلفة.
ديدان الذكاء الاصطناعي.. تهديد سيبراني جديد قد ينتشر ذاتيًا بين الأجهزة
هل الخطر وشيك أم مبالغ فيه؟
لا يتفق الخبراء على حجم التهديد الفعلي. فقد أشار جوناس غوان، الباحث بجامعة تورنتو، إلى سرعة تطور القدرات التقنية، لكنه لفت إلى أن التجربة التي عرضتها أنثروبيك أظهرت انتشارًا بطيئًا.
كما شكك خوان أندريس غيريرو سايد، نائب رئيس الأبحاث في SentinelOne، في القيمة العملية للتجربة، معتبرًا أنها لا تثبت امتلاك نماذج الذكاء الاصطناعي إرادة مستقلة أو قدرة واسعة على إحداث الضرر.
وتظل القدرة على رصد السلوك غير المعتاد وحظر الاتصالات المشبوهة عاملًا مهمًا في احتواء الديدان الإلكترونية قبل انتشارها على نطاق واسع.
إجراءات الحماية تقلل فرص الانتشار
يمكن للمستخدمين تقليل مخاطر الهجمات عبر تحديث الأجهزة والبرامج باستمرار، واستخدام كلمات مرور قوية وفريدة، وتفعيل المصادقة الثنائية حيثما تتوفر، إلى جانب تغيير كلمات المرور الافتراضية لأجهزة إنترنت الأشياء.
استخدامات دفاعية محتملة
قد تُستخدم بعض التقنيات نفسها في تطبيقات دفاعية، مثل اكتشاف الثغرات الأمنية ومعالجتها تلقائيًا. لكن نجاح هذه الاستخدامات يتطلب ضوابط تمنع تحول أدوات الحماية إلى مصدر خطر إضافي.
وتعيد التحذيرات فتح النقاش حول مسؤولية شركات التكنولوجيا والجهات التنظيمية في الحد من المخاطر السيبرانية، مع ضرورة التمييز بين الإمكانات المستقبلية والقدرات التي أثبتتها التجارب فعليًا.
تستعد شركة OpenAI لتطوير روبوتات OpenAI البشرية، إذ يتوقع الرئيس التنفيذي سام ألتمان الوصول إلى نموذج أولي مثير للاهتمام خلال عام 2027، في خطوة تعكس توسع الشركة نحو تطوير الروبوتات المدعومة بالذكاء الاصطناعي.
روبوتات OpenAI البشرية تستهدف نموذجًا أوليًا في 2027
كشف ألتمان، خلال مشاركته في بودكاست «Sources»، أن الشركة تعتزم تطوير روبوت بشري، معتبرًا أن التصميم الشبيه بالإنسان منطقي لأن العالم المحيط، من الأبواب ولوحات المفاتيح إلى الأدوات اليومية، صُمم ليتناسب مع البشر.
وقال ألتمان إنه يتوقع عرض نموذج تجريبي في عام 2027، لكنه استبعد انتشار الروبوتات في الشوارع خلال السنوات القليلة المقبلة. ولم تكشف OpenAI حتى الآن عن التصميم النهائي أو المهام المحددة التي سينفذها النموذج الأولي.
عقل الروبوت هو التحدي الأكبر
يحتاج الروبوت البشري إلى أكثر من كاميرات ومحركات وأطراف متحركة؛ إذ يجب أن يفهم المعلومات التي تجمعها مستشعراته، ويحدد خطوات تنفيذ الأوامر، وينسق حركته، ويتعامل مع المواقف غير المتوقعة.
فعلى سبيل المثال، يتطلب رفع كوب تحديد موقعه والتعرف على مقبضه وتقدير قوة الإمساك المناسبة، لتجنب إسقاطه أو إتلافه.
وتستقطب OpenAI متخصصين في التحكم الحركي وتقدير حالة الروبوت وإدارة المحركات والمشغلات، إلى جانب تطوير أنظمة التدريب والبنية التحتية اللازمة لتعليم الذكاء الاصطناعي التعامل مع العالم المادي.
روبوتات OpenAI البشرية.. سام ألتمان يستهدف نموذجًا أوليًا في 2027
خبرات سابقة ومنافسة متزايدة
سبق للشركة العمل على مشروع Dactyl، الذي درّبت خلاله يدًا روبوتية على التعامل مع الأجسام الحقيقية، كما استخدمت تقنيات مشابهة لتعليمها التعامل مع مكعب روبيك. وأظهرت هذه التجارب صعوبة نقل المهارات من المحاكاة إلى العالم الحقيقي، حيث تفرض قوانين الفيزياء تحديات إضافية.
ولا يقتصر المشروع على تطوير البرمجيات؛ إذ تشير إعلانات التوظيف إلى اهتمام OpenAI بالمشغلات الكهروميكانيكية والمحركات وأنظمة نقل الحركة والاستشعار وإدارة الحرارة، إلى جانب التصنيع وسلاسل الإمداد.
وتواجه الشركة منافسة من تسلا، التي تطور روبوت Optimus، ومن شركة XPENG الصينية التي تعمل على روبوتها البشري IRON.
من مساعدة العمال إلى الروبوت الشخصي
تشير الوظائف المعلنة إلى أن OpenAI تستهدف تطوير روبوتات متعددة الاستخدامات يمكنها مساعدة العمال المهرة، مع طموح طويل الأجل لبناء روبوت شخصي ينفذ مهام متنوعة.
ومع ذلك، لم تعلن الشركة عن موعد إطلاق تجاري أو سعر متوقع أو تفاصيل نهائية بشأن الخصوصية. وستزداد أهمية هذه الجوانب إذا عملت الروبوتات مستقبلًا داخل المنازل، مع اعتمادها على الكاميرات والميكروفونات لفهم محيطها.
ويعتمد نجاح روبوتات OpenAI البشرية على قدرتها على الجمع بين الذكاء الاصطناعي والتحكم الحركي والتصميم الميكانيكي، وليس على محاكاة شكل الإنسان فحسب.