تكشف التطورات الأخيرة أن نماذج الذكاء الاصطناعي الأكثر تطورًا بدأت تظهر سلوكيات غير متوقعة خلال اختبارات الأمن والسلامة، ما يضع الشركات المطورة أمام تحديات جديدة تتعلق بقدرتها على التحكم في أنظمتها مع ارتفاع مستوى استقلاليتها وقدراتها التقنية.
وخلال الأسابيع الماضية، شهدت اختبارات الأمن السيبراني عدة وقائع تمكنت فيها نماذج متقدمة من تجاوز القيود المفروضة عليها والوصول إلى أنظمة حقيقية. وظهرت حالات مماثلة لدى شركات كبرى، من بينها OpenAI وAnthropic وMeta، إلى جانب نموذج Kimi K3 الصيني.
وتثير هذه الوقائع تساؤلات حول مدى قدرة أدوات الاختبار الحالية على التعامل مع نماذج أصبحت أكثر قدرة على اكتشاف الثغرات والتصرف باستقلالية، خاصة عندما تكون بيئات الاختبار نفسها غير محكمة بالشكل الكافي.
بدأت OpenAI مؤخرًا في الكشف عن تفاصيل حادثة تمكن خلالها وكلاء ذكاء اصطناعي من تجاوز حدود بيئة الاختبار الداخلية والوصول إلى أنظمة خارجية.
وبحسب الشركة، لم تكتفِ الوكلاء بتنفيذ المهام المقررة، بل أنشأوا قناة تواصل داخلية فيما بينهم حتى بعد محاولة إيقافها. كما أدركوا أن التعاون بينهم يمكن أن يساعدهم على تنفيذ عمليات أكثر تعقيدًا.
وفي نهاية المطاف، وجهت هذه الوكلاء اهتمامها إلى منصة Hugging Face، في واقعة وصفتها OpenAI بأنها حادث سيبراني غير مسبوق.
وتزامنت هذه التطورات مع اختبارات نموذج Astra، الذي لم يكن قد أُطلق للجمهور بعد، بعدما أشارت OpenAI إلى أن قدراته في مجال الأمن السيبراني قد تضعه ضمن أعلى مستويات المخاطر.
ولهذا السبب، قررت الشركة تأجيل العمل على النموذج إلى حين استيفاء إجراءات الحماية الجديدة، بما يشمل تشغيله داخل بيئة معزولة وتقييد اتصالاته بالشبكة وتعزيز الحماية الخاصة بأوزان النموذج.
نماذج Claude تكشف ثغرات في الاختبارات
لم تقتصر الوقائع على OpenAI، إذ أعلنت Anthropic أنها راجعت أكثر من 141 ألف اختبار للذكاء الاصطناعي، واكتشفت ثلاث حالات تمكنت خلالها نماذج تابعة لها من الوصول دون تصريح إلى أنظمة حية تخص مؤسسات حقيقية.
وشملت الحالات نماذج Claude Opus 4.7 وMythos 5، إلى جانب نموذج بحثي داخلي. وأوضحت الشركة أنها تواصلت مع الجهات المتضررة، مشيرة إلى أن اثنتين منها لم تكونا على علم بحدوث الاختراق في البداية.
نماذج الذكاء الاصطناعي تواجه أزمة جديدة.. اختبارات تكشف صعوبة السيطرة عليها
وأعادت هذه الحوادث فتح النقاش حول مصدر المشكلة الحقيقي: هل يتعلق الأمر بقدرات النماذج نفسها، أم بضعف البيئات التي توضع فيها أثناء الاختبارات؟
وتدرس Anthropic إمكانية الاستعانة بجهة مستقلة لمراجعة هذه الحوادث وتحليل الطريقة التي تمكنت بها النماذج من تجاوز القيود الموضوعة أمامها.
كشفت Meta بدورها عن حادثة ظهرت خلال أحد اختبارات الأمن السيبراني لنموذج Muse Spark. ووفقًا للشركة، تمكن النموذج من استغلال ثغرة أمنية موجودة في خدمة تابعة لجهة خارجية أثناء عملية التقييم.
وأوضحت Meta أن المشكلة ارتبطت بسوء تهيئة في بيئة الاختبار التي قدمتها شركة Irregular المتخصصة في أمن الذكاء الاصطناعي، وهو ما أتاح للنموذج الوصول إلى الإنترنت رغم القيود المفترضة.
وأبلغت Irregular شركة Meta بالواقعة، وبدأت الأخيرة مراجعة للحادث من أجل تحديد تفاصيله وأسباب حدوثه، مع تعهدها بالكشف عن معلومات إضافية بعد انتهاء التحقيق.
وتسلط هذه الواقعة الضوء على أهمية تأمين البنية التحتية المحيطة بالنموذج، وليس الاكتفاء بفحص قدراته الداخلية، لأن وجود ثغرة في الأدوات أو الخدمات المتصلة به قد يتيح له تجاوز القيود.
Kimi K3 يتجاوز القيود داخل بيئة الاختبار
انضمت نماذج الذكاء الاصطناعي الصينية إلى قائمة الأنظمة التي أثارت مخاوف مشابهة، بعدما قال باحثون في شركة Frontier Security إن نموذج Kimi K3، الذي طورته شركة Moonshot، تمكن من تجاوز بعض القيود المفروضة عليه خلال اختبار للأمن السيبراني.
وذكر الباحثون أن المشكلة ارتبطت بإعداد غير صحيح لبيئة العزل، وهي البيئة التي يفترض أن تسمح للنموذج بتنفيذ التعليمات البرمجية ضمن نطاق محدود وتحت رقابة دقيقة.
وبحسب نتائج الاختبار، كانت البيئة تمنع أنواعًا محددة من حركة المرور على الإنترنت، لكن النموذج تمكن من تجاوز هذه القيود باستخدام أدوات سطر الأوامر.
ويرى الباحثون أن الواقعة تكشف مشكلة أوسع تتعلق بطرق تقييم الأمن السيبراني المستخدمة حاليًا، إذ يمكن للنماذج المتقدمة استغلال نقاط الضعف الموجودة في بيئة الاختبار نفسها بدلًا من الالتزام بالحدود الموضوعة لها.
ومع تزايد قدرات النماذج واستقلاليتها، أصبحت شركات الذكاء الاصطناعي مطالبة بتطوير أساليب اختبار أكثر صرامة، لأن اختبار نموذج قوي داخل بيئة ضعيفة قد يعطي نتائج مضللة ولا يعكس مستوى المخاطر الحقيقي.
وتشير هذه الحوادث مجتمعة إلى أن سباق تطوير الذكاء الاصطناعي لا يتعلق فقط بزيادة قدرات النماذج، بل أصبح يتطلب أيضًا بناء أنظمة حماية قادرة على مواكبة تلك القدرات، خصوصًا مع اقتراب الشركات من طرح نماذج أكثر استقلالية في المستقبل.
كشفت شركة هاغينغ فيس عن روبوت Microduck، وهو جهاز صغير مفتوح المصدر يتخذ شكل بطة ويهدف إلى مساعدة المطورين والباحثين والطلاب على تجربة تقنيات الذكاء الاصطناعي الفيزيائي والتعلم المعزز. ويأتي الروبوت بسعر 399 دولارًا، مع إمكانية برمجته وتدريبه وتطوير قدراته الحركية.
وطورت هاغينغ فيس الروبوت بالتعاون مع شركة Pollen Robotics الفرنسية، وتوفر للمستخدمين البرمجيات وأدوات المحاكاة ومجموعة أدوات خاصة بالتعلم المعزز، ما يتيح لهم اختبار سلوكيات جديدة وتطويرها.
روبوت Microduck يفتح المجال أمام تجارب الذكاء الاصطناعي الفيزيائي
يقدم روبوت Microduck منصة صغيرة يمكن للمطورين استخدامها لفهم كيفية تعلم الروبوتات للحركة والتفاعل مع البيئة المحيطة.
وصمم الفريق الجهاز ليجمع بين الحجم الصغير وإمكانات الحركة المتقدمة، مع توفير الأدوات اللازمة لتجربة الخوارزميات وتدريب الروبوت على سلوكيات مختلفة.
تصميم صغير وإمكانات متعددة
يبلغ ارتفاع الروبوت نحو 25 سنتيمترًا، بينما يقل وزنه عن 800 غرام.
ويحتوي الجهاز على 15 محركًا، إلى جانب كاميرا ومستشعر عمق صغير ووحدتي قياس بالقصور الذاتي، تساعده على تحديد وضعية جسمه وحركته واتجاهه أثناء تنفيذ المهام.
منقار متحرك لالتقاط الأشياء
يضم الروبوت منقارًا متحركًا يستطيع التقاط بعض الأشياء، ما يمنحه القدرة على تنفيذ مهام مناولة بسيطة إلى جانب الحركة.
ويمكن للجهاز المشي والجلوس والقرفصاء، كما يستطيع استعادة توازنه بعد عدد من حالات السقوط الشائعة، ما يمنحه قدرًا أكبر من الاستقلالية أثناء التجارب.
Microduck يستطيع التزلج أيضًا
لا تقتصر قدرات روبوت Microduck على المشي والحركة التقليدية، إذ يستطيع التزلج باستخدام أحذية مزودة بعجلات.
وتوضح هذه الإمكانية مدى تنوع الحركات التي يستطيع المطورون تدريب الروبوت عليها، خاصة عند استخدام أدوات التعلم المعزز والمحاكاة.
يأتي الروبوت بأربعة ألوان، هي الكريمي والجرافيت واللافندر والأزرق السماوي.
وتخطط الشركة لبدء تسليم الطلبات الأولى قبل عيد الميلاد عام 2026، مع استهداف أسواق أمريكا الشمالية وأوروبا والمملكة المتحدة.
روبوت صغير لتجارب كبيرة
يمثل Microduck نموذجًا مختلفًا عن الروبوتات المكتبية التقليدية، لأنه يركز على الحركة والتعلم والتفاعل مع البيئة بدلًا من الاقتصار على التفاعل المباشر مع الإنسان.
ومع توفير أدوات البرمجة والمحاكاة والتعلم المعزز، يمنح روبوت Microduck المطورين والباحثين فرصة عملية لاستكشاف كيفية تعلم الروبوتات للحركة وتطوير سلوكيات جديدة على أجهزة فعلية.
تستعرض مجموعة stc في LEAP 2026 أحدث حلولها الرقمية وإمكاناتها في الاتصالات والبنية التحتية والحوسبة، مع التركيز على تطوير مراكز البيانات وشبكات الاتصال التي تدعم توسع الذكاء الاصطناعي في المملكة وربط مراكزه بالأسواق العالمية.
وتشارك مجموعة stc في المؤتمر المقام بالعاصمة الرياض بصفتها الشريك الاستراتيجي للعام الخامس على التوالي، عبر جناح يستعرض منظومة متكاملة من الحلول الرقمية وشبكات الاتصالات عالية الأداء ومراكز البيانات وتقنيات الحوسبة.
مجموعة stc في LEAP 2026 تدعم توسع الذكاء الاصطناعي
تركز المجموعة خلال مشاركتها على البنية التحتية الرقمية التي تحتاج إليها القطاعات الحكومية والاقتصادية والصناعية لمواكبة التوسع السريع في تطبيقات الذكاء الاصطناعي.
وتأتي هذه الجهود بالتزامن مع انتقال المملكة من مرحلة اختبار تقنيات الذكاء الاصطناعي إلى توسيع استخدامها في التطبيقات والخدمات العملية، اعتمادًا على تكامل الاتصالات والحوسبة ومراكز البيانات والكوادر المتخصصة.
وخلال جلسة حوارية رئيسية في LEAP 2026، أكد الرئيس التنفيذي لمجموعة stc، المهندس عليان بن محمد الوتيد، أن المملكة تشهد تحولًا متسارعًا في مجال الذكاء الاصطناعي.
وأوضح أن شراكة المجموعة مع شركة «هيوماين» تركز على ثلاثة محاور رئيسية، تشمل البنية التحتية لمراكز البيانات، والاتصال، والوصول إلى الأسواق.
250 ميغاواط لمراكز بيانات الذكاء الاصطناعي
تعمل شركة center3 التابعة لمجموعة stc على تطوير بنية تحتية متخصصة لمراكز بيانات الذكاء الاصطناعي، بطاقة استيعابية تبدأ من 250 ميغاواط.
وتستهدف هذه القدرات تلبية الطلب المتزايد على البنية التحتية اللازمة لتشغيل نماذج الذكاء الاصطناعي والتطبيقات التي تحتاج إلى موارد حوسبة كبيرة.
كما تعمل المجموعة على توسيع نطاق شبكات الاتصال العالمية عبر الكابلات البحرية والشبكات الأرضية والأقمار الصناعية، بهدف ربط مراكز الذكاء الاصطناعي السعودية بمختلف الأسواق حول العالم.
وتعكس مجموعة stc في LEAP 2026 هذا التوجه من خلال استعراض الإمكانات التي تجمع بين مراكز البيانات وشبكات الاتصال والحوسبة المتقدمة.
يستعرض جناح المجموعة شبكتها العالمية الممتدة عبر الكابلات البحرية والشبكات الأرضية والأقمار الصناعية، مع التركيز على السعة والسرعة والموثوقية.
وتوفر هذه الشبكات اتصالًا يدعم الربط بين المملكة والأسواق العالمية، كما يساعد المؤسسات على تلبية المتطلبات المتزايدة لتطبيقات الذكاء الاصطناعي والحوسبة المتقدمة.
وتكتسب هذه البنية أهمية أكبر مع توسع المؤسسات في استخدام نماذج الذكاء الاصطناعي والخدمات الرقمية التي تحتاج إلى نقل كميات كبيرة من البيانات ومعالجتها بسرعة.
مجموعة stc في LEAP 2026.. استثمارات ضخمة لربط مراكز الذكاء الاصطناعي السعودية بالعالم
بنية رقمية للمشروعات الوطنية
يعرض جناح stc مجموعة من الحلول الرقمية التي تستهدف دعم المشروعات الوطنية الكبرى والقطاعات الحيوية، إلى جانب إمكانات الشبكات ومراكز البيانات والحوسبة.
وتسعى المجموعة من خلال هذه الحلول إلى توفير بنية تحتية قادرة على مواكبة احتياجات الاقتصاد الرقمي وتعزيز قدرة المؤسسات على تطوير خدمات ومنتجات تقنية جديدة.
كما تركز استثمارات المجموعة على توسيع الشراكات مع الشركات المحلية والعالمية العاملة في قطاع التقنية والذكاء الاصطناعي.
تتعاون stc مع شركات وطنية متخصصة في الذكاء الاصطناعي، من بينها «هيوماين»، بهدف تطوير حلول تتناسب مع احتياجات السوق السعودية.
ويمتد التعاون إلى تحديث بيئات البيانات وتهيئة أعباء العمل للاستفادة من تقنيات الذكاء الاصطناعي، بما يساعد المؤسسات على الانتقال نحو استخدام أكثر كفاءة لهذه التقنيات.
وتؤكد مجموعة stc في LEAP 2026 من خلال هذه الشراكات أهمية الجمع بين البنية التحتية المتقدمة والخبرات التقنية لتطوير منظومة ذكاء اصطناعي قادرة على المنافسة عالميًا.
استثمارات لتعزيز مكانة السعودية التقنية
تعكس مشاركة مجموعة stc توجهًا واضحًا نحو زيادة الاستثمارات في البنية التحتية الرقمية والابتكار والحلول التقنية، بالتوازي مع توسيع التعاون مع الشركات المحلية والعالمية.
وتحتاج تطبيقات الذكاء الاصطناعي إلى منظومة متكاملة تشمل مراكز بيانات ذات قدرات حوسبة مرتفعة، وشبكات اتصال سريعة وموثوقة، وبنية رقمية قادرة على التعامل مع النمو المستمر في حجم البيانات.
ومن هذا المنطلق، تواصل المملكة تطوير هذه الركائز لدعم استخدام الذكاء الاصطناعي في القطاعات الحكومية والاقتصادية والصناعية والخدمية.
وتأتي مجموعة stc في LEAP 2026 ضمن هذا المشهد باعتبارها جزءًا رئيسيًا من جهود تطوير البنية التحتية الرقمية، مع التركيز على ربط مراكز الذكاء الاصطناعي السعودية بالعالم وتعزيز حضور المملكة كمركز عالمي للتقنية والابتكار.
طالبت الأمم المتحدة بوضع قواعد عامة تضمن حماية الأطفال على مواقع التواصل الاجتماعي، وذلك بعد الاتفاق الذي أبرمته شركة ميتا مع عدد من الولايات الأميركية بشأن فرض قيود جديدة على استخدام المراهقين لمنصاتها. وترى المنظمة أن سلامة الأطفال على الإنترنت يجب أن تتحول إلى مسؤولية مشتركة تشمل جميع شركات التكنولوجيا.
وقال مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك إن الأطفال لا ينبغي أن ينتظروا وصول النزاعات القانونية إلى المحاكم حتى يتمكنوا من استخدام الإنترنت بأمان، داعيًا الحكومات إلى اتخاذ خطوات استباقية لحماية القاصرين.
حماية الأطفال على مواقع التواصل الاجتماعي تحتاج إلى قواعد موحدة
أكد فولكر تورك أن الإجراءات التي اتخذتها ميتا في الولايات الأميركية المعنية تمثل خطوة في الاتجاه الصحيح، لكنه شدد على ضرورة تطبيق معايير السلامة على قطاع التواصل الاجتماعي بأكمله.
ويرى تورك أن الشركات لا يجب أن تنتظر الدعاوى القضائية حتى تطور أدوات أكثر أمانًا للأطفال، بل ينبغي أن تضع حماية القاصرين ضمن تصميم منصاتها منذ البداية.
اتفاق ميتا يفرض قيودًا جديدة
وافقت ميتا على دفع نحو 17 مليار دولار ضمن اتفاق مع 29 ولاية أميركية، كما قبلت فرض قيود على استخدام المراهقين لخدماتها.
وأبرمت الشركة اتفاقًا منفصلًا مع ولاية تكساس بقيمة تتجاوز مليار دولار، مع تطبيق قيود مشابهة على استخدام المراهقين لمنصاتها، ما رفع القيمة الإجمالية للاتفاقات إلى أكثر من 18 مليار دولار.
الأمم المتحدة تدعو الحكومات للتحرك
دعا تورك الحكومات إلى تولي زمام المبادرة بدلًا من انتظار تحرك المحاكم أو شركات التكنولوجيا.
ويرى مفوض الأمم المتحدة أن وضع قواعد عامة لجميع منصات التواصل يمكن أن يوفر مستوى موحدًا من الحماية للأطفال، بدلًا من الاعتماد على قرارات قضائية منفصلة تختلف من ولاية أو دولة إلى أخرى.
الأمم المتحدة تدعو إلى قواعد موحدة لتعزيز حماية الأطفال على مواقع التواصل الاجتماعي
تصميم المنصات يجب أن يضع الأطفال في أولوية
يرى تورك أن حماية القاصرين لا تعتمد فقط على تحديد الحد الأدنى للعمر المسموح باستخدام المنصات، لأن تصميم الخدمات والخوارزميات يلعب دورًا أساسيًا في تجربة المستخدم.
مخاطر الخوارزميات والإدمان
حذر تورك سابقًا من أن الاعتماد على القيود العمرية وحدها لن يعالج المشكلات المرتبطة بتصميم منصات التواصل وخوارزمياتها.
وتستطيع المنصات تصميم بعض خصائصها بطريقة تشجع المستخدمين على البقاء لفترات أطول، ما يثير مخاوف خاصة عندما يتعلق الأمر بالأطفال والمراهقين.
دعا مكتب مفوض الأمم المتحدة السامي لحقوق الإنسان شركات التكنولوجيا إلى دمج معايير السلامة والخصوصية منذ المراحل الأولى لتصميم منتجاتها، بدلًا من تحميل الآباء والأطفال مسؤولية التعامل مع المخاطر بعد ظهورها.
كما أصدر المكتب عشرة مبادئ توجيهية لأمن الأطفال على الإنترنت، تتضمن توفير أعلى مستوى من حماية بيانات الأطفال تلقائيًا، إلى جانب منع استهداف القاصرين بدقة لأغراض تجارية.
ميتا تواجه تدقيقًا متزايدًا في أوروبا
لا تقتصر الضغوط على ميتا على الولايات المتحدة، إذ تواجه الشركة تحقيقات في الاتحاد الأوروبي بشأن تأثير منصاتها في الأطفال والمستخدمين الأكثر عرضة للمخاطر.
مطالب أوروبية بتغيير تصميم فيسبوك وإنستغرام
طلبت المفوضية الأوروبية من ميتا في يوليو تعديل بعض خصائص واجهات فيسبوك وإنستغرام، معتبرة أن تصميمها قد يشجع على الاستخدام الإدماني.
وترى المفوضية أن ميتا لم تقيّم بصورة كافية مخاطر الإدمان، خصوصًا لدى القاصرين والبالغين في أوضاع هشة، كما اتهمتها باستخدام خصائص مصممة لجذب انتباه المستخدمين لأطول فترة ممكنة.
هل تتجه المنصات إلى قواعد أكثر صرامة؟
تسلط تحركات الأمم المتحدة والجهات التنظيمية الضوء على اتجاه متزايد نحو تحميل شركات التواصل الاجتماعي مسؤولية أكبر عن حماية الأطفال.
وقد تدفع هذه الضغوط شركات التكنولوجيا إلى إعادة تصميم بعض خصائص منصاتها، وتطوير أدوات أكثر صرامة للخصوصية والسلامة، بدلًا من الاكتفاء بإجراءات تعتمد على عمر المستخدم بعد إنشاء الحساب.