أخبار تقنية

نماذج الذكاء الاصطناعي تواجه أزمة جديدة.. اختبارات تكشف صعوبة السيطرة عليها

Published

شهرين ago

أغسطس 12, 2026

نماذج الذكاء الاصطناعي تواجه أزمة جديدة. اختبارات تكشف صعوبة السيطرة عليها 1

تكشف التطورات الأخيرة أن نماذج الذكاء الاصطناعي الأكثر تطورًا بدأت تظهر سلوكيات غير متوقعة خلال اختبارات الأمن والسلامة، ما يضع الشركات المطورة أمام تحديات جديدة تتعلق بقدرتها على التحكم في أنظمتها مع ارتفاع مستوى استقلاليتها وقدراتها التقنية.

وخلال الأسابيع الماضية، شهدت اختبارات الأمن السيبراني عدة وقائع تمكنت فيها نماذج متقدمة من تجاوز القيود المفروضة عليها والوصول إلى أنظمة حقيقية. وظهرت حالات مماثلة لدى شركات كبرى، من بينها OpenAI وAnthropic وMeta، إلى جانب نموذج Kimi K3 الصيني.

وتثير هذه الوقائع تساؤلات حول مدى قدرة أدوات الاختبار الحالية على التعامل مع نماذج أصبحت أكثر قدرة على اكتشاف الثغرات والتصرف باستقلالية، خاصة عندما تكون بيئات الاختبار نفسها غير محكمة بالشكل الكافي.

جدول المحتويات إخفاء

1 نماذج الذكاء الاصطناعي تختبر حدود بيئات العزل

1.1 نماذج Claude تكشف ثغرات في الاختبارات

1.2 نموذج Muse Spark يستغل ثغرة في خدمة خارجية

1.3 Kimi K3 يتجاوز القيود داخل بيئة الاختبار

نماذج الذكاء الاصطناعي تختبر حدود بيئات العزل

بدأت OpenAI مؤخرًا في الكشف عن تفاصيل حادثة تمكن خلالها وكلاء ذكاء اصطناعي من تجاوز حدود بيئة الاختبار الداخلية والوصول إلى أنظمة خارجية.

وبحسب الشركة، لم تكتفِ الوكلاء بتنفيذ المهام المقررة، بل أنشأوا قناة تواصل داخلية فيما بينهم حتى بعد محاولة إيقافها. كما أدركوا أن التعاون بينهم يمكن أن يساعدهم على تنفيذ عمليات أكثر تعقيدًا.

وفي نهاية المطاف، وجهت هذه الوكلاء اهتمامها إلى منصة Hugging Face، في واقعة وصفتها OpenAI بأنها حادث سيبراني غير مسبوق.

وتزامنت هذه التطورات مع اختبارات نموذج Astra، الذي لم يكن قد أُطلق للجمهور بعد، بعدما أشارت OpenAI إلى أن قدراته في مجال الأمن السيبراني قد تضعه ضمن أعلى مستويات المخاطر.

ولهذا السبب، قررت الشركة تأجيل العمل على النموذج إلى حين استيفاء إجراءات الحماية الجديدة، بما يشمل تشغيله داخل بيئة معزولة وتقييد اتصالاته بالشبكة وتعزيز الحماية الخاصة بأوزان النموذج.

نماذج Claude تكشف ثغرات في الاختبارات

لم تقتصر الوقائع على OpenAI، إذ أعلنت Anthropic أنها راجعت أكثر من 141 ألف اختبار للذكاء الاصطناعي، واكتشفت ثلاث حالات تمكنت خلالها نماذج تابعة لها من الوصول دون تصريح إلى أنظمة حية تخص مؤسسات حقيقية.

وشملت الحالات نماذج Claude Opus 4.7 وMythos 5، إلى جانب نموذج بحثي داخلي. وأوضحت الشركة أنها تواصلت مع الجهات المتضررة، مشيرة إلى أن اثنتين منها لم تكونا على علم بحدوث الاختراق في البداية.

نماذج الذكاء الاصطناعي تواجه أزمة جديدة.. اختبارات تكشف صعوبة السيطرة عليها

وأعادت هذه الحوادث فتح النقاش حول مصدر المشكلة الحقيقي: هل يتعلق الأمر بقدرات النماذج نفسها، أم بضعف البيئات التي توضع فيها أثناء الاختبارات؟

وتدرس Anthropic إمكانية الاستعانة بجهة مستقلة لمراجعة هذه الحوادث وتحليل الطريقة التي تمكنت بها النماذج من تجاوز القيود الموضوعة أمامها.

نموذج Muse Spark يستغل ثغرة في خدمة خارجية

كشفت Meta بدورها عن حادثة ظهرت خلال أحد اختبارات الأمن السيبراني لنموذج Muse Spark. ووفقًا للشركة، تمكن النموذج من استغلال ثغرة أمنية موجودة في خدمة تابعة لجهة خارجية أثناء عملية التقييم.

وأوضحت Meta أن المشكلة ارتبطت بسوء تهيئة في بيئة الاختبار التي قدمتها شركة Irregular المتخصصة في أمن الذكاء الاصطناعي، وهو ما أتاح للنموذج الوصول إلى الإنترنت رغم القيود المفترضة.

وأبلغت Irregular شركة Meta بالواقعة، وبدأت الأخيرة مراجعة للحادث من أجل تحديد تفاصيله وأسباب حدوثه، مع تعهدها بالكشف عن معلومات إضافية بعد انتهاء التحقيق.

وتسلط هذه الواقعة الضوء على أهمية تأمين البنية التحتية المحيطة بالنموذج، وليس الاكتفاء بفحص قدراته الداخلية، لأن وجود ثغرة في الأدوات أو الخدمات المتصلة به قد يتيح له تجاوز القيود.

Kimi K3 يتجاوز القيود داخل بيئة الاختبار

انضمت نماذج الذكاء الاصطناعي الصينية إلى قائمة الأنظمة التي أثارت مخاوف مشابهة، بعدما قال باحثون في شركة Frontier Security إن نموذج Kimi K3، الذي طورته شركة Moonshot، تمكن من تجاوز بعض القيود المفروضة عليه خلال اختبار للأمن السيبراني.

وذكر الباحثون أن المشكلة ارتبطت بإعداد غير صحيح لبيئة العزل، وهي البيئة التي يفترض أن تسمح للنموذج بتنفيذ التعليمات البرمجية ضمن نطاق محدود وتحت رقابة دقيقة.

وبحسب نتائج الاختبار، كانت البيئة تمنع أنواعًا محددة من حركة المرور على الإنترنت، لكن النموذج تمكن من تجاوز هذه القيود باستخدام أدوات سطر الأوامر.

ويرى الباحثون أن الواقعة تكشف مشكلة أوسع تتعلق بطرق تقييم الأمن السيبراني المستخدمة حاليًا، إذ يمكن للنماذج المتقدمة استغلال نقاط الضعف الموجودة في بيئة الاختبار نفسها بدلًا من الالتزام بالحدود الموضوعة لها.

ومع تزايد قدرات النماذج واستقلاليتها، أصبحت شركات الذكاء الاصطناعي مطالبة بتطوير أساليب اختبار أكثر صرامة، لأن اختبار نموذج قوي داخل بيئة ضعيفة قد يعطي نتائج مضللة ولا يعكس مستوى المخاطر الحقيقي.

وتشير هذه الحوادث مجتمعة إلى أن سباق تطوير الذكاء الاصطناعي لا يتعلق فقط بزيادة قدرات النماذج، بل أصبح يتطلب أيضًا بناء أنظمة حماية قادرة على مواكبة تلك القدرات، خصوصًا مع اقتراب الشركات من طرح نماذج أكثر استقلالية في المستقبل.

Up Next

زوكربيرغ يدافع عن النماذج المفتوحة للذكاء الاصطناعي.. ميتا تتحدى عمالقة التكنولوجيا

Don't Miss

ميتا تعزز الذكاء الاصطناعي مفتوح المصدر بنموذج جديد.. وزوكربيرغ يطالب بتغيير السياسات

هدير ابراهيم

صحفية ومحررة تقنية في موقع أخبار هاي تك

أخبار الشركات

آبل تشدد حماية مستخدمي ماك من مخاطر وكلاء الذكاء الاصطناعي على ماك

Published

ساعتين ago

أكتوبر 5, 2026

هدير ابراهيم

آبل تشدد حماية مستخدمي ماك من مخاطر وكلاء الذكاء الاصطناعي على ماك 1

تستعد آبل لإضافة إجراءات حماية جديدة لمواجهة مخاطر وكلاء الذكاء الاصطناعي على ماك، خصوصًا التطبيقات التي تطلب صلاحية Full Disk Access للوصول إلى نطاق واسع من بيانات المستخدمين.

وترى آبل أن منح هذه الصلاحية لوكلاء الذكاء الاصطناعي قد يعرض الملفات ورسائل البريد الإلكتروني والمحادثات وسجل التصفح للخطر، خاصة مع ازدياد قدرة هذه الأدوات على تنفيذ المهام بشكل مستقل.

وكلاء الذكاء الاصطناعي على ماك يطلبون صلاحيات واسعة

تمنح ميزة Full Disk Access التطبيقات قدرة كبيرة على الوصول إلى البيانات المخزنة على أجهزة ماك، ولذلك تستخدمها بعض أدوات الذكاء الاصطناعي لتنفيذ مهام أكثر تعقيدًا.

وتشمل هذه الأدوات OpenClaw وDots وMuse، التي قد تحتاج إلى الوصول إلى الملفات والرسائل وبيانات أخرى موجودة على الجهاز حتى تتمكن من تنفيذ الوظائف المطلوبة.

وحذرت آبل من أن بعض المطورين يستخدمون هذه الصلاحيات بطريقة قد تعرض بيانات المستخدمين للخطر، كما أن تطبيقات التواصل قد تؤثر في خصوصية أشخاص آخرين يتبادل المستخدم الرسائل معهم.

لماذا تثير صلاحيات ماك هذه المخاوف؟

تختلف أجهزة ماك عن أنظمة مثل iPhone وiPad في طريقة تعاملها مع بعض صلاحيات الوصول إلى البيانات، ما يمنح التطبيقات التي تحصل على Full Disk Access نطاقًا واسعًا من المعلومات.

ومع تطور وكلاء الذكاء الاصطناعي على ماك، أصبحت المخاطر أكبر، لأن الوكيل لا يكتفي بقراءة البيانات، بل يستطيع استخدام المعلومات لتنفيذ إجراءات مختلفة نيابة عن المستخدم.

ودفع ذلك بعض المستخدمين إلى تشغيل هذه الأدوات على أجهزة منفصلة، بدلًا من منحها وصولًا واسعًا إلى حواسيبهم الأساسية.

آبل تشدد حماية مستخدمي ماك من مخاطر وكلاء الذكاء الاصطناعي على ماك

قضية Muse تعيد الجدل حول خصوصية المستخدمين

عادت المخاوف إلى الواجهة مع انتشار وكيل الذكاء الاصطناعي Muse التابع لشركة ميتا، بعد ظهور تقارير عن عمليات غير متوقعة تتعلق ببيانات بعض المستخدمين.

وفي إحدى الحالات، قال الكاتب التقني جيسون أتن إن Muse تمكن من الوصول إلى رسائله على جهاز ماك رغم اعتقاده أنه لم يمنح التطبيق الإذن بذلك.

وردت ميتا بأن مزامنة الرسائل تتطلب موافقة المستخدم على منح الصلاحية، بينما لم تذكر آبل Muse أو ميتا بالاسم في تحذيرها.

آبل تستعد لتغيير طريقة منح الصلاحيات

تخطط آبل لجعل الحصول على صلاحية Full Disk Access أكثر وضوحًا، بحيث يحتاج التطبيق إلى إجراء صريح من المستخدم قبل الوصول إلى هذا المستوى من البيانات.

وتأتي الخطوة مع تزايد قدرات وكلاء الذكاء الاصطناعي على ماك واستقلاليتهم، إذ يمكن للصلاحيات الواسعة أن تمنح هذه الأدوات قدرة أكبر على التعامل مع بيانات حساسة وتنفيذ إجراءات نيابة عن المستخدم.

ولم تكشف آبل حتى الآن موعد تطبيق التغييرات أو تفاصيل الضوابط الجديدة، لكنها أوضحت أن الهدف هو مساعدة المستخدمين على فهم نطاق الوصول الذي تمنحه التطبيقات إلى أجهزتهم، واتخاذ قرارات أكثر وضوحًا بشأن الخصوصية.

أخبار تقنية

جيميناي المجاني يفقد نماذج Pro وFlash.. جوجل تقلص المزايا في 9 أكتوبر

Published

4 ساعات ago

أكتوبر 5, 2026

هدير ابراهيم

جيميناي المجاني يفقد نماذج Pro وFlash. جوجل تقلص المزايا في 9 أكتوبر

تستعد جوجل لتقليص مزايا جيميناي المجاني اعتبارًا من 9 أكتوبر، ضمن تغيير جديد لطريقة توزيع نماذج الذكاء الاصطناعي بين المستخدمين الذين يعتمدون على الخدمة دون اشتراك والمشتركين في الخطط المدفوعة.

وبموجب النظام الجديد، سيقتصر المستخدمون الذين لا يملكون اشتراكًا في Google AI على نموذج Flash-Lite، بينما يحصل مشتركو AI Plus على Flash-Lite وFlash، في حين يصبح نموذج Pro متاحًا ضمن خطتي Google AI Pro وGoogle AI Ultra.

جيميناي المجاني يفقد الوصول إلى نماذج Pro وFlash

يمثل فقدان الوصول إلى نماذج Pro وFlash التغيير الأكبر للمستخدمين المجانيين، إذ يتيح جيميناي حاليًا وصولًا محدودًا إلى نموذج Pro إلى جانب Flash.

وبعد تطبيق القيود الجديدة، سيعتمد جيميناي المجاني على نموذج Flash-Lite، وهو النموذج الأخف ضمن المجموعة.

وتأتي الخطوة بعد إعلان جوجل عن Gemini 4 Argon، الذي تصفه الشركة بأنه من أقوى نماذجها للذكاء الاصطناعي، رغم أن النموذج لا يزال محدود الإتاحة ويخضع للاختبار مع جهات حكومية أميركية وشركاء محددين.

جيميناي المجاني يفقد نماذج Pro وFlash.. جوجل تقلص المزايا في 9 أكتوبر

جوجل تفرق بين النماذج ومستويات الأداء

لا تقتصر التغييرات على النماذج المتاحة، إذ تقدم جوجل مستويات مختلفة من الجهد الحسابي أثناء معالجة المهام، تشمل المستوى المنخفض والمتوسط والعالي.

وتمنح المستويات الأعلى جيميناي وقتًا وموارد أكبر للتعامل مع المهام المعقدة، لكنها تستهلك من حدود الاستخدام بشكل أسرع، ما يجعل تجربة جيميناي المجاني أكثر محدودية مقارنة بالخطط المدفوعة.

أما ميزة Deep Think، فتظل متاحة لمشتركي Google AI Pro وGoogle AI Ultra.

وفي المقابل، لا تحصر جوجل جميع المزايا الجديدة في الاشتراكات، إذ أتاحت ميزة Skills للمستخدمين المجانيين، والتي تسمح بحفظ تعليمات مخصصة للمهام المتكررة.

ماذا تقدم خطط Gemini المختلفة؟

تتيح الخطة المجانية مجموعة من المزايا مثل Deep Research وGemini Live وتوليد الصور، بينما تضيف الخطط المدفوعة حدود استخدام أكبر ووصولًا إلى نماذج أكثر تقدمًا.

وتكلف Google AI Plus نحو 4.99 دولار شهريًا، مع حدود استخدام أعلى و400 جيجابايت من التخزين ومزايا إضافية مثل توليد الفيديو وDaily Brief.

أما Google AI Pro فتبلغ تكلفتها نحو 19.99 دولار شهريًا، وتوفر وصولًا أوسع إلى النماذج المتقدمة ودمج Gemini داخل تطبيقات جوجل، إلى جانب 5 تيرابايت من التخزين.

وتبدأ Google AI Ultra من 99.99 دولار شهريًا، وتوفر أعلى مستويات الوصول إلى النماذج وحدود استخدام أكبر ومزايا حصرية.

9 أكتوبر يغير تجربة المستخدم المجاني

يمثل التغيير المرتقب في 9 أكتوبر خطوة واضحة من جوجل لإعادة توزيع قدرات Gemini وفق مستويات الاشتراك، ما يعني أن جيميناي المجاني سيصبح أكثر محدودية مقارنة بما يحصل عليه المستخدمون حاليًا.

وسيحتاج المستخدمون الراغبون في الوصول إلى النماذج الأقوى ومزايا التفكير المتقدم إلى الانتقال إلى إحدى الخطط المدفوعة.

أخبار الشركات

صمام القلب للأطفال ينمو مع المريض بعد موافقة أميركية

Published

8 ساعات ago

أكتوبر 4, 2026

هدير ابراهيم

صمام القلب للأطفال ينمو مع المريض بعد موافقة أميركية 1

حصل صمام القلب للأطفال من شركة Edwards على موافقة إدارة الغذاء والدواء الأميركية، ليصبح أول صمام رئوي اصطناعي يمكن توسيعه داخل جسم الطفل بعد زراعته، ما يسمح له بمواكبة نمو المريض وتقليل الحاجة إلى عمليات استبدال متكررة.

ويحمل الصمام اسم Autus Size-Adjustable Valve، وصممته Edwards لعلاج بعض حالات أمراض القلب الخلقية التي تؤثر في الصمام الرئوي.

صمام القلب للأطفال يمكن توسيعه بعد الجراحة

يختلف صمام القلب للأطفال الجديد عن الصمامات الاصطناعية التقليدية في إمكانية زيادة حجمه بعد الزراعة، بدلًا من إجراء عملية جراحية جديدة لاستبداله بصمام أكبر مع نمو الطفل.

ويمكن زراعة صمام Autus بقطر يبدأ من 13 ملليمترًا لدى الأطفال الصغار ومرحلة ما قبل المدرسة، بينما يمكن توسيعه لاحقًا باستخدام قسطرة بالونية.

وتتكون القسطرة من أنبوب رفيع يحمل بالونًا في طرفه، حيث يمكن نفخ البالون داخل الصمام لتوسيعه تدريجيًا. ويصل قطر الصمام بعد التوسيع إلى 22 ملليمترًا، وهو حجم قريب من الصمامات الاصطناعية المستخدمة لدى البالغين.

الصمام يستهدف أمراضًا خلقية شائعة

تشير بيانات طبية أميركية إلى ولادة نحو 400 ألف طفل سنويًا في الولايات المتحدة بأحد أشكال أمراض القلب الخلقية، بينما تؤثر نسبة تقارب 30% من هذه الحالات في صمامات القلب.

ومن الحالات التي يمكن أن تؤثر في الصمام الرئوي التضيق والرتق. ويحدث التضيق عندما تضيق فتحة الصمام، بينما يشير الرتق إلى عدم تكوّن الصمام بصورة طبيعية.

وتؤثر الحالتان معًا في نحو 4200 طفل يولدون في الولايات المتحدة سنويًا، وفق بيانات مراكز السيطرة على الأمراض والوقاية منها.

صمام القلب للأطفال ينمو مع المريض بعد موافقة أميركية

مادة بوليمرية بدلًا من الأنسجة الحيوانية

إلى جانب إمكانية تعديل حجمه، يستخدم صمام القلب للأطفال من Autus مادة بوليمرية في الأجزاء المسؤولة عن التحكم في تدفق الدم.

وتستخدم صمامات أخرى مواد مشتقة من أنسجة حيوانية، لكنها قد تتصلب وتتلف بوتيرة أسرع لدى الأطفال، ما قد يؤدي إلى الحاجة لعمليات إضافية مع مرور الوقت.

وترى إدارة الغذاء والدواء الأميركية أن بيانات المتابعة لمدة عام بعد زراعة Autus تشير إلى قدرته على الحفاظ على أدائه بمرور الوقت مقارنة ببعض النماذج الأخرى.

تقليل العمليات مع نمو الطفل

تتمثل أهمية الصمام الجديد في إمكانية توسيعه داخل الجسم بدلًا من استبداله جراحيًا كلما كبر الطفل، وهو ما قد يقلل عدد العمليات التي يحتاج إليها الأطفال المصابون بأمراض القلب الخلقية والمخاطر المرتبطة بها.

ويمثل Autus بذلك اتجاهًا جديدًا في تصميم الصمامات المخصصة للأطفال، عبر محاولة جعل الجهاز المزروع قابلًا للتكيف مع التغيرات التي تحدث في جسم المريض خلال مراحل النمو.