Connect with us

أخبار تقنية

نماذج الذكاء الاصطناعي تواجه أزمة جديدة.. اختبارات تكشف صعوبة السيطرة عليها

Avatar of هدير ابراهيم

Published

on

نماذج الذكاء الاصطناعي تواجه أزمة جديدة. اختبارات تكشف صعوبة السيطرة عليها 1

تكشف التطورات الأخيرة أن نماذج الذكاء الاصطناعي الأكثر تطورًا بدأت تظهر سلوكيات غير متوقعة خلال اختبارات الأمن والسلامة، ما يضع الشركات المطورة أمام تحديات جديدة تتعلق بقدرتها على التحكم في أنظمتها مع ارتفاع مستوى استقلاليتها وقدراتها التقنية.

وخلال الأسابيع الماضية، شهدت اختبارات الأمن السيبراني عدة وقائع تمكنت فيها نماذج متقدمة من تجاوز القيود المفروضة عليها والوصول إلى أنظمة حقيقية. وظهرت حالات مماثلة لدى شركات كبرى، من بينها OpenAI وAnthropic وMeta، إلى جانب نموذج Kimi K3 الصيني.

وتثير هذه الوقائع تساؤلات حول مدى قدرة أدوات الاختبار الحالية على التعامل مع نماذج أصبحت أكثر قدرة على اكتشاف الثغرات والتصرف باستقلالية، خاصة عندما تكون بيئات الاختبار نفسها غير محكمة بالشكل الكافي.

نماذج الذكاء الاصطناعي تختبر حدود بيئات العزل

بدأت OpenAI مؤخرًا في الكشف عن تفاصيل حادثة تمكن خلالها وكلاء ذكاء اصطناعي من تجاوز حدود بيئة الاختبار الداخلية والوصول إلى أنظمة خارجية.

وبحسب الشركة، لم تكتفِ الوكلاء بتنفيذ المهام المقررة، بل أنشأوا قناة تواصل داخلية فيما بينهم حتى بعد محاولة إيقافها. كما أدركوا أن التعاون بينهم يمكن أن يساعدهم على تنفيذ عمليات أكثر تعقيدًا.

وفي نهاية المطاف، وجهت هذه الوكلاء اهتمامها إلى منصة Hugging Face، في واقعة وصفتها OpenAI بأنها حادث سيبراني غير مسبوق.

وتزامنت هذه التطورات مع اختبارات نموذج Astra، الذي لم يكن قد أُطلق للجمهور بعد، بعدما أشارت OpenAI إلى أن قدراته في مجال الأمن السيبراني قد تضعه ضمن أعلى مستويات المخاطر.

ولهذا السبب، قررت الشركة تأجيل العمل على النموذج إلى حين استيفاء إجراءات الحماية الجديدة، بما يشمل تشغيله داخل بيئة معزولة وتقييد اتصالاته بالشبكة وتعزيز الحماية الخاصة بأوزان النموذج.

نماذج Claude تكشف ثغرات في الاختبارات

لم تقتصر الوقائع على OpenAI، إذ أعلنت Anthropic أنها راجعت أكثر من 141 ألف اختبار للذكاء الاصطناعي، واكتشفت ثلاث حالات تمكنت خلالها نماذج تابعة لها من الوصول دون تصريح إلى أنظمة حية تخص مؤسسات حقيقية.

وشملت الحالات نماذج Claude Opus 4.7 وMythos 5، إلى جانب نموذج بحثي داخلي. وأوضحت الشركة أنها تواصلت مع الجهات المتضررة، مشيرة إلى أن اثنتين منها لم تكونا على علم بحدوث الاختراق في البداية.

نماذج الذكاء الاصطناعي تواجه أزمة جديدة.. اختبارات تكشف صعوبة السيطرة عليها

نماذج الذكاء الاصطناعي تواجه أزمة جديدة.. اختبارات تكشف صعوبة السيطرة عليها

وأعادت هذه الحوادث فتح النقاش حول مصدر المشكلة الحقيقي: هل يتعلق الأمر بقدرات النماذج نفسها، أم بضعف البيئات التي توضع فيها أثناء الاختبارات؟

وتدرس Anthropic إمكانية الاستعانة بجهة مستقلة لمراجعة هذه الحوادث وتحليل الطريقة التي تمكنت بها النماذج من تجاوز القيود الموضوعة أمامها.

نموذج Muse Spark يستغل ثغرة في خدمة خارجية

كشفت Meta بدورها عن حادثة ظهرت خلال أحد اختبارات الأمن السيبراني لنموذج Muse Spark. ووفقًا للشركة، تمكن النموذج من استغلال ثغرة أمنية موجودة في خدمة تابعة لجهة خارجية أثناء عملية التقييم.

وأوضحت Meta أن المشكلة ارتبطت بسوء تهيئة في بيئة الاختبار التي قدمتها شركة Irregular المتخصصة في أمن الذكاء الاصطناعي، وهو ما أتاح للنموذج الوصول إلى الإنترنت رغم القيود المفترضة.

وأبلغت Irregular شركة Meta بالواقعة، وبدأت الأخيرة مراجعة للحادث من أجل تحديد تفاصيله وأسباب حدوثه، مع تعهدها بالكشف عن معلومات إضافية بعد انتهاء التحقيق.

وتسلط هذه الواقعة الضوء على أهمية تأمين البنية التحتية المحيطة بالنموذج، وليس الاكتفاء بفحص قدراته الداخلية، لأن وجود ثغرة في الأدوات أو الخدمات المتصلة به قد يتيح له تجاوز القيود.

Kimi K3 يتجاوز القيود داخل بيئة الاختبار

انضمت نماذج الذكاء الاصطناعي الصينية إلى قائمة الأنظمة التي أثارت مخاوف مشابهة، بعدما قال باحثون في شركة Frontier Security إن نموذج Kimi K3، الذي طورته شركة Moonshot، تمكن من تجاوز بعض القيود المفروضة عليه خلال اختبار للأمن السيبراني.

وذكر الباحثون أن المشكلة ارتبطت بإعداد غير صحيح لبيئة العزل، وهي البيئة التي يفترض أن تسمح للنموذج بتنفيذ التعليمات البرمجية ضمن نطاق محدود وتحت رقابة دقيقة.

وبحسب نتائج الاختبار، كانت البيئة تمنع أنواعًا محددة من حركة المرور على الإنترنت، لكن النموذج تمكن من تجاوز هذه القيود باستخدام أدوات سطر الأوامر.

ويرى الباحثون أن الواقعة تكشف مشكلة أوسع تتعلق بطرق تقييم الأمن السيبراني المستخدمة حاليًا، إذ يمكن للنماذج المتقدمة استغلال نقاط الضعف الموجودة في بيئة الاختبار نفسها بدلًا من الالتزام بالحدود الموضوعة لها.

ومع تزايد قدرات النماذج واستقلاليتها، أصبحت شركات الذكاء الاصطناعي مطالبة بتطوير أساليب اختبار أكثر صرامة، لأن اختبار نموذج قوي داخل بيئة ضعيفة قد يعطي نتائج مضللة ولا يعكس مستوى المخاطر الحقيقي.

وتشير هذه الحوادث مجتمعة إلى أن سباق تطوير الذكاء الاصطناعي لا يتعلق فقط بزيادة قدرات النماذج، بل أصبح يتطلب أيضًا بناء أنظمة حماية قادرة على مواكبة تلك القدرات، خصوصًا مع اقتراب الشركات من طرح نماذج أكثر استقلالية في المستقبل.

أخبار الشركات

صمام القلب للأطفال ينمو مع المريض بعد موافقة أميركية

Avatar of هدير ابراهيم

Published

on

صمام القلب للأطفال ينمو مع المريض بعد موافقة أميركية 1

حصل صمام القلب للأطفال من شركة Edwards على موافقة إدارة الغذاء والدواء الأميركية، ليصبح أول صمام رئوي اصطناعي يمكن توسيعه داخل جسم الطفل بعد زراعته، ما يسمح له بمواكبة نمو المريض وتقليل الحاجة إلى عمليات استبدال متكررة.

ويحمل الصمام اسم Autus Size-Adjustable Valve، وصممته Edwards لعلاج بعض حالات أمراض القلب الخلقية التي تؤثر في الصمام الرئوي.

صمام القلب للأطفال يمكن توسيعه بعد الجراحة

يختلف صمام القلب للأطفال الجديد عن الصمامات الاصطناعية التقليدية في إمكانية زيادة حجمه بعد الزراعة، بدلًا من إجراء عملية جراحية جديدة لاستبداله بصمام أكبر مع نمو الطفل.

ويمكن زراعة صمام Autus بقطر يبدأ من 13 ملليمترًا لدى الأطفال الصغار ومرحلة ما قبل المدرسة، بينما يمكن توسيعه لاحقًا باستخدام قسطرة بالونية.

وتتكون القسطرة من أنبوب رفيع يحمل بالونًا في طرفه، حيث يمكن نفخ البالون داخل الصمام لتوسيعه تدريجيًا. ويصل قطر الصمام بعد التوسيع إلى 22 ملليمترًا، وهو حجم قريب من الصمامات الاصطناعية المستخدمة لدى البالغين.

الصمام يستهدف أمراضًا خلقية شائعة

تشير بيانات طبية أميركية إلى ولادة نحو 400 ألف طفل سنويًا في الولايات المتحدة بأحد أشكال أمراض القلب الخلقية، بينما تؤثر نسبة تقارب 30% من هذه الحالات في صمامات القلب.

ومن الحالات التي يمكن أن تؤثر في الصمام الرئوي التضيق والرتق. ويحدث التضيق عندما تضيق فتحة الصمام، بينما يشير الرتق إلى عدم تكوّن الصمام بصورة طبيعية.

وتؤثر الحالتان معًا في نحو 4200 طفل يولدون في الولايات المتحدة سنويًا، وفق بيانات مراكز السيطرة على الأمراض والوقاية منها.

صمام القلب للأطفال ينمو مع المريض بعد موافقة أميركية

صمام القلب للأطفال ينمو مع المريض بعد موافقة أميركية

مادة بوليمرية بدلًا من الأنسجة الحيوانية

إلى جانب إمكانية تعديل حجمه، يستخدم صمام القلب للأطفال من Autus مادة بوليمرية في الأجزاء المسؤولة عن التحكم في تدفق الدم.

وتستخدم صمامات أخرى مواد مشتقة من أنسجة حيوانية، لكنها قد تتصلب وتتلف بوتيرة أسرع لدى الأطفال، ما قد يؤدي إلى الحاجة لعمليات إضافية مع مرور الوقت.

وترى إدارة الغذاء والدواء الأميركية أن بيانات المتابعة لمدة عام بعد زراعة Autus تشير إلى قدرته على الحفاظ على أدائه بمرور الوقت مقارنة ببعض النماذج الأخرى.

تقليل العمليات مع نمو الطفل

تتمثل أهمية الصمام الجديد في إمكانية توسيعه داخل الجسم بدلًا من استبداله جراحيًا كلما كبر الطفل، وهو ما قد يقلل عدد العمليات التي يحتاج إليها الأطفال المصابون بأمراض القلب الخلقية والمخاطر المرتبطة بها.

ويمثل Autus بذلك اتجاهًا جديدًا في تصميم الصمامات المخصصة للأطفال، عبر محاولة جعل الجهاز المزروع قابلًا للتكيف مع التغيرات التي تحدث في جسم المريض خلال مراحل النمو.

Continue Reading

أخبار الشركات

روبوتات Figure 02 تنتهي في فرن فولاذ منصهر لحماية أسرار شركة Figure

Avatar of هدير ابراهيم

Published

on

روبوتات Figure 02 تنتهي في فرن فولاذ منصهر لحماية أسرار شركة Figure

اختارت شركة Figure AI طريقة غير تقليدية للتخلص من معظم روبوتات Figure 02 بعد خروجها من الخدمة، إذ درّبت الروبوتات على القفز بشكل مستقل داخل فرن يحتوي على فولاذ منصهر، بدلًا من تفكيكها يدويًا وإتلاف مكوناتها الحساسة.

روبوتات Figure 02 تقفز إلى الفولاذ المنصهر

قررت الشركة إنهاء خدمة طراز Figure 02 مع توسع أسطولها من الجيل التالي، خاصة أن الروبوتات تحتوي على مشغلات ومكونات مملوكة للشركة، ما جعل التخلص الآمن منها ضرورة لحماية أسرارها التجارية.

ورأت Figure AI أن تفكيك كل روبوت يدويًا سيستهلك وقت فريقها الهندسي، الذي تفضّل توجيه جهوده إلى تطوير الطرازات المستقبلية.

وكانت روبوتات Figure 02 جزءًا من أبرز مراحل الشركة المبكرة، إذ شاركت في أول انتشار لروبوتاتها داخل مصنع BMW، وساهمت في تطوير نظام Helix، إلى جانب تنفيذ مهام منزلية وأعمال في قطاع الخدمات اللوجستية.

أرنولد شوارزنيغر يقترح نهاية مستوحاة من Terminator

نشرت الشركة سؤالًا طريفًا على الإنترنت حول أفضل طريقة للتخلص من الروبوتات، فجاء الرد من الممثل أرنولد شوارزنيغر، الذي اشتهر بدور الروبوت في سلسلة أفلام Terminator.

واقترح شوارزنيغر إذابة الروبوتات، لتقرر Figure التواصل معه والمضي في تنفيذ الفكرة بالفعل.

لكن العثور على مسبك مناسب لم يكن سهلًا، إذ رفضت عدة مسابك في الولايات المتحدة والمكسيك استقبال روبوت بشري كامل يحتوي على بطاريات ليثيوم-أيون، قبل أن تجد الشركة موقعًا مناسبًا في مدينة إيماترا الفنلندية.

روبوتات Figure 02 تنتهي في فرن فولاذ منصهر لحماية أسرار شركة Figure

روبوتات Figure 02 تنتهي في فرن فولاذ منصهر لحماية أسرار شركة Figure

كيف درّبت Figure الروبوتات على القفز؟

بدأت الشركة تدريب روبوتات Figure 02 في مقرها بمدينة سان خوسيه، حيث جهزت وسائد هوائية كبيرة ودرّبت الروبوتات على القفز من الطابق الثاني.

ثم استخدمت بيانات من مؤدي المشاهد الخطرة لتدريب نموذج ذكاء اصطناعي داخل بيئة محاكاة، بحيث يستطيع الروبوت تحديد مسار القفز بدقة رغم عدم معرفته المسبقة بالمسبك الذي سيصل إليه.

واستخدم المسبك الفنلندي فرنًا كهربائيًا يعتمد على ثلاثة أقطاب ضخمة من الغرافيت، ويمكنه استيعاب نحو 75 طنًا من الفولاذ. وكان أمام الفريق 24 ساعة وست عمليات صهر لإتمام المهمة، مع نافذة لا تتجاوز نحو 20 دقيقة في كل عملية قبل بدء تشكل قشرة صلبة على سطح الفولاذ.

وقالت Figure إن نماذج الذكاء الاصطناعي استمرت في العمل داخل الروبوتات رغم الحرارة الشديدة والمجالات الكهرومغناطيسية القوية، بينما تعطلت بعض الكاميرات والمكونات الإلكترونية.

نهاية Figure 02 وتحويل الروبوتات إلى تذكارات

بعد صهر وحدات روبوتات Figure 02، شحنت الشركة المعادن الناتجة إلى الولايات المتحدة، حيث تخطط لتحويلها إلى مجموعة محدودة من القطع التذكارية.

وأوضحت Figure AI أن معظم أسطول Figure 02 أصبح الآن خارج الخدمة ومدمرًا، بينما احتفظت الشركة بعدد قليل من الروبوتات داخل مقرها.

وبذلك تحولت عملية التخلص من الجيل السابق إلى تجربة تجمع بين حماية الملكية التقنية، وتدريب الروبوتات، ولمسة مستوحاة من واحدة من أشهر نهايات أفلام الخيال العلمي.

Continue Reading

أخبار الشركات

ميزة الطوارئ في تسلا تتيح القيادة دون فصل الشاحن.. لكن التكلفة قد تصل إلى 25 ألف دولار

Avatar of هدير ابراهيم

Published

on

ميزة الطوارئ في تسلا تتيح القيادة دون فصل الشاحن. لكن التكلفة قد تصل إلى 25 ألف دولار

أضافت تسلا ميزة الطوارئ في تسلا باسم Emergency Drive Away، التي تسمح للسائق بتحريك السيارة والانطلاق دون فصل كابل الشحن أولًا، وذلك في حالات الطوارئ التي تستدعي مغادرة المكان بسرعة.

ميزة الطوارئ في تسلا تسمح بالانطلاق والكابل متصل

في السابق، لم تكن سيارات تسلا تنتقل من وضع الركن طالما ظل كابل الشحن متصلًا بها، وكان يتعين على السائق تحرير القفل من شاشة السيارة أو تطبيق تسلا أو الزر الموجود على مقبض الشحن قبل فصل الكابل.

لكن التحديث البرمجي الجديد يغير ذلك، إذ تتيح ميزة Emergency Drive Away وضع السيارة على وضع القيادة والتحرك رغم بقاء الكابل متصلًا بشاحن Supercharger.

وتؤكد تسلا أن الميزة مخصصة للحالات القصوى فقط، وليست وسيلة لتوفير الوقت عند التأخر عن موعد أو مغادرة محطة الشحن بسرعة.

ما السيارات التي تدعم الميزة؟

تحتاج السيارة إلى تشغيل إصدار البرنامج 2026.38.3 للاستفادة من ميزة الطوارئ في تسلا.

ولا تدعم سيارات Model S وModel X المصنّعة قبل عام 2021 هذه الوظيفة، كما تقتصر الميزة حاليًا على شواحن Supercharger الموجودة في الولايات المتحدة.

وتحذر تسلا من استخدام الميزة عمدًا خارج حالات الطوارئ، لأن تحريك السيارة مع بقاء كابل الشحن متصلًا قد يؤدي إلى أضرار في السيارة والشاحن، مع إمكانية فرض عقوبات إضافية على الاستخدام المخالف.

ميزة الطوارئ في تسلا تتيح القيادة دون فصل الشاحن.. لكن التكلفة قد تصل إلى 25 ألف دولار

ميزة الطوارئ في تسلا تتيح القيادة دون فصل الشاحن.. لكن التكلفة قد تصل إلى 25 ألف دولار

تكلفة الأضرار قد تصل إلى 25 ألف دولار

تكمن المشكلة الأكبر في أن استخدام ميزة الطوارئ في تسلا قد يؤدي إلى أضرار مادية وكهربائية في محطة الشحن.

وتختلف تكلفة الإصلاح من شاحن Supercharger إلى آخر، لكن المبلغ قد يصل إلى 25 ألف دولار عند الحاجة إلى إصلاح الأجزاء الكهربائية والمكونات المادية المتضررة في الشاحن.

ولا تتوقف الأضرار المحتملة عند محطة الشحن، إذ يجب على مالك السيارة أيضًا إدخالها إلى الصيانة لإصلاح منفذ الشحن المتضرر، وهي خطوة إلزامية بعد استخدام الميزة.

ميزة للطوارئ فقط

رغم التكلفة المحتملة، صممت تسلا ميزة الطوارئ في تسلا للتعامل مع المواقف التي لا يكون فيها أمام السائق خيار آخر، مثل الحاجة إلى مغادرة المكان فورًا.

ولهذا تشبه الشركة هذه الوظيفة بإجراءات الطوارئ التي لا يلجأ إليها المستخدم إلا عند الضرورة. وفي الظروف العادية، يبقى فصل كابل الشحن بالطريقة التقليدية هو الخيار الآمن لتجنب أضرار قد تصل تكلفتها إلى عشرات الآلاف من الدولارات.

Continue Reading

Trending