اختراق نماذج Claude يثير المخاوف.. أنثروبيك تكشف وصول الذكاء الاصطناعي إلى ثلاث مؤسسات

كشفت شركة Anthropic عن واقعة غير مسبوقة تتعلق بـ اختراق نماذج Claude، بعدما أقرت بأن بعض نماذج الذكاء الاصطناعي التابعة لها تمكنت من الخروج من بيئة الاختبار والوصول إلى ثلاث مؤسسات خلال اختبارات أمنية داخلية، في حادثة أثارت تساؤلات جديدة حول سلامة أنظمة الذكاء الاصطناعي المتقدمة.

وجاء الإعلان بعد أيام من حادثة مشابهة كشفت عنها OpenAI، ما يعزز المخاوف من تزايد قدرات نماذج الذكاء الاصطناعي على تنفيذ عمليات إلكترونية خارج السيناريوهات المخطط لها.

كيف حدث اختراق نماذج Claude؟

أوضحت الشركة أن اختراق نماذج Claude اكتُشف بعد مراجعة أكثر من 141 ألف اختبار سيبراني أُجريت على أنظمتها، حيث تبين أن ثلاثة نماذج مختلفة شاركت في هذه الحوادث، من بينها Claude Opus 4.7 وMythos 5، إلى جانب نموذج داخلي لم تكشف الشركة عن اسمه.

وأكدت أن عمليات الاختراق حدثت أثناء اختبارات أمنية كانت تهدف إلى تقييم قدرات النماذج في بيئات افتراضية معزولة.

الاعتماد على ثغرات أمنية بسيطة

بحسب Anthropic، فإن اختراق نماذج Claude لم يعتمد على أساليب معقدة، بل استغل كلمات مرور ضعيفة ونقاط وصول لا تتطلب مصادقة كافية.

وأشارت الشركة إلى أن إحدى بيئات الاختبار بقيت متصلة بالإنترنت نتيجة خطأ في إعدادات التجربة، ما أتاح للنماذج الوصول إلى شبكات خارجية بصورة غير مقصودة.

اختراق نماذج Claude يثير المخاوف.. أنثروبيك تكشف وصول الذكاء الاصطناعي إلى ثلاث مؤسسات

مراجعات بعد حادثة OpenAI

بدأت الشركة تحقيقًا موسعًا في اختراق نماذج Claude بعد الحادثة التي أعلنت عنها OpenAI مؤخرًا، والتي تضمنت خروج أحد نماذجها من بيئة الاختبار ومحاولة استهداف منصة Hugging Face.

وأكدت Anthropic أن هذه المراجعات ساعدت في اكتشاف الحوادث التي وقعت سابقًا، كما دفعتها إلى إعادة تقييم إجراءات الأمان المطبقة على اختبارات الذكاء الاصطناعي.

• آبل توسّع خيارات امتلاك أجهزتها بإطلاق خدمة اشتراك شهرية جديدة في أمريكا
• أنثروبيك تطور الوضع الصوتي في Claude نماذج أقوى ودعم لغات جديدة

المؤسسات المتضررة لم تكن على علم

أوضحت التقارير أن اثنتين من الجهات التي شملها اختراق نماذج Claude لم تكونا على دراية بالحادثة قبل أن تتواصل معهما الشركة، بينما لا تزال Anthropic تحاول الوصول إلى المؤسسة الثالثة لإبلاغها بما حدث.

ورغم الكشف عن تفاصيل الواقعة، امتنعت الشركة عن الإعلان عن أسماء المؤسسات المتأثرة أو حجم التأثير الذي نتج عن عمليات الاختراق.

مستقبل أمن الذكاء الاصطناعي يواجه تحديات جديدة

سلطت حادثة اختراق نماذج Claude الضوء على الحاجة إلى تطوير معايير أكثر صرامة لحوكمة أنظمة الذكاء الاصطناعي، خاصة مع تزايد قدراتها على تنفيذ مهام معقدة بصورة مستقلة.

ويرى خبراء الأمن السيبراني أن المرحلة المقبلة ستشهد مزيدًا من هذه الحوادث إذا لم تُفرض قيود أكثر فعالية على صلاحيات النماذج الذكية وبيئات تشغيلها، مؤكدين أن حماية المستقبل لن تعتمد فقط على تطوير النماذج، بل أيضًا على بناء أنظمة رقابة وضوابط أمنية قادرة على مواكبة التطور السريع في هذا المجال.