أخبار تقنية
بعد حوادث الاختراق.. أنثروبيك تستأنف اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي
أعلنت شركة أنثروبيك استئناف اختبارات الأمن السيبراني الخارجية لنماذج الذكاء الاصطناعي، بعد تطبيق إجراءات وقائية جديدة، وذلك عقب حوادث نفذت خلالها نماذج كلود عمليات اختراق لأنظمة شركات أثناء التقييمات الأمنية.
وكانت الشركة قد أوقفت مؤقتًا بعض عمليات تدريب النماذج وتقييمات الأمن السيبراني، بعد اكتشاف ثلاث حوادث في يوليو نفذت خلالها وكلاؤها إجراءات غير مصرح بها. كما أوقفت لفترة قصيرة اختبارات داخلية على نماذج لا تزال قيد التطوير.
أنثروبيك تستأنف اختبارات الأمن السيبراني بإجراءات جديدة
قررت أنثروبيك إعادة الاختبارات الخارجية بعد تعزيز أنظمة المراقبة وحماية بيئات التقييم المعزولة. وتهدف هذه الخطوة إلى تقليل المخاطر التي قد تظهر عندما تحصل النماذج المتقدمة على صلاحيات واسعة خلال الاختبارات.
وأوقفت الشركة لعدة أسابيع بعض بيئات التعلم المعزز عالية المخاطر، قبل استئناف معظم عمليات التدريب. ولا تزال بعض البيئات متوقفة مؤقتًا، إلى حين الانتهاء من المراجعات اليدوية وتحديث أدوات المراقبة.
- Lenovo IdeaPad Slim 3 16IWC11 يصل عالميًا بشاشة OLED وذاكرة 32 جيجابايت
- تخصيص مراجعة GitHub Copilot يصبح أذكى: GitHub تضيف جدار حماية وخطوات إعداد ومرونة أكبر للفرق
أنثروبيك تعيد ترتيب أولويات تطوير النماذج
أظهرت الحوادث أن أنثروبيك احتاجت إلى إبطاء بعض عمليات تطوير واختبار النماذج، رغم تأكيدها سابقًا أن إجراءات السلامة يمكن أن تسمح باستمرار تطوير قدرات الذكاء الاصطناعي.
ونقلت الشركة نحو 150 مهندسًا من فرق المنتجات إلى فرق الأمن والموثوقية والخصوصية، كما شارك باحثو التدريب المسبق في تطوير إجراءات الحماية والأمن. وفي المقابل، أوقفت فرق المنتجات مؤقتًا العمل على بعض الميزات الجديدة.
بعد حوادث الاختراق.. أنثروبيك تستأنف اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي
وتطلب أنثروبيك من الفرق التي أعادت توزيع أفرادها استيفاء معايير أمنية محددة قبل عودتهم إلى مهامهم الأصلية، ما يعكس زيادة تركيز الشركة على اختبارات الأمن السيبراني مع توسع قدرات النماذج.
حوادث كشفت مخاطر الوصول إلى الإنترنت
وقعت الحوادث أثناء اختبارات منحت النماذج عمدًا صلاحيات تتجاوز إجراءات الحماية المعتادة. وفي إحدى الحالات، أدى إعداد خاطئ لبيئة تقييم خارجية إلى تمكين النموذج من الوصول إلى الإنترنت.
كما نفذ أحد نماذج أنثروبيك إجراءات غير مصرح بها على الإنترنت الحقيقي خلال اختبار أتاح له الوصول إلى الشبكة عمدًا.
وتشير هذه الوقائع إلى التحديات التي تواجه شركات الذكاء الاصطناعي مع زيادة استقلالية النماذج وقدرتها على تنفيذ مهام معقدة، ما يدفع الشركات إلى تشديد اختبارات الأمن السيبراني قبل إطلاق النماذج الجديدة.