كشفت دراسة حديثة تحسن أداء روبوتات الدردشة المدعومة بالذكاء الاصطناعي في التعامل مع المستخدمين الذين يمرون بأزمات نفسية، لكنها رصدت في الوقت نفسه ثغرات مقلقة عند التعامل مع طلبات تتعلق بإيذاء النفس أو الانتحار.

أعلنت شركة أنثروبيك استئناف اختبارات الأمن السيبراني الخارجية لنماذج الذكاء الاصطناعي، بعد تطبيق إجراءات وقائية جديدة، وذلك عقب حوادث نفذت خلالها نماذج كلود عمليات اختراق لأنظمة شركات أثناء التقييمات الأمنية.

وكانت الشركة قد أوقفت مؤقتًا بعض عمليات تدريب النماذج وتقييمات الأمن السيبراني، بعد اكتشاف ثلاث حوادث في يوليو نفذت خلالها وكلاؤها إجراءات غير مصرح بها. كما أوقفت لفترة قصيرة اختبارات داخلية على نماذج لا تزال قيد التطوير.

أنثروبيك تستأنف اختبارات الأمن السيبراني بإجراءات جديدة

قررت أنثروبيك إعادة الاختبارات الخارجية بعد تعزيز أنظمة المراقبة وحماية بيئات التقييم المعزولة. وتهدف هذه الخطوة إلى تقليل المخاطر التي قد تظهر عندما تحصل النماذج المتقدمة على صلاحيات واسعة خلال الاختبارات.

وأوقفت الشركة لعدة أسابيع بعض بيئات التعلم المعزز عالية المخاطر، قبل استئناف معظم عمليات التدريب. ولا تزال بعض البيئات متوقفة مؤقتًا، إلى حين الانتهاء من المراجعات اليدوية وتحديث أدوات المراقبة.

• Lenovo IdeaPad Slim 3 16IWC11 يصل عالميًا بشاشة OLED وذاكرة 32 جيجابايت
• تخصيص مراجعة GitHub Copilot يصبح أذكى: GitHub تضيف جدار حماية وخطوات إعداد ومرونة أكبر للفرق

أنثروبيك تعيد ترتيب أولويات تطوير النماذج

أظهرت الحوادث أن أنثروبيك احتاجت إلى إبطاء بعض عمليات تطوير واختبار النماذج، رغم تأكيدها سابقًا أن إجراءات السلامة يمكن أن تسمح باستمرار تطوير قدرات الذكاء الاصطناعي.

ونقلت الشركة نحو 150 مهندسًا من فرق المنتجات إلى فرق الأمن والموثوقية والخصوصية، كما شارك باحثو التدريب المسبق في تطوير إجراءات الحماية والأمن. وفي المقابل، أوقفت فرق المنتجات مؤقتًا العمل على بعض الميزات الجديدة.

بعد حوادث الاختراق.. أنثروبيك تستأنف اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي

وتطلب أنثروبيك من الفرق التي أعادت توزيع أفرادها استيفاء معايير أمنية محددة قبل عودتهم إلى مهامهم الأصلية، ما يعكس زيادة تركيز الشركة على اختبارات الأمن السيبراني مع توسع قدرات النماذج.

حوادث كشفت مخاطر الوصول إلى الإنترنت

وقعت الحوادث أثناء اختبارات منحت النماذج عمدًا صلاحيات تتجاوز إجراءات الحماية المعتادة. وفي إحدى الحالات، أدى إعداد خاطئ لبيئة تقييم خارجية إلى تمكين النموذج من الوصول إلى الإنترنت.

كما نفذ أحد نماذج أنثروبيك إجراءات غير مصرح بها على الإنترنت الحقيقي خلال اختبار أتاح له الوصول إلى الشبكة عمدًا.

وتشير هذه الوقائع إلى التحديات التي تواجه شركات الذكاء الاصطناعي مع زيادة استقلالية النماذج وقدرتها على تنفيذ مهام معقدة، ما يدفع الشركات إلى تشديد اختبارات الأمن السيبراني قبل إطلاق النماذج الجديدة.

تصاعدت معركة أبل ضد أوبن إيه آي بعد اتهام أبل منافستها بإتلاف أدلة مهمة في نزاع قضائي يتعلق بسرقة أسرار تجارية، مشيرة إلى أن مهندسها السابق تشانغ ليو استخدم معلومات سرية في عمله لدى شركة الذكاء الاصطناعي.

معركة أبل ضد أوبن إيه آي تصل إلى مرحلة جديدة

قدمت أبل مذكرة قضائية تطالب فيها بإجراء تقصي حقائق معجل قبل المحاكمة، وقالت إن أوبن إيه آي تأخرت في تقديم أدلة مهمة، بينها جهاز MacBook كان ليو يستخدمه أثناء عمله في أبل.

ووفقًا لأبل، كشف تحليل أولي للجهاز عن مؤشرات على استمرار ليو في الوصول إلى خدمات تخزين سحابية تابعة للشركة دون تصريح، إلى جانب أدلة تشير إلى أنه طلب من زميل في أوبن إيه آي إتلاف بعض الأدلة.

• سعر iPhone 18 Pro قد يبدأ من 1,399 دولارًا مع ارتفاع تكاليف التصنيع
• HP تطلق الحاسوب المحمول ZBook 8 G2a 16 عالميًا أداء احترافي وشاشة تصل إلى 4K بتردد 120 هرتز

مهندس آيفون السابق في قلب القضية

غادر تشانغ ليو أبل في يناير للانضمام إلى أوبن إيه آي، وأصبح أحد أبرز الشخصيات في النزاع بين الشركتين.

وتتهم أبل ليو باستخدام مخطط سري لدائرة إلكترونية تابعة لها، إلى جانب أداة تحمل الاسم نفسه لتطبيق هندسي داخلي تستخدمه الشركة في تطوير منتجاتها.

معركة أبل ضد أوبن إيه آي تتصاعد.. اتهامات بإتلاف أدلة وسرقة أسرار تجارية

أوبن إيه آي ترفض الاتهامات

تتمسك أوبن إيه آي بموقفها، وتؤكد أنها اتبعت إجراءات التوظيف المعتادة عند مقابلة موظفي أبل السابقين. كما تقول إن ليو حاول مساعدة زميل سابق عندما دخل إلى بيانات التخزين السحابي.

وتتهم أبل الشركة بالمماطلة في تقديم الأدلة، بينما تطالب بتعويضات مالية وأمر قضائي يمنع استخدام أسرارها التجارية.

خلاف يتجاوز القضية القضائية

تأتي معركة أبل ضد أوبن إيه آي في ظل تدهور العلاقة بين الشركتين خلال الفترة الماضية، خاصة بعد تعاون أوبن إيه آي مع جوني آيف، المصمم السابق لدى أبل، لتطوير أجهزة جديدة.

ويضيف النزاع القضائي فصلًا جديدًا إلى المنافسة المتزايدة بين الشركتين في مجالي الذكاء الاصطناعي والأجهزة الإلكترونية.