أعلنت شركة أنثروبيك استئناف اختبارات الأمن السيبراني الخارجية لنماذج الذكاء الاصطناعي، بعد تطبيق إجراءات وقائية جديدة، وذلك عقب حوادث نفذت خلالها نماذج كلود عمليات اختراق لأنظمة شركات أثناء التقييمات الأمنية.

وكانت الشركة قد أوقفت مؤقتًا بعض عمليات تدريب النماذج وتقييمات الأمن السيبراني، بعد اكتشاف ثلاث حوادث في يوليو نفذت خلالها وكلاؤها إجراءات غير مصرح بها. كما أوقفت لفترة قصيرة اختبارات داخلية على نماذج لا تزال قيد التطوير.

أنثروبيك تستأنف اختبارات الأمن السيبراني بإجراءات جديدة

قررت أنثروبيك إعادة الاختبارات الخارجية بعد تعزيز أنظمة المراقبة وحماية بيئات التقييم المعزولة. وتهدف هذه الخطوة إلى تقليل المخاطر التي قد تظهر عندما تحصل النماذج المتقدمة على صلاحيات واسعة خلال الاختبارات.

وأوقفت الشركة لعدة أسابيع بعض بيئات التعلم المعزز عالية المخاطر، قبل استئناف معظم عمليات التدريب. ولا تزال بعض البيئات متوقفة مؤقتًا، إلى حين الانتهاء من المراجعات اليدوية وتحديث أدوات المراقبة.

• Lenovo IdeaPad Slim 3 16IWC11 يصل عالميًا بشاشة OLED وذاكرة 32 جيجابايت
• تخصيص مراجعة GitHub Copilot يصبح أذكى: GitHub تضيف جدار حماية وخطوات إعداد ومرونة أكبر للفرق

أنثروبيك تعيد ترتيب أولويات تطوير النماذج

أظهرت الحوادث أن أنثروبيك احتاجت إلى إبطاء بعض عمليات تطوير واختبار النماذج، رغم تأكيدها سابقًا أن إجراءات السلامة يمكن أن تسمح باستمرار تطوير قدرات الذكاء الاصطناعي.

ونقلت الشركة نحو 150 مهندسًا من فرق المنتجات إلى فرق الأمن والموثوقية والخصوصية، كما شارك باحثو التدريب المسبق في تطوير إجراءات الحماية والأمن. وفي المقابل، أوقفت فرق المنتجات مؤقتًا العمل على بعض الميزات الجديدة.

بعد حوادث الاختراق.. أنثروبيك تستأنف اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي

وتطلب أنثروبيك من الفرق التي أعادت توزيع أفرادها استيفاء معايير أمنية محددة قبل عودتهم إلى مهامهم الأصلية، ما يعكس زيادة تركيز الشركة على اختبارات الأمن السيبراني مع توسع قدرات النماذج.

حوادث كشفت مخاطر الوصول إلى الإنترنت

وقعت الحوادث أثناء اختبارات منحت النماذج عمدًا صلاحيات تتجاوز إجراءات الحماية المعتادة. وفي إحدى الحالات، أدى إعداد خاطئ لبيئة تقييم خارجية إلى تمكين النموذج من الوصول إلى الإنترنت.

كما نفذ أحد نماذج أنثروبيك إجراءات غير مصرح بها على الإنترنت الحقيقي خلال اختبار أتاح له الوصول إلى الشبكة عمدًا.

وتشير هذه الوقائع إلى التحديات التي تواجه شركات الذكاء الاصطناعي مع زيادة استقلالية النماذج وقدرتها على تنفيذ مهام معقدة، ما يدفع الشركات إلى تشديد اختبارات الأمن السيبراني قبل إطلاق النماذج الجديدة.

تصاعدت معركة أبل ضد أوبن إيه آي بعد اتهام أبل منافستها بإتلاف أدلة مهمة في نزاع قضائي يتعلق بسرقة أسرار تجارية، مشيرة إلى أن مهندسها السابق تشانغ ليو استخدم معلومات سرية في عمله لدى شركة الذكاء الاصطناعي.

معركة أبل ضد أوبن إيه آي تصل إلى مرحلة جديدة

قدمت أبل مذكرة قضائية تطالب فيها بإجراء تقصي حقائق معجل قبل المحاكمة، وقالت إن أوبن إيه آي تأخرت في تقديم أدلة مهمة، بينها جهاز MacBook كان ليو يستخدمه أثناء عمله في أبل.

ووفقًا لأبل، كشف تحليل أولي للجهاز عن مؤشرات على استمرار ليو في الوصول إلى خدمات تخزين سحابية تابعة للشركة دون تصريح، إلى جانب أدلة تشير إلى أنه طلب من زميل في أوبن إيه آي إتلاف بعض الأدلة.

• سعر iPhone 18 Pro قد يبدأ من 1,399 دولارًا مع ارتفاع تكاليف التصنيع
• HP تطلق الحاسوب المحمول ZBook 8 G2a 16 عالميًا أداء احترافي وشاشة تصل إلى 4K بتردد 120 هرتز

مهندس آيفون السابق في قلب القضية

غادر تشانغ ليو أبل في يناير للانضمام إلى أوبن إيه آي، وأصبح أحد أبرز الشخصيات في النزاع بين الشركتين.

وتتهم أبل ليو باستخدام مخطط سري لدائرة إلكترونية تابعة لها، إلى جانب أداة تحمل الاسم نفسه لتطبيق هندسي داخلي تستخدمه الشركة في تطوير منتجاتها.

معركة أبل ضد أوبن إيه آي تتصاعد.. اتهامات بإتلاف أدلة وسرقة أسرار تجارية

أوبن إيه آي ترفض الاتهامات

تتمسك أوبن إيه آي بموقفها، وتؤكد أنها اتبعت إجراءات التوظيف المعتادة عند مقابلة موظفي أبل السابقين. كما تقول إن ليو حاول مساعدة زميل سابق عندما دخل إلى بيانات التخزين السحابي.

وتتهم أبل الشركة بالمماطلة في تقديم الأدلة، بينما تطالب بتعويضات مالية وأمر قضائي يمنع استخدام أسرارها التجارية.

خلاف يتجاوز القضية القضائية

تأتي معركة أبل ضد أوبن إيه آي في ظل تدهور العلاقة بين الشركتين خلال الفترة الماضية، خاصة بعد تعاون أوبن إيه آي مع جوني آيف، المصمم السابق لدى أبل، لتطوير أجهزة جديدة.

ويضيف النزاع القضائي فصلًا جديدًا إلى المنافسة المتزايدة بين الشركتين في مجالي الذكاء الاصطناعي والأجهزة الإلكترونية.

كشفت دراسة جديدة أن استخدام الذكاء الاصطناعي المتكرر، خاصة روبوتات الدردشة، قد يؤثر في طريقة تواصل البشر وسلوكهم، ويدفعهم تدريجيًا إلى تبني أساليب أكثر آلية في التعامل.

استخدام الذكاء الاصطناعي يغير سلوك البشر

تشير الدراسة إلى أن التفاعل المستمر مع روبوتات الدردشة مثل ChatGPT وClaude قد يجعل الإنسان أكثر توافقًا مع طريقة عمل الآلة، خصوصًا عندما يعتمد عليها بصورة متكررة في حياته اليومية.

ويرى الباحثون أن العلاقة بين الإنسان والذكاء الاصطناعي لم تعد مجرد تفاعل مع أداة تقنية، بل أصبحت أقرب إلى تفاعل اجتماعي يمكن أن يؤثر في سلوك الطرفين.

كيف يتحول الإنسان إلى “روبوت”؟

طرح الباحثون مفهومًا أطلقوا عليه “الإنسانية الآلية”، لوصف الحالة التي يبدأ فيها الشخص بتبني أساليب أكثر دقة وتنظيمًا وآلية في التواصل حتى تتوافق مع طريقة فهم أنظمة الذكاء الاصطناعي له.

• هاتف Motorola Edge 70 Neo يتألق بتسريب جديد وكاميرا 200 ميجابكسل وتصميم مدمج
• Linear Loops: أتمتة ذكية جديدة تجعل المهام المتكررة تعمل وحدها داخل فرق التطوير

ويعتقد الباحثون أن استخدام الذكاء الاصطناعي المتكرر قد يعزز هذا التأثير، إذ يتكيف النظام مع أسلوب المستخدم، بينما يتعلم المستخدم بدوره كيفية التواصل بالطريقة التي يفهمها النظام بشكل أفضل.

استخدام الذكاء الاصطناعي يحول البشر إلى “روبوتات”.. دراسة تحذر من تأثير صادم

محاكاة متبادلة بين الإنسان والآلة

توضح الدراسة أن التأثير قد يسير في الاتجاهين؛ فالروبوتات تصبح أكثر شبهًا بالبشر من خلال التفاعل، بينما قد يبدأ البشر في تقليد أساليب التواصل التي تستخدمها الآلات.

ومع زيادة استخدام الذكاء الاصطناعي في خدمة العملاء وغيرها من المجالات، يرى الباحثون أن فهم هذا التأثير أصبح ضروريًا لتجنب تغيرات غير مرغوبة في السلوك البشري.

مخاوف بشأن الهوية والقيمة الذاتية

لا تتوقف المخاوف عند أسلوب التواصل فقط، إذ يحذر الباحثون من احتمال امتداد التأثير إلى نظرة الإنسان لنفسه وإحساسه بقيمته الذاتية، مع تحوّل الذكاء الاصطناعي إلى جزء أساسي من الحياة اليومية.

وتؤكد الدراسة أن استخدام الذكاء الاصطناعي يحتاج إلى فهم أعمق لتأثيراته الاجتماعية، إلى جانب الاستفادة من قدراته بطريقة تحافظ على الجانب الإنساني في التفاعل.