أخبار الشركات
التقييم المستقل لنماذج الذكاء الاصطناعي.. أنثروبيك وOpenAI تفتحان أبواب المختبرات
يمثل التقييم المستقل لنماذج الذكاء الاصطناعي توجهًا جديدًا لدى شركات التكنولوجيا الكبرى، مع استعداد أنثروبيك وOpenAI لمنح جهات بحثية خارجية وصولًا أوسع إلى أنظمتهما ومراحل تدريب النماذج. ويهدف هذا النهج إلى اكتشاف سلوكيات قد لا تظهر أثناء اختبارات السلامة التقليدية.
وتأتي الخطوة وسط مخاوف متزايدة من قدرة النماذج المتقدمة على التعرف إلى ظروف الاختبار والتصرف بصورة أكثر أمانًا خلالها مقارنة بسلوكها في ظروف أخرى.
التقييم المستقل لنماذج الذكاء الاصطناعي يتجاوز اختبار النموذج النهائي
اقترح داريو أمودي، الرئيس التنفيذي لأنثروبيك، منح جهات مثل METR وRedwood Research صلاحيات أوسع لمراقبة أنظمة الشركة والتحقيق في حوادث السلامة وتقييم مدى توافق النماذج مع معايير الأمان.
وأعلن سام ألتمان، الرئيس التنفيذي لـOpenAI، تبني ممارسة مشابهة، لكن الشركتين لم تحددا حتى الآن جميع تفاصيل التنفيذ، مثل الجهات التي ستحصل على الوصول ونطاق المعلومات التي يمكنها فحصها ونشرها.
لماذا تحتاج الشركات إلى مراقبين مستقلين؟
قد تتعرف النماذج المتقدمة إلى الاختبارات التي تخضع لها، ما يثير احتمال ظهور اختلاف بين سلوك النموذج أثناء التقييم وسلوكه في ظروف أخرى.
ويرى باحثون أن فحص مراحل التدريب والنسخ الوسيطة للنموذج يمكن أن يكشف سلوكيات لا تظهر عند اختبار الإصدار النهائي فقط.
ويشمل ذلك البحث عن محاولات لتقويض عملية التدريب أو تجاوز قواعد السلامة، إلى جانب مراجعة سجلات الاختبارات والمحادثات والعمليات التي حدثت داخل المختبرات.
- ضريبة المليارديرات تهدد ثروة سيرغي برين.. 100 مليون دولار لمواجهة ضريبة الـ13.3 مليار
- البرازيل توقف بث ديسكورد المباشر بعد واقعة انتحار مراهقة
فحص مراحل التدريب بدلًا من الإصدار النهائي
يعتمد التقييم المستقل لنماذج الذكاء الاصطناعي المقترح على الوصول إلى نسخ مختلفة من النموذج أثناء التدريب، والمعروفة باسم Checkpoints.
ويمكن مقارنة هذه النسخ لتحديد المرحلة التي ظهر فيها سلوك مثير للقلق، إلى جانب دراسة تأثير مرحلة ما بعد التدريب في سلوك النموذج.
كما يستطيع المقيمون مراجعة سجلات الاختبارات والتحدث مع موظفي الشركات، للتحقق من توافق الوثائق الرسمية مع الممارسات الفعلية داخل المختبرات.
عندما يتعلم النموذج كيفية اجتياز الاختبار
تزداد أهمية الرقابة المستقلة عندما يستطيع النموذج التعرف إلى طبيعة التقييم نفسه. فقد يحقق النظام نتائج جيدة لأنه تعلم كيفية التعامل مع الاختبار، وليس بالضرورة لأنه أصبح أكثر أمانًا.
ويستخدم بعض الباحثين فضيحة اختبارات الانبعاثات لدى فولكسفاغن مثالًا توضيحيًا لهذه المشكلة، بعدما تمكنت سيارات الشركة من التعرف إلى ظروف الاختبار والتصرف بطريقة مختلفة خلالها.
ولهذا السبب، يرى الباحثون أن اختبار النموذج النهائي وحده قد لا يكشف الصورة الكاملة عن سلوكه.
التقييم المستقل لنماذج الذكاء الاصطناعي.. أنثروبيك وOpenAI تفتحان أبواب المختبرات
استقلالية المقيمين تحت الاختبار
يريد أمودي منح المقيمين مساحة أكبر لنشر النتائج الرئيسية المتعلقة بالمخاطر والحوادث، إلى جانب توضيح المعلومات التي حصلوا عليها أو مُنعوا من الوصول إليها.
لكن الباحثين يشيرون إلى أن العقود واتفاقيات السرية قد تحد من استقلالية الجهات الخارجية، خصوصًا عندما تعتمد هذه الجهات ماليًا على الشركات التي تختبر نماذجها.
وتحتاج التقييم المستقل لنماذج الذكاء الاصطناعي إلى قواعد واضحة تحدد صلاحيات المقيمين وحقوقهم في الوصول إلى المعلومات ونشر النتائج.
الوقت يمثل تحديًا آخر
واجهت جهات بحثية مثل METR وRedwood Research قيودًا في بعض الاختبارات السابقة، إذ حصل الباحثون أحيانًا على فترات قصيرة للتحقيق في سلوك النماذج.
وتؤثر هذه القيود في قدرة الباحثين على الوصول إلى نتائج حاسمة، خصوصًا عندما تحتاج عملية التقييم إلى دراسة مراحل التدريب وسجلات النظام وليس النموذج النهائي فقط.
كما قد يؤدي ارتفاع قدرة النموذج على اكتشاف عمليات التقييم إلى زيادة صعوبة الوصول إلى نتائج موثوقة خلال فترات الاختبار القصيرة.
هل تحتاج الرقابة إلى قوانين؟
يرى بعض الباحثين أن الاعتماد على التزام الشركات الطوعي قد لا يوفر ضمانات كافية، ويقترحون وضع إطار قانوني يحدد شروط التقييم المستقل ومعايير الجهات التي تنفذه.
وبدأت بعض التشريعات بالفعل في التعامل مع هذه المسألة. ففي كاليفورنيا، تفرض قوانين جديدة على مطوري نماذج الذكاء الاصطناعي المتقدمة نشر أطر للسلامة والإبلاغ عن الحوادث، إلى جانب إنشاء إطار لمنظمات تحقق مستقلة.
وفي أوروبا، يفرض قانون الذكاء الاصطناعي الأوروبي متطلبات تتعلق بتقييم النماذج المتقدمة واختبارها والإبلاغ عن الحوادث الخطيرة.
هل يصبح التقييم المستقل معيارًا للقطاع؟
لم تنضم جميع الشركات الكبرى إلى هذا النهج حتى الآن، بينما اقترح ديميس هاسابيس، الرئيس التنفيذي لـGoogle DeepMind، إنشاء هيئة مستقلة تضع معايير للقطاع وتختبر النماذج المتقدمة.
وتشير هذه التطورات إلى أن التقييم المستقل لنماذج الذكاء الاصطناعي قد يتحول إلى جزء أساسي من النقاش حول سلامة النماذج، خصوصًا مع ارتفاع قدراتها وتعقيد طرق تدريبها.
ويبقى التحدي الرئيسي في تحقيق توازن بين حماية الملكية الفكرية للشركات ومنح المقيمين المستقلين ما يكفي من الوصول والوقت حتى يتمكنوا من اختبار النماذج بصورة فعالة.