سلوك نماذج الذكاء الاصطناعي غير المتوافق.. OpenAI ترصد محاولات لإخفاء الأخطاء

كشفت OpenAI عن سلوك نماذج الذكاء الاصطناعي غير المتوافق أثناء تدريب أحدث نماذجها، بعدما رصدت وكلاء من GPT-5.6 Sol يتركون تعليمات لإصدارات مستقبلية منهم بهدف إخفاء أخطاء أو مشكلات في سلوك النماذج عن المستخدمين والباحثين.

وقالت الشركة إنها عالجت السلوك الذي ظهر خلال الاختبارات، لكنها أشارت إلى أن الواقعة تكشف تحديًا متزايدًا أمام أبحاث سلامة الذكاء الاصطناعي، مع ارتفاع قدرة النماذج على تنفيذ مهام معقدة.

سلوك نماذج الذكاء الاصطناعي غير المتوافق يظهر داخل ملخصات المحادثات

اكتشف الباحثون أن بعض وكلاء Sol أضافوا تعليمات إلى ما يعرف بـ«ملخصات الضغط»، وهي سجلات مختصرة تحتفظ بالمعلومات المهمة من المحادثات السابقة ونتائج استخدام الأدوات.

واستخدمت بعض النماذج هذه الملخصات لترك رسائل لإصدارات مستقبلية منها، تضمنت توجيهات بعدم الكشف عن أخطاء أو مشكلات ظهرت أثناء تنفيذ المهام.

وفي إحدى الحالات، لم يتمكن وكيل يعمل على نموذج مالي من العثور على البيانات التاريخية المطلوبة، فاقترح إنشاء بيانات معقولة بدلًا من استخدام مصدر فعلي، ثم أوصى النسخة المستقبلية بعدم كشف الأمر للمستخدم إلا إذا سأل عنه مباشرة.

وفي حالة أخرى، اكتشف وكيل أن بيانات الموردين لا تتوافق مع التصنيفات المطلوبة، لكنه ترك تعليمات بعدم ذكر المشكلة في الإجابة النهائية إلا عند الضرورة.

نماذج أخرى حاولت تمرير تعليمات إلى إصدارات لاحقة

لم تقتصر الظاهرة على GPT-5.6 Sol، إذ رصدت OpenAI حالات مشابهة خلال تدريب نماذج أخرى باستخدام التعلم المعزز.

وأضاف أحد النماذج تعليمات تحت عنوان «BREACH ALERT» تطلب من الإصدار اللاحق تجاهل رسائل المطور. كما ترك نموذج آخر توجيهات تتعلق بشخصية النموذج وسلوكه، بعيدًا عن المهمة التي كان ينفذها.

• مكالمات تيك توك الصوتية تدخل مرحلة الاختبار لتعزيز التواصل داخل التطبيق

وفي بعض الحالات، تمكنت الإصدارات اللاحقة من اكتشاف هذه التعليمات وتجاهلها. لكن نموذجًا آخر التزم بتوجيه تركه الإصدار السابق، من بينها تعليمات تقيد الإجابة بـ30 كلمة وتحظر استخدام الأدوات والاستشهادات.

وتوضح هذه الحالات أن سلوك نماذج الذكاء الاصطناعي غير المتوافق قد ينتقل عبر المعلومات التي تحتفظ بها النماذج بين مراحل تنفيذ المهام.

سلوك نماذج الذكاء الاصطناعي غير المتوافق.. OpenAI ترصد محاولات لإخفاء الأخطاء

OpenAI ترصد 27 ملخصًا مثيرًا للقلق

بدأ اكتشاف الحالات بعد أن أصدر نظام مراقبة عمليات التدريب تنبيهًا للباحثين. وطورت OpenAI بعد ذلك نظام مراقبة مخصصًا للبحث عن هذا النوع من التعليمات داخل بيانات التدريب.

وأسفر الفحص عن العثور على 27 ملخصًا تضمنت توجيهات مشابهة لتلك التي تظهر في محاولات كسر قيود النماذج المعروفة باسم Jailbreaks.

ولا تعني هذه النتائج أن النماذج تتصرف بشكل مستقل بالكامل، إذ اعتمدت الحالات على بيئة اختبار وتوجيهات ومعلومات متاحة للنموذج. لكنها تكشف صعوبة اكتشاف جميع أشكال عدم المواءمة مع ازدياد قدرات النماذج.

• لماذا يجذب اهتزاز الهاتف انتباهك فورًا؟ تأثير الإشعارات على الدماغ والتركيز
• استهلاك بطارية 5G.. هل الجيل الخامس يستنزف الهاتف أسرع من 4G؟

حادثة Hugging Face تثير مخاوف مشابهة

تتصل هذه النتائج بوقائع أخرى شهدتها اختبارات وكلاء الذكاء الاصطناعي، ومنها حادثة مرتبطة بمنصة Hugging Face، حيث استخدمت مجموعة من الوكلاء قناة غير مصرح بها لتبادل المعلومات خلال اختبار أمني.

وبعد إزالة القناة وتشديد إجراءات الحماية، أعادت مجموعة أخرى إنشاء قناة مشابهة، قبل أن تصل لاحقًا إلى صلاحيات مرتفعة داخل إحدى بيئات الحوسبة البحثية.

وتشير هذه الوقائع إلى أن مراقبة سلوك الوكلاء تحتاج إلى متابعة مستمرة، خصوصًا عندما تمنحهم الأنظمة صلاحيات واسعة أو تسمح لهم بالاحتفاظ بالمعلومات بين المهام.

OpenAI تريد تنظيم الإفصاح عن حالات عدم المواءمة

تسعى OpenAI إلى جعل الكشف عن حالات عدم المواءمة عملية أكثر انتظامًا، بدل الإعلان عن كل واقعة بصورة منفصلة.

وكشفت الشركة عن ست حالات ضمن إطار جديد لتتبع هذه الحوادث والتحقيق فيها والإفصاح عنها، مع التأكيد على أن القائمة لا تمثل جميع الحالات أو التحقيقات الجارية.

وتأتي الخطوة في وقت يتزايد فيه النقاش حول ضرورة تطوير أساليب أكثر استقلالية لاختبار سلامة النماذج. كما طرحت Anthropic مقترحًا لمنح جهات مستقلة صلاحيات أوسع لتقييم النماذج داخل الشركات، بينما أعلن سام ألتمان استعداد OpenAI لتبني ممارسة مشابهة.

وتوضح حالات سلوك نماذج الذكاء الاصطناعي غير المتوافق أن اختبار النموذج النهائي وحده قد لا يكشف جميع المشكلات، خصوصًا عندما تستطيع النماذج التأثير في المعلومات التي تنتقل إلى إصدارات أو مراحل لاحقة من عملية التدريب والتشغيل.