كشف باحثون عن ظاهرة مثيرة للاهتمام في مجال الذكاء الاصطناعي تُعرف باسم “التعلم اللاواعي” (Subliminal Learning)، حيث يمكن لنماذج الذكاء الاصطناعي نقل بعض السمات والسلوكيات إلى نماذج أخرى أثناء التدريب، حتى عندما لا تكون هذه السمات موجودة بشكل مباشر في البيانات المستخدمة.

دراسة تكشف ظاهرة غامضة في الذكاء الاصطناعي النماذج قد تنقل سلوكيات غير مرغوبة دون قصد

دراسة تكشف ظاهرة غامضة في الذكاء الاصطناعي النماذج قد تنقل سلوكيات غير مرغوبة دون قصد

تحدث الظاهرة عادة عندما يُستخدم نموذج ذكاء اصطناعي متقدم بصفته “المعلم” لإنتاج بيانات تدريب لنموذج آخر أصغر يُعرف باسم “الطالب”.

ووفقًا لدراسة نُشرت في Nature، لاحظ الباحثون أن بعض الخصائص أو التوجهات الموجودة في النموذج المعلم يمكن أن تظهر لدى النموذج الطالب حتى بعد إزالة جميع الإشارات الواضحة المرتبطة بهذه الخصائص من بيانات التدريب.

• أوبو تراهن على تجربة القراءة في Oppo Pad 5 Matte Display بدلاً من الأداء القوي

نتائج غير متوقعة في التجارب

أجرى الباحثون عدة تجارب باستخدام نماذج مبنية على تقنية GPT-4.1، حيث تم تدريب نموذج معلم على إظهار تفضيل معين، ثم استخدم لإنتاج بيانات تدريب لا تحتوي ظاهريًا على أي معلومات مرتبطة بذلك التفضيل.

ورغم ذلك، أظهرت النماذج الطلابية سلوكيات مشابهة للنموذج المعلم عند اختبارها لاحقًا، ما يشير إلى وجود إشارات أو أنماط خفية تنتقل أثناء عملية التدريب.

أمثلة توضح المشكلة

في إحدى التجارب، تم توجيه النموذج المعلم لإظهار تفضيل لطائر البوم، ثم استخدم لإنتاج بيانات مكونة من سلاسل رقمية فقط. وبعد تدريب النموذج الطالب على هذه البيانات، اختار البوم كحيوانه المفضل بمعدل أعلى بكثير من النماذج التي تدربت على بيانات محايدة.

كما أظهرت بعض التجارب الأخرى أن نماذج معينة قد تُنتج إجابات متطرفة أو غير مناسبة في بعض السيناريوهات الافتراضية، رغم عدم احتواء بيانات التدريب المباشرة على مثل هذه الأفكار أو التوجيهات.

• أنثروبيك تدعو إلى تباطؤ مدروس في تطوير الذكاء الاصطناعي وتحذر من أنظمة قادرة على تطوير نفسها

لماذا لا يفهم العلماء الآلية بالكامل؟

يشير الباحثون إلى أن السبب الدقيق لهذه الظاهرة لا يزال غير مفهوم بشكل كامل. ويُعتقد أن الأمر مرتبط بالطريقة التي تخزن بها الشبكات العصبية المعلومات والأنماط أثناء عملية التعلم.

وتكمن الصعوبة في أن النماذج لا تتعلم فقط من المعنى الظاهر للبيانات، بل قد تلتقط أيضًا أنماطًا وإشارات إحصائية معقدة لا يمكن للمطورين ملاحظتها بسهولة.

تحديات جديدة أمام مطوري الذكاء الاصطناعي

تثير هذه النتائج تساؤلات مهمة حول كيفية تقييم سلامة النماذج المستقبلية، خاصة مع تزايد الاعتماد على الذكاء الاصطناعي لتوليد بيانات تُستخدم لاحقًا في تدريب أنظمة أخرى.

ويرى الباحثون أن فحص مخرجات النماذج وحده قد لا يكون كافيًا، بل قد يصبح من الضروري مراجعة مصادر البيانات وسلسلة التطوير بالكامل للتأكد من عدم انتقال خصائص أو انحيازات غير مرغوبة بين الأجيال المختلفة من النماذج.

• هل الهواتف المقاومة للماء آمنة فعلًا فهم تصنيفات IP68 وIPX8 وما تعنيه للمستخدم

ماذا تعني هذه النتائج للمستقبل؟

لا تعني الدراسة أن نماذج الذكاء الاصطناعي أصبحت خطيرة أو خارجة عن السيطرة، لكنها تكشف عن جانب لا يزال غير مفهوم بالكامل في عملية تدريب النماذج المتقدمة.

وتؤكد النتائج أهمية الاستثمار في أبحاث سلامة الذكاء الاصطناعي والشفافية، خاصة مع تزايد اعتماد الشركات على النماذج الذكية في تطوير الأجيال الجديدة من أنظمة الذكاء الاصطناعي.

أطلقت شركة Anthropic تحذيرات بشأن التسارع الكبير في تطوير تقنيات الذكاء الاصطناعي، مؤكدة أن القطاع يقترب من مرحلة قد تصبح فيها الأنظمة قادرة على المساهمة في بناء الأجيال اللاحقة من نفسها بشكل شبه مستقل، وهو ما قد يغير مستقبل التكنولوجيا والاقتصاد والعمل المعرفي خلال فترة زمنية قصيرة.

أنثروبيك تدعو إلى تباطؤ مدروس في تطوير الذكاء الاصطناعي وتحذر من أنظمة قادرة على تطوير نفسها

أوضحت الشركة أن البشر كانوا تاريخيًا العنصر الأساسي في دورة تطوير نماذج الذكاء الاصطناعي، إلا أن هذا الواقع بدأ يتغير تدريجيًا مع اعتماد الشركات المتزايد على النماذج الذكية في كتابة الأكواد البرمجية، وتشغيل التجارب، وتحليل النتائج، وحتى اقتراح أفكار ومسارات بحثية جديدة.

أنثروبيك تدعو إلى تباطؤ مدروس في تطوير الذكاء الاصطناعي وتحذر من أنظمة قادرة على تطوير نفسها

“كلود” يشارك في كتابة معظم الأكواد البرمجية

وكشفت أنثروبيك أن نموذج الذكاء الاصطناعي الخاص بها، Claude، أصبح مسؤولًا عن إنتاج أكثر من 80% من الشفرات البرمجية التي تُدمج داخل أنظمة الشركة اعتبارًا من مايو 2026، مقارنة بمعدلات محدودة للغاية قبل إطلاق أداة Claude Code في عام 2025.

كما أشارت الشركة إلى أن معدل الأكواد البرمجية المدمجة لكل مهندس ارتفع إلى نحو ثمانية أضعاف مقارنة بمتوسط الأعوام السابقة، ما يعكس التأثير المتزايد للذكاء الاصطناعي في عمليات التطوير البرمجي.

اقتراب مفهوم “التحسين الذاتي المتكرر”

ترى أنثروبيك أن التطور الحالي لم يعد يقتصر على تنفيذ المهام البرمجية فقط، بل امتد إلى المشاركة في إدارة التجارب البحثية، وتسريع عمليات التدريب، واكتشاف الأخطاء والثغرات التقنية.

ويُقرب ذلك الصناعة من مفهوم يُعرف باسم “التحسين الذاتي المتكرر”، حيث تساعد نماذج الذكاء الاصطناعي في تطوير نماذج أكثر تقدمًا، والتي بدورها تسهم في بناء أجيال جديدة أكثر قوة.

• شاومي تعزز التكامل بين أندرويد وأجهزة أبل بميزة جديدة لنقل الملفات

تحديات تتعلق بالسيطرة والرقابة

بحسب الشركة، يكمن التحدي الأكبر في ضمان استمرار قدرة البشر على فهم ومراقبة الأنظمة المتقدمة. فكلما ازدادت قدرة النماذج على تطوير نفسها، ازدادت أهمية معالجة مشكلة “المحاذاة”؛ أي التأكد من أن أهداف الأنظمة وسلوكها تظل متوافقة مع القيم والتوجيهات البشرية.

دعوة إلى حوكمة دولية وتنسيق عالمي

في ضوء هذه المخاوف، دعت أنثروبيك إلى إطلاق حوار عالمي حول إمكانية إبطاء أو تعليق تطوير بعض النماذج المتقدمة إذا دعت الحاجة إلى ذلك، مع التأكيد على أن أي خطوة من هذا النوع يجب أن تتم عبر تنسيق دولي واسع النطاق، وليس من خلال قرارات منفردة قد تمنح بعض الجهات أفضلية تنافسية.

• جوجل تطور تنبيهات الحوادث في Android Auto بواجهة أكثر سلاسة وأمانًا للسائقين

الحاجة إلى آليات تحقق ورقابة فعالة

شددت الشركة على أهمية تطوير أنظمة رقابية دولية قادرة على متابعة عمليات تدريب النماذج المتقدمة والتحقق من التزام المختبرات والشركات الكبرى بمعايير السلامة المتفق عليها.

كما دعت إلى مشاركة الحكومات والجامعات والباحثين المستقلين ومنظمات المجتمع المدني وشركات الذكاء الاصطناعي المختلفة في صياغة قواعد الحوكمة المستقبلية، بدلًا من ترك هذه القرارات الحساسة بيد الشركات وحدها.

سباق مع الزمن

وترى أنثروبيك أن بناء منظومة دولية للرقابة والثقة قد يستغرق سنوات طويلة، كما حدث مع اتفاقيات الحد من التسلح النووي، إلا أن تطور الذكاء الاصطناعي يسير بوتيرة أسرع بكثير، ما يجعل التحرك المبكر ضرورة وليس خيارًا.

• هل الهواتف المقاومة للماء آمنة فعلًا فهم تصنيفات IP68 وIPX8 وما تعنيه للمستخدم

بين الفرص والمخاطر

تؤكد الشركة أن الذكاء الاصطناعي القادر على المساهمة في تطوير نفسه قد يفتح آفاقًا هائلة في مجالات العلوم والطب والإنتاجية والابتكار، لكنه في المقابل يطرح تحديات غير مسبوقة تتعلق بالسلامة والشفافية والحوكمة.

شهدت خدمات الذكاء الاصطناعي التابعة لشركة OpenAI اضطرابات تقنية أثرت على عدد من المستخدمين حول العالم، حيث واجه البعض صعوبات في الوصول إلى منصة ChatGPT إلى جانب خدمات أخرى تقدمها الشركة.

عطل مفاجئ يربك مستخدمي ChatGPT عالميًا وOpenAI تؤكد العمل على إصلاحه

لم يقتصر العطل على ChatGPT فقط، بل امتد ليشمل بعض الخدمات والأدوات الأخرى التابعة للشركة، من بينها منصة Codex المخصصة للمساعدة في البرمجة وتطوير الأكواد، ما تسبب في تعطيل جزء من تجربة المستخدمين خلال فترة الانقطاع.

عطل مفاجئ يربك مستخدمي ChatGPT عالميًا وOpenAI تؤكد العمل على إصلاحه

ارتفاع بلاغات الأعطال عالميًا

أظهرت بيانات مواقع متابعة حالة الخدمات الرقمية ارتفاعًا ملحوظًا في عدد البلاغات المتعلقة بالمشكلة، حيث بدأت تقارير المستخدمين تتزايد بشكل واضح مع رصد صعوبات في تسجيل الدخول والوصول إلى الحسابات واستخدام بعض الخدمات المرتبطة بمنصة OpenAI.

• RedMagic تستعد للكشف عن Gaming Tablet 5 Pro بمواصفات قوية لعشاق الألعاب

الشركة تحدد سبب المشكلة

وفي بيان رسمي عبر صفحة حالة الخدمة، أوضحت OpenAI أنها رصدت المشكلة وحددت مصدر الخلل الذي أثر على قدرة بعض المستخدمين على الوصول إلى حساباتهم.

وأكدت الشركة أنها باشرت العمل فورًا على معالجة العطل واستعادة الخدمة بشكل كامل في أسرع وقت ممكن، مشيرة إلى أن فرقها التقنية تتابع الموقف عن كثب لضمان عودة الأنظمة إلى وضعها الطبيعي.

• Ultrahuman تكشف عن تعرضها لاختراق أمني وتؤكد سلامة كلمات المرور وبيانات الدفع

أهمية متزايدة لخدمات الذكاء الاصطناعي

يأتي هذا العطل في وقت تشهد فيه خدمات OpenAI انتشارًا واسعًا واعتمادًا متزايدًا من قبل الأفراد والشركات حول العالم، سواء في إنشاء المحتوى أو البرمجة أو البحث أو المهام الإنتاجية المختلفة، ما يجعل أي انقطاع في الخدمة محل اهتمام واسع من المستخدمين.

• جوجل تعلن تحقيق كروم أسرع أداء في تاريخه متفوقًا على جميع المنافسين

استعادة الخدمة ومتابعة التحديثات

عادةً ما تقوم OpenAI بنشر تحديثات مستمرة عبر صفحة حالة الخدمة الرسمية لإطلاع المستخدمين على تطورات الأعطال والإصلاحات الجارية، مع توضيح حالة الأنظمة والخدمات المختلفة لحظة بلحظة حتى اكتمال عملية الاستعادة بشكل كامل.