كشف باحثون عن ظاهرة مثيرة للاهتمام في مجال الذكاء الاصطناعي تُعرف باسم “التعلم اللاواعي” (Subliminal Learning)، حيث يمكن لنماذج الذكاء الاصطناعي نقل بعض السمات والسلوكيات إلى نماذج أخرى أثناء التدريب، حتى عندما لا تكون هذه السمات موجودة بشكل مباشر في البيانات المستخدمة.

دراسة تكشف ظاهرة غامضة في الذكاء الاصطناعي النماذج قد تنقل سلوكيات غير مرغوبة دون قصد

دراسة تكشف ظاهرة غامضة في الذكاء الاصطناعي النماذج قد تنقل سلوكيات غير مرغوبة دون قصد

تحدث الظاهرة عادة عندما يُستخدم نموذج ذكاء اصطناعي متقدم بصفته “المعلم” لإنتاج بيانات تدريب لنموذج آخر أصغر يُعرف باسم “الطالب”.

ووفقًا لدراسة نُشرت في Nature، لاحظ الباحثون أن بعض الخصائص أو التوجهات الموجودة في النموذج المعلم يمكن أن تظهر لدى النموذج الطالب حتى بعد إزالة جميع الإشارات الواضحة المرتبطة بهذه الخصائص من بيانات التدريب.

• أوبو تراهن على تجربة القراءة في Oppo Pad 5 Matte Display بدلاً من الأداء القوي

نتائج غير متوقعة في التجارب

أجرى الباحثون عدة تجارب باستخدام نماذج مبنية على تقنية GPT-4.1، حيث تم تدريب نموذج معلم على إظهار تفضيل معين، ثم استخدم لإنتاج بيانات تدريب لا تحتوي ظاهريًا على أي معلومات مرتبطة بذلك التفضيل.

ورغم ذلك، أظهرت النماذج الطلابية سلوكيات مشابهة للنموذج المعلم عند اختبارها لاحقًا، ما يشير إلى وجود إشارات أو أنماط خفية تنتقل أثناء عملية التدريب.

أمثلة توضح المشكلة

في إحدى التجارب، تم توجيه النموذج المعلم لإظهار تفضيل لطائر البوم، ثم استخدم لإنتاج بيانات مكونة من سلاسل رقمية فقط. وبعد تدريب النموذج الطالب على هذه البيانات، اختار البوم كحيوانه المفضل بمعدل أعلى بكثير من النماذج التي تدربت على بيانات محايدة.

كما أظهرت بعض التجارب الأخرى أن نماذج معينة قد تُنتج إجابات متطرفة أو غير مناسبة في بعض السيناريوهات الافتراضية، رغم عدم احتواء بيانات التدريب المباشرة على مثل هذه الأفكار أو التوجيهات.

• أنثروبيك تدعو إلى تباطؤ مدروس في تطوير الذكاء الاصطناعي وتحذر من أنظمة قادرة على تطوير نفسها

لماذا لا يفهم العلماء الآلية بالكامل؟

يشير الباحثون إلى أن السبب الدقيق لهذه الظاهرة لا يزال غير مفهوم بشكل كامل. ويُعتقد أن الأمر مرتبط بالطريقة التي تخزن بها الشبكات العصبية المعلومات والأنماط أثناء عملية التعلم.

وتكمن الصعوبة في أن النماذج لا تتعلم فقط من المعنى الظاهر للبيانات، بل قد تلتقط أيضًا أنماطًا وإشارات إحصائية معقدة لا يمكن للمطورين ملاحظتها بسهولة.

تحديات جديدة أمام مطوري الذكاء الاصطناعي

تثير هذه النتائج تساؤلات مهمة حول كيفية تقييم سلامة النماذج المستقبلية، خاصة مع تزايد الاعتماد على الذكاء الاصطناعي لتوليد بيانات تُستخدم لاحقًا في تدريب أنظمة أخرى.

ويرى الباحثون أن فحص مخرجات النماذج وحده قد لا يكون كافيًا، بل قد يصبح من الضروري مراجعة مصادر البيانات وسلسلة التطوير بالكامل للتأكد من عدم انتقال خصائص أو انحيازات غير مرغوبة بين الأجيال المختلفة من النماذج.

• هل الهواتف المقاومة للماء آمنة فعلًا فهم تصنيفات IP68 وIPX8 وما تعنيه للمستخدم

ماذا تعني هذه النتائج للمستقبل؟

لا تعني الدراسة أن نماذج الذكاء الاصطناعي أصبحت خطيرة أو خارجة عن السيطرة، لكنها تكشف عن جانب لا يزال غير مفهوم بالكامل في عملية تدريب النماذج المتقدمة.

وتؤكد النتائج أهمية الاستثمار في أبحاث سلامة الذكاء الاصطناعي والشفافية، خاصة مع تزايد اعتماد الشركات على النماذج الذكية في تطوير الأجيال الجديدة من أنظمة الذكاء الاصطناعي.

شهدت خدمات الذكاء الاصطناعي التابعة لشركة OpenAI اضطرابات تقنية أثرت على عدد من المستخدمين حول العالم، حيث واجه البعض صعوبات في الوصول إلى منصة ChatGPT إلى جانب خدمات أخرى تقدمها الشركة.

عطل مفاجئ يربك مستخدمي ChatGPT عالميًا وOpenAI تؤكد العمل على إصلاحه

لم يقتصر العطل على ChatGPT فقط، بل امتد ليشمل بعض الخدمات والأدوات الأخرى التابعة للشركة، من بينها منصة Codex المخصصة للمساعدة في البرمجة وتطوير الأكواد، ما تسبب في تعطيل جزء من تجربة المستخدمين خلال فترة الانقطاع.

عطل مفاجئ يربك مستخدمي ChatGPT عالميًا وOpenAI تؤكد العمل على إصلاحه

ارتفاع بلاغات الأعطال عالميًا

أظهرت بيانات مواقع متابعة حالة الخدمات الرقمية ارتفاعًا ملحوظًا في عدد البلاغات المتعلقة بالمشكلة، حيث بدأت تقارير المستخدمين تتزايد بشكل واضح مع رصد صعوبات في تسجيل الدخول والوصول إلى الحسابات واستخدام بعض الخدمات المرتبطة بمنصة OpenAI.

• RedMagic تستعد للكشف عن Gaming Tablet 5 Pro بمواصفات قوية لعشاق الألعاب

الشركة تحدد سبب المشكلة

وفي بيان رسمي عبر صفحة حالة الخدمة، أوضحت OpenAI أنها رصدت المشكلة وحددت مصدر الخلل الذي أثر على قدرة بعض المستخدمين على الوصول إلى حساباتهم.

وأكدت الشركة أنها باشرت العمل فورًا على معالجة العطل واستعادة الخدمة بشكل كامل في أسرع وقت ممكن، مشيرة إلى أن فرقها التقنية تتابع الموقف عن كثب لضمان عودة الأنظمة إلى وضعها الطبيعي.

• Ultrahuman تكشف عن تعرضها لاختراق أمني وتؤكد سلامة كلمات المرور وبيانات الدفع

أهمية متزايدة لخدمات الذكاء الاصطناعي

يأتي هذا العطل في وقت تشهد فيه خدمات OpenAI انتشارًا واسعًا واعتمادًا متزايدًا من قبل الأفراد والشركات حول العالم، سواء في إنشاء المحتوى أو البرمجة أو البحث أو المهام الإنتاجية المختلفة، ما يجعل أي انقطاع في الخدمة محل اهتمام واسع من المستخدمين.

• جوجل تعلن تحقيق كروم أسرع أداء في تاريخه متفوقًا على جميع المنافسين

استعادة الخدمة ومتابعة التحديثات

عادةً ما تقوم OpenAI بنشر تحديثات مستمرة عبر صفحة حالة الخدمة الرسمية لإطلاع المستخدمين على تطورات الأعطال والإصلاحات الجارية، مع توضيح حالة الأنظمة والخدمات المختلفة لحظة بلحظة حتى اكتمال عملية الاستعادة بشكل كامل.

أعلنت جوجل عن توسيع نطاق مساعدها الذكي Gemini ليشمل الأجهزة العاملة بنظام Android Go، وذلك من خلال إصدار جديد يحمل اسم Gemini Go، في خطوة تهدف إلى توفير مزايا الذكاء الاصطناعي الحديثة للمستخدمين الذين يعتمدون على الهواتف منخفضة المواصفات.

جوجل تجلب قدرات Gemini إلى الهواتف الاقتصادية عبر إصدار Gemini Go

يُعد Android Go نسخة خفيفة من نظام أندرويد، صُممت خصيصًا للهواتف الاقتصادية التي تأتي بذاكرة عشوائية محدودة وسعات تخزين صغيرة. وأوضحت جوجل أن Gemini Go سيعمل على الأجهزة المزودة بذاكرة عشوائية لا تقل عن 2 جيجابايت، وهو الحد الأدنى المعتمد لأجهزة Android Go منذ إطلاق Android 13 Go Edition.

جوجل تجلب قدرات Gemini إلى الهواتف الاقتصادية عبر إصدار Gemini Go

نسخة مبسطة للحفاظ على الأداء

وصفت جوجل Gemini Go بأنه إصدار مُحسّن وخفيف من Gemini، تم تطويره لتقديم وظائف الذكاء الاصطناعي الأساسية مع استهلاك أقل لموارد الجهاز. ويهدف هذا التوجه إلى ضمان تجربة استخدام سلسة دون التأثير بشكل ملحوظ على الأداء العام أو المساحة التخزينية المتاحة للمستخدم.

• واتساب يختبر رسائل نصية تختفي بعد قراءتها لمرة واحدة على أندرويد

بديل جديد لمساعد Google Assistant Go

يأتي Gemini Go ليحل محل Google Assistant Go، حيث أصبح بإمكان المستخدمين الوصول إليه مباشرة من خلال تطبيق Google Search. كما يمكن تشغيله بسهولة عبر الضغط المطول على زر الصفحة الرئيسية أو زر الطاقة في الأجهزة المتوافقة.

• مؤسس بايت دانس يتجاوز مليارديرات آسيا ويصبح ثاني أغنى شخص في القارة

مجموعة واسعة من المهام الذكية

يوفر Gemini Go العديد من الوظائف التي اعتاد المستخدمون الحصول عليها من المساعدات الذكية الحديثة، ومن أبرزها:

• إجراء المكالمات الهاتفية وإرسال الرسائل النصية.
• إنشاء التذكيرات وتنظيم المواعيد.
• البحث عن المطاعم والأماكن القريبة.
• التحقق من معلومات الرحلات والتنقل.
• العثور على محطات شحن السيارات الكهربائية.
• تشغيل الوسائط والمحتوى الترفيهي.
• رفع الصور والمستندات والملفات لإثراء المحادثات وتقديم إجابات أكثر دقة.
• Ultrahuman تكشف عن تعرضها لاختراق أمني وتؤكد سلامة كلمات المرور وبيانات الدفع

الإطلاق بدأ تدريجيًا

أكدت جوجل أن عملية طرح Gemini Go بدأت بالفعل بشكل تدريجي على الأجهزة المؤهلة، مشيرة إلى أن وصول التحديث لجميع المستخدمين قد يستغرق عدة أسابيع بحسب المنطقة ونوع الجهاز.

خطوة جديدة لتوسيع انتشار الذكاء الاصطناعي

يمثل إطلاق Gemini Go جزءًا من استراتيجية جوجل الرامية إلى توسيع نطاق تقنيات الذكاء الاصطناعي لتشمل مختلف فئات المستخدمين، وعدم حصر المزايا المتقدمة على الهواتف الرائدة فقط، مما يمنح أصحاب الأجهزة الاقتصادية فرصة الاستفادة من أحدث الأدوات الذكية دون الحاجة إلى ترقية أجهزتهم.