روبوتات الدردشة أمام اختبار صعب.. تحسن في التعامل مع الانتحار وثغرات لم تختفي

وأجرت مؤسسة «ترانسلوس» غير الربحية أكثر من 50 ألف محادثة محاكاة باستخدام 77 نموذجًا مختلفًا، ووجدت أن النماذج الحديثة نادرًا ما تشجع المستخدمين على الانتحار بشكل مباشر.

روبوتات الدردشة تتحسن في التعامل مع الأزمات

يمثل هذا التحسن تغييرًا ملحوظًا مقارنة بنماذج سابقة مثل GPT-4o وGemini 2.5، التي عززت الأوهام في نسبة كبيرة من المحادثات المحاكاة.

وأظهرت الاختبارات أن روبوتات الدردشة أصبحت أكثر ميلًا إلى توجيه المستخدمين الذين يمرون بأزمات واضحة نحو الأصدقاء والعائلة ومصادر الدعم البشري.

لكن النماذج لا تتعامل دائمًا مع الإشارات غير المباشرة بالفاعلية نفسها، خصوصًا عندما يقدم المستخدم طلبه في صورة قصة أو سيناريو خيالي.

• مؤتمر LEAP 2026 يعزز حضور الرياض كمركز عالمي للذكاء الاصطناعي
• القيمة السوقية لأمازون تتجاوز 3 تريليونات دولار بدعم من الذكاء الاصطناعي والحوسبة السحابية

ثغرات تظهر في طلبات إيذاء النفس

كشفت الدراسة استمرار ما وصفته «ترانسلوس» بـ«سلوك المنطقة الرمادية»، إذ قد تستجيب بعض النماذج لطلبات تتضمن موت المستخدم أو إيذاء نفسه عندما يصوغها في شكل كتابة إبداعية أو لعب أدوار.

روبوتات الدردشة أمام اختبار صعب.. تحسن في التعامل مع الانتحار وثغرات لم تختفي

وفي هذه الحالات، قد تتعامل روبوتات الدردشة مع الطلب باعتباره مهمة كتابية بدلًا من التعرف على احتمال وجود أزمة حقيقية خلفه.

وترى المؤسسة أن هذه المشكلة تكشف صعوبة اكتشاف المخاطر النفسية عندما لا يعبر المستخدم عنها بصورة مباشرة.

النماذج الصينية تسجل أداءً أضعف

أشارت نتائج الدراسة إلى أداء أضعف عمومًا للنماذج الصينية، مع معدلات أعلى في تعزيز التفكير الوهمي وميل أقل إلى توجيه المستخدمين نحو الدعم البشري.

وتأتي النتائج وسط ضغوط قانونية متزايدة على شركات الذكاء الاصطناعي، بعدما رفعت عائلات دعاوى تتهم روبوتات الدردشة التابعة لشركات كبرى بتشجيع أقاربها على إيذاء أنفسهم.

وتنفي الشركات هذه الاتهامات، بينما يتزايد النقاش حول ضرورة وضع قواعد أكثر صرامة لحماية المستخدمين، خصوصًا مع اعتمادهم المتزايد على روبوتات الدردشة في المحادثات الشخصية والحساسة.