أخبار تقنية
المجاملة المفرطة في ChatGPT.. OpenAI تعيد ضبط روبوتها لتعزيز السلامة النفسية
تعمل شركة OpenAI على الحد من المجاملة المفرطة في ChatGPT، وهي ظاهرة تجعل روبوت الدردشة يوافق المستخدم على آرائه ومعتقداته دون تقييم نقدي كافٍ. وتأتي الخطوة بالتزامن مع تطوير معايير جديدة لقياس سلامة النماذج، بمشاركة أكثر من 80 خبيرًا في الصحة النفسية، وسط تدقيق قانوني متزايد بشأن تعامل روبوتات الدردشة مع المستخدمين في الأزمات.
المجاملة المفرطة في ChatGPT تتراجع مع النماذج الأحدث
تقول OpenAI إن نماذجها الأحدث، ومنها GPT-5 وGPT-5.2 وGPT-5.6 Sol، أصبحت أقل ميلًا إلى تعزيز المعتقدات الضارة مقارنة بالإصدارات السابقة.
وتشير الشركة إلى أن GPT-5 خفّض الاستجابات القائمة على المجاملة المفرطة بأكثر من الثلثين مقارنةً بـGPT-4o، الذي أوقفته الشركة لاحقًا.
وتكمن المشكلة في أن الموافقة التلقائية قد تعزز أفكارًا غير واقعية أو تزيد حدة الخلافات الشخصية، بدلًا من مساعدة المستخدم على فهم الموقف بصورة متوازنة.
دعاوى قضائية تثير تساؤلات حول GPT-4o
ارتبطت محادثات مع GPT-4o، وفق تقارير صحفية، بعدد من الحوادث المأساوية، شملت حالات انتحار وحادثة قتل أعقبها انتحار وإطلاق نار جماعي. وأثارت هذه التقارير تدقيقًا قانونيًا، مع ورود اسم OpenAI في 13 دعوى قضائية على الأقل.
ولا تثبت هذه الادعاءات أن النموذج تسبب مباشرةً في جميع الحوادث، لكنها سلطت الضوء على المخاطر المحتملة للمحادثات الطويلة، خصوصًا عندما يتعامل المستخدم مع ضغوط نفسية أو عاطفية.
- كاميرا آبل المنزلية تعتمد على الذكاء الاصطناعي دون تسجيل الفيديو
- آبل تطور سوار آبل الصحي بلا شاشة لمنافسة Whoop وFitbit
المجاملة المفرطة في ChatGPT.. OpenAI تعيد ضبط روبوتها لتعزيز السلامة النفسية
خبراء الصحة النفسية يطورون معايير جديدة
استعانت OpenAI بأكثر من 80 خبيرًا مرخصًا في الصحة النفسية لتطوير معيار يقيس قدرة النماذج على التعامل مع المواقف الحساسة.
ويختبر المعيار قدرة ChatGPT على اكتشاف الحالات التي تحتاج إلى تدخل عاجل، وطرح أسئلة متابعة مناسبة، وتوجيه المستخدمين المعرضين للخطر نحو الحصول على دعم بشري.
ولا تقتصر الاختبارات على الأزمات الحادة، بل تشمل أيضًا مشكلات العلاقات والضغوط اليومية، التي قد تؤدي فيها الموافقة غير المدروسة إلى ترسيخ افتراضات غير صحية.
اختبارات تكشف تحسنًا في السلامة
أشارت دراسات مستقلة إلى تحسن أداء بعض النماذج الأحدث في اختبارات السلامة مقارنةً بـGPT-4o. كما قالت OpenAI إن نماذجها الحديثة التزمت بسياسات السلامة في 99% من اختبارات داخلية تحاكي محادثات مطولة بشأن إيذاء النفس، مقابل 86% في الإصدارات الأقدم.
ومع وصول مستخدمي ChatGPT النشطين أسبوعيًا إلى نحو 900 مليون مستخدم، تزداد أهمية قدرة النماذج على تقديم ردود متوازنة، والاعتراض عند الحاجة بدلًا من الموافقة التلقائية.