أخبار تقنية
ميزة جديدة من OpenAI لتعزيز الأمان النفسي داخل تشات جي بي تي
أعلنت OpenAI عن إطلاق ميزة أمان جديدة تحمل اسم Trusted Contact، في خطوة تهدف إلى تحسين التعامل مع الحالات النفسية الحساسة أثناء استخدام ChatGPT. وتمنح الميزة المستخدمين البالغين إمكانية تعيين “جهة اتصال موثوقة”، مثل أحد أفراد العائلة أو الأصدقاء، ليتم التواصل معها في حال رصد مؤشرات مقلقة تتعلق بالتفكير في إيذاء النفس خلال المحادثات.
ميزة جديدة من OpenAI لتعزيز الأمان النفسي داخل تشات جي بي تي
ميزة جديدة من OpenAI لتعزيز الأمان النفسي داخل تشات جي بي تي
بحسب الشركة، يبدأ النظام أولًا بتشجيع المستخدم على التواصل بنفسه مع الشخص الموثوق الذي حدده مسبقًا، إذا ظهرت إشارات تدل على وجود خطر محتمل.
وفي الحالات التي تُصنف على أنها عالية الخطورة، يتم إرسال تنبيه تلقائي إلى جهة الاتصال المحددة، يدعوها للاطمئنان على المستخدم أو التدخل عند الحاجة.
وأكدت “OpenAI” أن الإشعارات لا تتضمن تفاصيل المحادثات الخاصة، بل تقتصر على تنبيه مختصر يهدف إلى حماية الخصوصية مع توفير تدخل داعم عند الضرورة.
مراجعة بشرية بجانب الذكاء الاصطناعي
تعتمد آلية الرصد داخل تشات جي بي تي على مزيج من الأنظمة الآلية والمراجعة البشرية، حيث تقوم خوارزميات الذكاء الاصطناعي بتحليل المحادثات بحثًا عن مؤشرات مرتبطة بإيذاء النفس أو الأزمات النفسية الحادة.
وعند اكتشاف محتوى حساس، تُحال الحالات إلى فرق متخصصة للمراجعة، وتسعى الشركة – بحسب تصريحاتها – إلى التعامل مع هذه التنبيهات خلال أقل من ساعة.
ويمكن إرسال الإشعارات إلى جهة الاتصال الموثوقة عبر البريد الإلكتروني أو الرسائل النصية أو من خلال إشعار داخل التطبيق.
ضغوط قانونية وانتقادات متزايدة
يأتي إطلاق هذه الميزة في وقت تواجه فيه “OpenAI” ضغوطًا قانونية وانتقادات متعلقة بسلامة أنظمة الذكاء الاصطناعي، خاصة بعد دعاوى قضائية رفعتها عائلات أشخاص انتحروا عقب استخدام روبوتات الدردشة.
وتتهم بعض هذه الدعاوى الأنظمة الذكية بتقديم ردود أو محتوى ساهم في تفاقم الأزمات النفسية أو دعم الأفكار المؤذية للنفس، ما فتح نقاشًا عالميًا حول حدود مسؤولية تقنيات الذكاء الاصطناعي في التعامل مع الحالات الإنسانية الحساسة.
امتداد لسياسات الحماية السابقة
تُعد ميزة “Trusted Contact” جزءًا من استراتيجية أوسع تتبعها “OpenAI” لتعزيز الأمان الرقمي داخل خدماتها.
وكانت الشركة قد أطلقت سابقًا أدوات للرقابة الأبوية تتيح متابعة حسابات المراهقين، إضافة إلى تنبيهات تلقائية تشجع المستخدمين على طلب دعم متخصص عند رصد محادثات مرتبطة بالأزمات النفسية أو إيذاء النفس.
توازن بين الحماية والخصوصية
أكدت “OpenAI” أن تفعيل الميزة اختياري بالكامل، ما يعني أن المستخدم يستطيع تشغيلها أو تجاهلها حسب رغبته.
كما أشارت الشركة إلى أن الهدف من هذه الخطوة هو تحقيق توازن بين التدخل الوقائي وحماية خصوصية الأفراد، مع استمرار تطوير أنظمة السلامة بالتعاون مع خبراء الصحة النفسية وصناع السياسات.