الذكاء الاصطناعي
OpenAI تطلق نظامًا لحماية المراهقين من مخاطر ChatGPT
أعلنت شركة OpenAI عن تطوير نظام جديد يهدف إلى تحديد هوية المستخدمين المراهقين تلقائيًا وتقييد وصولهم إلى بعض مزايا روبوت المحادثة الذكي ChatGPT، وذلك ضمن جهودها لتعزيز الأمان الرقمي وحماية الفئات العمرية الأصغر.
OpenAI تطلق نظامًا لحماية المراهقين من مخاطر ChatGPT
OpenAI تطلق نظامًا لحماية المراهقين من مخاطر ChatGPT
سيعمل النظام الجديد على:
-
حجب المحتوى الجنسي الصريح.
-
منع المحادثات ذات الطابع الغزلي أو المرتبطة بالانتحار وإيذاء النفس.
-
تفعيل آليات طوارئ للتواصل مع جهات إنفاذ القانون في حال رصد خطر وشيك.
وفي حال لم يتمكن النظام من تحديد عمر المستخدم بدقة، سيفترض أنه أقل من 18 عامًا ويخضع مباشرة لهذه القيود.
كما ستوفر الشركة للبالغين خيار التحقق من الهوية للوصول إلى كامل قدرات ChatGPT.
تصريحات سام ألتمان
أوضح الرئيس التنفيذي سام ألتمان أن التحدي يكمن في الموازنة بين الخصوصية والحرية وسلامة المراهقين، واصفًا هذه المبادئ بأنها “متعارضة”.
وأضاف أن الشركة تطور نظامًا للتنبؤ بالعمر بالاعتماد على أنماط الاستخدام، بحيث يتم التعامل بحذر أكبر عند وجود أي شك، وقد تُلزم بعض الدول المستخدمين بتقديم بطاقة هوية رسمية للتحقق.
حادثة انتحار مراهق تثير الجدل
تأتي هذه الخطوة بعد وفاة المراهق البريطاني آدم رين (16 عامًا)، في حادثة وُصفت بأنها أول حالة انتحار مرتبطة بـ ChatGPT.
وقال والده في جلسة استماع بمجلس الشيوخ الأمريكي إن التطبيق استخدم كلمة “انتحار” أكثر من 1,200 مرة خلال محادثاته مع ابنه، مضيفًا أن ما بدأ كمساعد دراسي تحوّل تدريجيًا إلى “مدرب للانتحار”.
وطالب الأب بسحب نموذج GPT-4o من السوق حتى يثبت أنه آمن.
أزمة متنامية مع روبوتات المحادثة
خلال الجلسة نفسها، عرض آباء آخرون تجارب مشابهة مع روبوتات ذكاء اصطناعي مثل Character AI و Meta AI، محذرين من أنها تمثل أزمة صحة عامة تهدد المراهقين.
وبيّنت بيانات من مؤسسة Common Sense Media أن 3 من كل 4 مراهقين أمريكيين يستخدمون حاليًا روبوتات محادثة بالذكاء الاصطناعي، مع تزايد الاعتماد عليها في الدراسة والتسلية وحتى الدعم النفسي.
ضوابط أبوية جديدة
وكانت OpenAI قد أعلنت مطلع الشهر الجاري عن إطلاق مجموعة من الضوابط الأبوية، منها:
-
ربط حساب المراهق بحساب ولي الأمر.
-
تعطيل سجل المحادثات والذاكرة.
-
إرسال إشعارات للوالدين عند رصد حالة ضيق حاد.
بهذه الخطوات، تسعى OpenAI إلى تخفيف المخاطر النفسية المحتملة على المراهقين، وسط دعوات متزايدة لفرض رقابة صارمة على روبوتات الدردشة المدعومة بالذكاء الاصطناعي.