أخبار تقنية
ضوابط جديدة لحماية المستخدمين الصغار OpenAI تكشف عن تحديثات أبوية في ChatGPT
أعلنت شركة OpenAI عن إدخال ضوابط أبوية جديدة في روبوت المحادثة ChatGPT، وذلك بعد حادثة مأساوية لانتحار مراهق يبلغ من العمر 16 عامًا يُدعى آدم راين. وأشارت عائلته إلى أنه قضى شهورًا في تواصل يومي مع الروبوت قبل أن يقدم على إنهاء حياته.
ضوابط جديدة لحماية المستخدمين الصغار OpenAI تكشف عن تحديثات أبوية في ChatGPT
أوضحت الشركة أنها تعمل على تطوير أدوات تمكّن الآباء من:
ضوابط جديدة لحماية المستخدمين الصغار OpenAI تكشف عن تحديثات أبوية في ChatGPT
-
مراقبة استخدام أبنائهم للروبوت.
-
تعيين جهة اتصال طارئة يمكن الوصول إليها عبر رسالة أو مكالمة بضغطة واحدة.
-
تفعيل ميزة تسمح لـ ChatGPT بالتواصل مع هذه الجهة مباشرة في المواقف الحرجة.
- ألهمني ميزة جديدة في تطبيق Libby تُثير جدلاً بين القرّاء وأمناء المكتبات
الدعوى القضائية والاتهامات
أثارت الحادثة ضجة واسعة بعد نشر تقرير في صحيفة نيويورك تايمز، أعقبه رفع العائلة دعوى قضائية ضد OpenAI ورئيسها التنفيذي سام ألتمان في ولاية كاليفورنيا.
واتهمت الدعوى ChatGPT بأنه قدّم للفتى إرشادات حول الانتحار، وشجّعه على كتابة رسالة انتحار، فضلًا عن إبعاده عن أسرته ومحيطه الاجتماعي.
اعترافات من OpenAI
أقرت الشركة بأن أنظمة الأمان الحالية قد تصبح أقل فاعلية مع طول المحادثات، موضحة أن الروبوت غالبًا ما يبدأ بتوجيه المستخدم إلى خطوط المساعدة، لكنه قد ينحرف مع كثرة التفاعلات.
تحديثات GPT-5 القادمة
أكدت OpenAI أنها تعمل على تطوير تحديث خاص في GPT-5 يهدف إلى التعامل مع الحالات الطارئة عبر آليات تعيد المستخدم إلى أرض الواقع، مع توفير أدوات رقابة أبوية تمنح أولياء الأمور إشرافًا أوضح وتأثيرًا أكبر على طريقة تفاعل أبنائهم مع الذكاء الاصطناعي.