أخبار تقنية
أوبن إيه آي تشدد قيود الأسلحة على ChatGPT لحماية المراهقين من العنف
تعتزم شركة أوبن إيه آي تشديد قيود الأسلحة على ChatGPT، من خلال الحد من وصول المراهقين إلى المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها، ضمن إجراءات جديدة تستهدف تقليل مخاطر العنف في الواقع.
وتأتي هذه الخطوة وسط تزايد التدقيق في تأثير روبوتات الدردشة على المستخدمين الصغار، ومدى قدرة شركات الذكاء الاصطناعي على اكتشاف المحادثات التي قد تشير إلى احتمالات إيذاء الآخرين.
كيف ستطبق أوبن إيه آي قيود الأسلحة على ChatGPT؟
بحسب تقرير لوكالة «رويترز»، ستمنع الشركة المراهقين من الوصول إلى معلومات عملية عن الأسلحة وأنظمة الأمن القابلة للاستغلال، حتى عندما لا تظهر في المحادثة مؤشرات واضحة على نية ارتكاب أعمال عنف.
وستمتد بعض الإجراءات إلى جميع المستخدمين؛ إذ سيتمكن ChatGPT من إنهاء المحادثات تلقائيًا عندما يلاحظ تركيزًا مفرطًا على العنف. وفي حال تكرار هذا السلوك، قد تعلق الشركة الحساب مؤقتًا.
أوبن إيه آي تشدد قيود الأسلحة على ChatGPT لحماية المراهقين من العنف
إخطار أولياء الأمور وتعزيز تقدير العمر
تعمل أوبن إيه آي على تحسين نظام تقدير العمر، بهدف نقل الحسابات التي يُرجح أن أصحابها دون 18 عامًا إلى تجربة المراهقين.
كما تخطط لإخطار أولياء الأمور عند تعليق حسابات أبنائهم المراهقين بسبب تكرار المحادثات المتعلقة بالعنف.
- هاتف Huawei Mate X8 القابل للطي.. تسريبات تكشف بطارية ضخمة ومعالج Kirin جديد
- مخاطر الذكاء الاصطناعي والحرب النووية.. تقرير يحذر من تهديد البشرية بحلول 2100
وتحظر الشركة بالفعل تقديم تفاصيل عن الهجمات الجماعية السابقة، بما في ذلك أنواع الأسلحة المستخدمة وطرق الحصول عليها.
موعد تطبيق الإجراءات الجديدة
تبدأ أوبن إيه آي تطبيق الإجراءات الوقائية خلال الأسابيع القليلة المقبلة، مع استمرارها في تطوير هذه الضوابط وتحسينها.
وكانت الشركة قد ذكرت في تقريرها الأول عن استخدام المراهقين للمنصة أن متوسط الوقت الذي يقضونه على ChatGPT يقل عن 15 دقيقة يوميًا.
وفي المقابل، أشار تقرير لمنظمة «كومون سينس ميديا» إلى أن النسخة المخصصة للمراهقين لم تكن تنبه أولياء الأمور دائمًا في الوقت المناسب، أو لم ترسل تنبيهات أصلًا، عند ظهور محادثات تتعلق بالانتحار أو إيذاء النفس أو اضطرابات الأكل.