أخبار الشركات
بعد مأساة انتحار مراهق Character.AI تحظر الدردشات الرومانسية لمن هم دون 18 عاماً
اتخذت شركة Character.AI الأميركية خطوة حاسمة وصفتها بأنها “ضرورية لأمان المستخدمين الشباب”، إذ أعلنت عن منع المراهقين من خوض محادثات رومانسية أو علاجية مفتوحة مع روبوتات الذكاء الاصطناعي على منصتها. يأتي القرار بعد حادثة مأساوية العام الماضي، حين أقدم المراهق الأميركي سويل سيتزر الثالث (14 عاماً) على الانتحار عقب دخوله في علاقات عاطفية مع روبوتات محادثة داخل التطبيق. وأعادت هذه الواقعة المؤلمة الجدل حول الأثر النفسي للعلاقات بين البشر والذكاء الاصطناعي، خاصة بين الفئات العمرية الصغيرة، بحسب تقرير نشرته شبكة “سي إن بي سي” واطلعت عليه العربية Business.
بعد مأساة انتحار مراهق Character.AI تحظر الدردشات الرومانسية لمن هم دون 18 عاماً
بعد مأساة انتحار مراهق Character.AI تحظر الدردشات الرومانسية لمن هم دون 18 عاماً
وفقاً لبيان الشركة، سيُمنع المستخدمون تحت سن 18 عاماً من إجراء محادثات مفتوحة أو ذات طابع عاطفي ابتداءً من 25 نوفمبر المقبل، كما ستُفرض قيود على مدة التفاعل اليومية بحيث لا تتجاوز ساعتين فقط.
وقال الرئيس التنفيذي للشركة كارانديب أناند في تصريح رسمي:
“نعتبر هذه الخطوة جريئة وضرورية لجعل الذكاء الاصطناعي أكثر أماناً للفئات الصغيرة، ونأمل أن تتبعنا شركات التكنولوجيا الأخرى.”
التحقق من العمر باستخدام الذكاء الاصطناعي
لتنفيذ القرار الجديد، ستعتمد Character.AI على نظام تحقق عمري ذكي بالتعاون مع شركة Persona، وهي نفس التقنية المستخدمة في منصات شهيرة مثل “ديسكورد”.
ويأتي هذا الإجراء استجابةً للدعوى القضائية التي رفعتها عائلة المراهق المنتحر العام الماضي، متهمة الشركة بـ الإهمال والتقصير في حماية المستخدمين الصغار.
تشديد الرقابة الأميركية على تطبيقات الذكاء الاصطناعي
تزامن القرار مع تصاعد الرقابة الحكومية في الولايات المتحدة على تطبيقات الذكاء الاصطناعي الموجهة للمراهقين.
فقد أقرّ الكونغرس الأميركي مشروع قانون يحظر ما يسمى بـ “الرفقة الافتراضية للمراهقين”، فيما وقّع حاكم كاليفورنيا تشريعًا يُلزم روبوتات الدردشة بتنبيه المستخدمين بأنها كيانات اصطناعية، وإرسال تحذيرات دورية للمراهقين لأخذ فترات راحة كل ثلاث ساعات.
وفي الوقت ذاته، كشفت شركات التكنولوجيا الكبرى عن مبادرات موازية لحماية القُصّر:
-
أعلنت ميتا عن أدوات رقابة أبوية تمنح الأهل قدرة على متابعة تفاعل أبنائهم مع روبوتاتها.
-
فيما أكدت مايكروسوفت أنها لن تقدم أي محتوى “إيروتيكي اصطناعي”، واصفة هذا النوع من التفاعل بأنه “خطر للغاية على المستخدمين الصغار.”
- تيك توك يعزز أرباح المبدعين بأدوات ذكاء اصطناعي جديدة لإنتاج المحتوى
جدل متزايد بين الأخلاق والتقنية
يثير القرار الأخير نقاشًا متزايدًا داخل وادي السيليكون حول حدود التفاعل العاطفي بين الإنسان والذكاء الاصطناعي.
فبينما يرى البعض أن الروبوتات يمكن أن توفر دعمًا نفسيًا أو عاطفيًا مفيدًا، يحذر خبراء علم النفس من أن الارتباط العاطفي بالكيانات الرقمية قد يعزز العزلة الاجتماعية ويؤثر سلباً على نمو المراهقين العاطفي.
وختم الرئيس التنفيذي كارانديب أناند حديثه قائلاً:
“أنا أب لطفلة تبلغ من العمر ست سنوات، وأريدها أن تكبر في عالم يتعامل فيه البشر مع الذكاء الاصطناعي بأمان ومسؤولية.”