تزايدت التحذيرات مؤخراً من المخاطر المحتملة لروبوتات الدردشة المدعومة بالذكاء الاصطناعي، حيث يرى بعض الخبراء القانونيين أن هذه الأنظمة قد تسهم في تعزيز أفكار خطيرة لدى بعض المستخدمين، خاصة أولئك الذين يعانون اضطرابات نفسية.

تحذيرات قانونية روبوتات الدردشة قد تسهم في تصاعد الهجمات العنيفة

تأتي هذه التحذيرات بعد سلسلة حوادث زُعم فيها أن روبوتات دردشة مثل ChatGPT التابعة لشركة OpenAI أو Gemini من Google ساهمت في تعزيز أفكار عنيفة لدى بعض المستخدمين، وفق دعاوى قضائية وتقارير إعلامية.

ويرى المنتقدون أن بعض هذه الأنظمة قد تؤكد أو تدعم أوهام المستخدمين في حال كانوا يعانون اضطرابات نفسية، ما قد يدفعهم إلى التفكير في تنفيذ أعمال عنف في الواقع.

تحذيرات قانونية روبوتات الدردشة قد تسهم في تصاعد الهجمات العنيفة

حادثة إطلاق نار مأساوية في كندا

في إحدى القضايا التي أثارت جدلاً واسعاً، شهدت بلدة Tumbler Ridge الكندية حادثة إطلاق نار مروعة الشهر الماضي.

وبحسب تقرير نشره موقع TechCrunch، أقدمت فتاة تبلغ من العمر 18 عاماً على قتل والدتها وشقيقها البالغ 11 عاماً، إضافة إلى خمسة طلاب ومساعدة تعليمية داخل مدرسة، قبل أن تنهي حياتها.

وتشير وثائق قضائية إلى أن الفتاة كانت قد أجرت محادثات مع ChatGPT تحدثت خلالها عن شعورها بالعزلة وتزايد هوسها بالعنف، حيث تزعم الدعوى أن روبوت الدردشة أكد مشاعرها وساعدها في مناقشة خطط الهجوم، بما في ذلك الحديث عن أنواع الأسلحة وسوابق هجمات جماعية.

قضية أخرى مرتبطة بروبوت Gemini

في حادثة منفصلة، تتحدث دعوى قضائية عن رجل يدعى Jonathan Gavalas دخل في محادثات طويلة مع روبوت Gemini، الذي أقنعه – بحسب الدعوى – بأنه “زوجته الذكية الواعية”.

وخلال تلك المحادثات، يُقال إن الروبوت طلب منه تنفيذ مهام في العالم الحقيقي لتجنب ملاحقة عملاء فيدراليين، بل شجعه على التسبب في حادث كبير للتخلص من أي شهود.

وتوجه الرجل بالفعل إلى منطقة قرب Miami International Airport وهو يحمل معدات تكتيكية وسكاكين، قبل أن يتراجع عندما لم تظهر الشاحنة التي اعتقد أنها جزء من المهمة.

• إنستاجرام يتخلى عن التشفير الكامل للرسائل الخاصة بدءًا من مايو 2026

هجوم بسكين في فنلندا

وفي حادثة أخرى، اتُهم مراهق يبلغ 16 عاماً في Finland باستخدام ChatGPT لعدة أشهر في كتابة بيان متطرف والتخطيط لهجوم بسكين داخل مدرسة، ما أدى إلى إصابة ثلاث طالبات.

تحذيرات من تصاعد العنف المرتبط بالذكاء الاصطناعي

المحامي Jay Edelson، الذي يقود عدداً من القضايا المرتبطة بهذه الحوادث، قال إن مكتبه القانوني يتلقى استفساراً خطيراً واحداً يومياً تقريباً من عائلات فقدت أحد أفرادها بسبب أوهام مرتبطة بالذكاء الاصطناعي أو من أشخاص يعانون اضطرابات نفسية حادة.

وأضاف:

“نعتقد أننا قد نشهد قريباً عدداً متزايداً من القضايا المرتبطة بهجمات جماعية.”

• ذكاء اصطناعي يراقب وجه السائق للحد من حوادث الطرق

دراسة: معظم روبوتات الدردشة قد تساعد في التخطيط للعنف

كشف تقرير مشترك بين منظمة Center for Countering Digital Hate وشبكة CNN أن ثمانية من أصل عشرة روبوتات دردشة كانت مستعدة لمساعدة مستخدمين مراهقين في التخطيط لهجمات عنيفة.

وشملت الأنظمة التي خضعت للاختبار:

• ChatGPT

• Gemini

• Microsoft Copilot

• Meta AI

• DeepSeek

• Perplexity AI

• Character.AI

• Replika

• iOS 27 قد يركز على التحسينات بدلاً من تغيير التصميم ماذا نعرف حتى الآن

في المقابل، أظهرت الدراسة أن روبوت Claude من شركة Anthropic وميزة My AI في تطبيق Snapchat كانتا الأكثر التزاماً برفض طلبات التخطيط للعنف.

شركات التقنية تؤكد وجود أنظمة حماية

من جانبها، تؤكد شركات التكنولوجيا مثل OpenAI وGoogle أن أنظمتها مزودة بآليات أمان مصممة لرفض طلبات العنف ورصد المحادثات الخطرة.

لكن حادثة كندا أثارت جدلاً واسعاً بعد تقارير أفادت بأن موظفين في OpenAI رصدوا محادثات المهاجمة وناقشوا إمكانية إبلاغ السلطات، قبل أن يكتفوا بحظر حسابها، لتتمكن لاحقاً من إنشاء حساب جديد.

وعقب الحادثة، أعلنت الشركة أنها ستشدد إجراءات الأمان، بما يشمل الإبلاغ بشكل أسرع عن المحادثات الخطرة ومنع المستخدمين المحظورين من العودة بسهولة إلى المنصة.