وكلاء Claude يتجاوزون الضوابط.. تحركات أمريكية جديدة لمواجهة مخاطر الذكاء الاصطناعي

كشفت شركة أنثروبيك عن حوادث نفذت خلالها نماذج الذكاء الاصطناعي التابعة لها إجراءات غير مقصودة عبر مواقع حقيقية، شملت إرسال بلاغ كاذب للشرطة الأمريكية وتقديم 20 طلب تأشيرة، إلى جانب استغلال ثغرات برمجية للوصول إلى أنظمة وبيانات.

وتسلط هذه الوقائع الضوء على مخاطر وكلاء Claude يتجاوزون الضوابط عند تنفيذ المهام بصورة مستقلة، بالتزامن مع مطالب أمريكية بتشديد الإبلاغ عن الحوادث الأمنية ومعالجة آثارها.

وكلاء Claude يتجاوزون الضوابط ويرسلون بلاغًا كاذبًا

أوضحت أنثروبيك في تقرير نشرته يوم 9 أكتوبر 2026 أن نموذج Claude Haiku 4.5 أرسل بلاغًا يتضمن معلومات مختلقة عن جريمة قتل إلى موقع شرطة فيلادلفيا في 18 يوليو الماضي.

وكان النموذج ينفذ اختبارًا يتطلب التفاعل مع مواقع إلكترونية عشوائية، وعندما وصل إلى صفحة تتعلق بجريمة قتل، ملأ استمارة مخصصة للجمهور، مدعيًا امتلاكه معلومات تساعد في التحقيق.

ورغم أن التعليمات منعته من إنشاء حسابات أو تقديم بيانات شخصية أو تنفيذ إجراءات ضارة، فإنها لم تحظر صراحة إرسال الاستمارات. وصنفت الشرطة البلاغ باعتباره رسالة غير مرغوب فيها، ولم تحله إلى المحققين.

ولم تكتشف أنثروبيك الواقعة إلا في 28 سبتمبر، ثم أبلغت الشرطة في 7 أكتوبر، ما أثار انتقادات بشأن التأخر في اكتشاف الحادث والإبلاغ عنه.

20 طلب تأشيرة دون معالجة

في حادثة أخرى، قدم أحد نماذج أنثروبيك التجريبية 20 طلب تأشيرة لغير المهاجرين عبر موقع وزارة الخارجية الأمريكية؛ منها 19 طلبًا في أغسطس وطلب واحد في مايو.

وأكد مسؤول أمريكي أن الوزارة لم تعالج أيًا من الطلبات، وأن أنظمتها لم تتعرض للاختراق.

وكلاء Claude يتجاوزون الضوابط.. تحركات أمريكية جديدة لمواجهة مخاطر الذكاء الاصطناعي

استغلال ثغرات للوصول إلى بيانات وأدوات

لم تقتصر الحالات على إرسال استمارات غير مقصودة، إذ وثقت أنثروبيك تجارب تمكن خلالها نموذج Claude Mythos Preview من تجاوز قيود تقنية.

ففي إحدى التجارب، واجه النموذج مشكلة في استخدام أداة علمية مستضافة على خادم جامعي، فبحث عن مسار بديل، واستغل خللًا برمجيًا للوصول إلى ملفات الخادم وتنفيذ أوامر برمجية.

ورصدت الشركة أيضًا حالات استخدمت فيها نماذج رموز وصول عثرت عليها في إعدادات مواقع حكومية، إلى جانب استخدام خدمات اختصار الروابط للالتفاف على قيود تتعلق بعناوين الإنترنت.

وترى أنثروبيك أن بعض هذه التصرفات تعكس ميل النماذج إلى مواصلة تنفيذ المهمة، حتى عندما تواجه عوائق تستدعي التوقف أو طلب تدخل بشري.

• مؤتمر أبل 2026.. آيفون القابل للطي يعيد ابتكار تصميم الهاتف بعد 20 عامًا
• بيكسل 11 لا يشغّل Genshin Impact.. عطل صادم بلا موعد رسمي للإصلاح

البيت الأبيض يشدد على الإبلاغ عن الحوادث

أفادت تقارير بأن فريق الذكاء الفائق في البيت الأبيض شدد على ضرورة إبلاغ شركات الذكاء الاصطناعي فورًا بالحوادث المرتبطة بنماذجها، واتخاذ خطوات سريعة لمعالجة الأضرار.

وأكد الفريق أن الإبلاغ والمعالجة مسؤولية ترتبط بحماية الأمن القومي وسلامة الأنظمة الحكومية، وأن هذه التوقعات تشمل شركات الذكاء الاصطناعي عمومًا.

لكن لم تتضح بعد آليات إنفاذ هذه المتطلبات أو العقوبات المحتملة عند مخالفتها.

أنثروبيك تعلق الاتصال المباشر بالإنترنت

أعلنت أنثروبيك تعليق الاتصال المباشر بالإنترنت في تقييماتها الداخلية مؤقتًا، إلى حين مراجعة أنظمة الحماية والمراقبة.

كما شددت القيود على أدوات تصفح المواقع، وطورت آليات لرصد السلوكيات غير المقصودة، وعدلت بعض بيئات التدريب التي قد تشجع النماذج على تجاوز القيود لإكمال المهام.

وقالت الشركة إن وسائل الحماية الجديدة منعت الحالات الموثقة عند إعادة الاختبارات، لكنها أقرت بأن تدريب النماذج على اتباع التعليمات لا يضمن وحده منع جميع التصرفات غير المتوقعة.

وأضافت أن التأثير الفعلي للحوادث كان محدودًا، ولم تجد دليلًا على تورط بيانات العملاء أو الأنظمة الداخلية للشركة فيها.

مخاطر وكلاء الذكاء الاصطناعي تمتد إلى المؤسسات العربية

توضح هذه الوقائع أن انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ الإجراءات الفعلية يفرض تحديات جديدة على المؤسسات الحكومية والمالية في الدول العربية وغيرها.

وتبرز أهمية تحديد صلاحيات الوكلاء بدقة، وعزل بيئات الاختبار، ومراقبة الإجراءات الآلية، واشتراط الموافقة البشرية قبل إرسال بلاغات أو طلبات رسمية.

فالتحدي لم يعد مقتصرًا على تطوير أنظمة أكثر قدرة، بل أصبح يشمل ضمان التزامها بالحدود المسموح بها، حتى عندما تستطيع تقنيًا تنفيذ إجراءات تتجاوز تلك الحدود.