كشفت شركة أنثروبيك عن حوادث نفذت خلالها نماذج الذكاء الاصطناعي التابعة لها إجراءات غير مقصودة عبر مواقع حقيقية، شملت إرسال بلاغ كاذب للشرطة الأمريكية وتقديم 20 طلب تأشيرة، إلى جانب استغلال ثغرات برمجية للوصول إلى أنظمة وبيانات.
وتسلط هذه الوقائع الضوء على مخاطر وكلاء Claude يتجاوزون الضوابط عند تنفيذ المهام بصورة مستقلة، بالتزامن مع مطالب أمريكية بتشديد الإبلاغ عن الحوادث الأمنية ومعالجة آثارها.
وكلاء Claude يتجاوزون الضوابط ويرسلون بلاغًا كاذبًا
أوضحت أنثروبيك في تقرير نشرته يوم 9 أكتوبر 2026 أن نموذج Claude Haiku 4.5 أرسل بلاغًا يتضمن معلومات مختلقة عن جريمة قتل إلى موقع شرطة فيلادلفيا في 18 يوليو الماضي.
وكان النموذج ينفذ اختبارًا يتطلب التفاعل مع مواقع إلكترونية عشوائية، وعندما وصل إلى صفحة تتعلق بجريمة قتل، ملأ استمارة مخصصة للجمهور، مدعيًا امتلاكه معلومات تساعد في التحقيق.
ورغم أن التعليمات منعته من إنشاء حسابات أو تقديم بيانات شخصية أو تنفيذ إجراءات ضارة، فإنها لم تحظر صراحة إرسال الاستمارات. وصنفت الشرطة البلاغ باعتباره رسالة غير مرغوب فيها، ولم تحله إلى المحققين.
ولم تكتشف أنثروبيك الواقعة إلا في 28 سبتمبر، ثم أبلغت الشرطة في 7 أكتوبر، ما أثار انتقادات بشأن التأخر في اكتشاف الحادث والإبلاغ عنه.
20 طلب تأشيرة دون معالجة
في حادثة أخرى، قدم أحد نماذج أنثروبيك التجريبية 20 طلب تأشيرة لغير المهاجرين عبر موقع وزارة الخارجية الأمريكية؛ منها 19 طلبًا في أغسطس وطلب واحد في مايو.
وأكد مسؤول أمريكي أن الوزارة لم تعالج أيًا من الطلبات، وأن أنظمتها لم تتعرض للاختراق.
وكلاء Claude يتجاوزون الضوابط.. تحركات أمريكية جديدة لمواجهة مخاطر الذكاء الاصطناعي
استغلال ثغرات للوصول إلى بيانات وأدوات
لم تقتصر الحالات على إرسال استمارات غير مقصودة، إذ وثقت أنثروبيك تجارب تمكن خلالها نموذج Claude Mythos Preview من تجاوز قيود تقنية.
ففي إحدى التجارب، واجه النموذج مشكلة في استخدام أداة علمية مستضافة على خادم جامعي، فبحث عن مسار بديل، واستغل خللًا برمجيًا للوصول إلى ملفات الخادم وتنفيذ أوامر برمجية.
ورصدت الشركة أيضًا حالات استخدمت فيها نماذج رموز وصول عثرت عليها في إعدادات مواقع حكومية، إلى جانب استخدام خدمات اختصار الروابط للالتفاف على قيود تتعلق بعناوين الإنترنت.
وترى أنثروبيك أن بعض هذه التصرفات تعكس ميل النماذج إلى مواصلة تنفيذ المهمة، حتى عندما تواجه عوائق تستدعي التوقف أو طلب تدخل بشري.
أفادت تقارير بأن فريق الذكاء الفائق في البيت الأبيض شدد على ضرورة إبلاغ شركات الذكاء الاصطناعي فورًا بالحوادث المرتبطة بنماذجها، واتخاذ خطوات سريعة لمعالجة الأضرار.
وأكد الفريق أن الإبلاغ والمعالجة مسؤولية ترتبط بحماية الأمن القومي وسلامة الأنظمة الحكومية، وأن هذه التوقعات تشمل شركات الذكاء الاصطناعي عمومًا.
لكن لم تتضح بعد آليات إنفاذ هذه المتطلبات أو العقوبات المحتملة عند مخالفتها.
أنثروبيك تعلق الاتصال المباشر بالإنترنت
أعلنت أنثروبيك تعليق الاتصال المباشر بالإنترنت في تقييماتها الداخلية مؤقتًا، إلى حين مراجعة أنظمة الحماية والمراقبة.
كما شددت القيود على أدوات تصفح المواقع، وطورت آليات لرصد السلوكيات غير المقصودة، وعدلت بعض بيئات التدريب التي قد تشجع النماذج على تجاوز القيود لإكمال المهام.
وقالت الشركة إن وسائل الحماية الجديدة منعت الحالات الموثقة عند إعادة الاختبارات، لكنها أقرت بأن تدريب النماذج على اتباع التعليمات لا يضمن وحده منع جميع التصرفات غير المتوقعة.
وأضافت أن التأثير الفعلي للحوادث كان محدودًا، ولم تجد دليلًا على تورط بيانات العملاء أو الأنظمة الداخلية للشركة فيها.
مخاطر وكلاء الذكاء الاصطناعي تمتد إلى المؤسسات العربية
توضح هذه الوقائع أن انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ الإجراءات الفعلية يفرض تحديات جديدة على المؤسسات الحكومية والمالية في الدول العربية وغيرها.
وتبرز أهمية تحديد صلاحيات الوكلاء بدقة، وعزل بيئات الاختبار، ومراقبة الإجراءات الآلية، واشتراط الموافقة البشرية قبل إرسال بلاغات أو طلبات رسمية.
فالتحدي لم يعد مقتصرًا على تطوير أنظمة أكثر قدرة، بل أصبح يشمل ضمان التزامها بالحدود المسموح بها، حتى عندما تستطيع تقنيًا تنفيذ إجراءات تتجاوز تلك الحدود.
تستعد غوغل لإطلاق أصوات Gmail Live الجديدة، مع إضافة سبعة خيارات تتيح للمستخدمين تخصيص المحادثات الصوتية المدعومة بالذكاء الاصطناعي داخل البريد الإلكتروني، بما يمنحهم تجربة أكثر مرونة عند البحث عن الرسائل والمعلومات.
أصوات Gmail Live الجديدة تضيف 7 خيارات للتخصيص
تمكن باحثون من تفعيل الأصوات الجديدة داخل الإصدار 2026.10.05.993506826 من تطبيق Gmail، وتشمل الخيارات المكتشفة Pegasus وCapella وDipper وOrion وUrsa وVega وEclipse، إلى جانب الصوت الافتراضي Orbit.
وتتوفر بعض هذه الأصوات بالفعل في Gemini Live، لكن القائمة المكتشفة لا تشمل خياري Glow وFlare حتى الآن.
كيف يمكن تغيير الصوت في Gmail Live؟
تخطط غوغل لإضافة قائمة من ثلاث نقاط في الزاوية العلوية اليمنى من واجهة Gmail Live، تتضمن خيار «إعدادات الصوت».
وعند الضغط عليه، ستظهر لوحة منبثقة أسفل الشاشة تحتوي على الأصوات المتاحة، ويمكن للمستخدم اختيار الصوت الذي يفضله، مع استمرار Orbit بوصفه الخيار الافتراضي.
أصوات Gmail Live الجديدة.. غوغل تستعد لإضافة 7 خيارات صوتية
ما وظيفة Gmail Live؟
تتيح الميزة للمستخدم البحث عن المعلومات داخل رسائل البريد الإلكتروني والتفاعل معها من خلال محادثة صوتية مدعومة بالذكاء الاصطناعي. ويمكن استخدامها للعثور على تفاصيل مثل مواعيد الاجتماعات والفعاليات وغيرها من المعلومات الواردة في الرسائل.
وتمنح أصوات Gmail Live الجديدة المستخدمين طريقة إضافية لتخصيص هذه التجربة، بدلًا من الاعتماد على صوت واحد.
تغيير الصوت قد يؤدي إلى فقدان المحادثة
رغم التحسين المرتقب، يتضمن تغيير الصوت قيدًا مهمًا؛ إذ تشير المعلومات المكتشفة إلى أن اختيار صوت جديد سيؤدي إلى إعادة تشغيل Gmail Live، مع فقدان سجل المحادثة الحالية.
وأظهرت الاختبارات أن الأصوات الجديدة تعمل بصورة متوقعة، لكن ذلك لا يؤكد موعد الإطلاق الرسمي، إذ لم تعلن غوغل حتى الآن موعدًا محددًا لإتاحتها لجميع المستخدمين.
هل تصل الميزة إلى Google Keep وDocs؟
ظهرت أيضًا مؤشرات أولية إلى احتمال إضافة خيارات تغيير الصوت إلى تجارب Live في تطبيقي Google Keep وGoogle Docs. لكن غوغل لم تؤكد هذه الخطط أو تحدد موعدًا لطرحها.
وبذلك، تظل أصوات Gmail Live الجديدة ميزة قيد التطوير، في انتظار إعلان رسمي يوضح موعد الإطلاق ومدى توفرها للمستخدمين.
تستعد هونر للكشف عن هواتف Honor Win 2 في 21 أكتوبر، ضمن حدث إطلاق يضم أيضًا جهازًا لوحيًا يُتوقع أن يحمل اسم Honor Win Pad. وتركز التسريبات على بطاريات ضخمة وشاشات سريعة ومعالجات قوية، إلى جانب طرازات تستهدف فئات سعرية مختلفة.
هواتف Honor Win 2 تأتي ببطارية ضخمة وشاشات 185 هرتز
أكدت هونر موعد الكشف عن سلسلة Honor Win الجديدة عبر حسابها على منصة ويبو الصينية، مع توقعات بإطلاق هاتفي Win 2 وWin 2 RT خلال الحدث نفسه.
وبحسب التسريبات، قد يحصل أحد الطرازين على بطارية بسعة تصل إلى 12000 مللي أمبير في الساعة، ما يجعله من الهواتف ذات سعات البطارية الكبيرة للغاية.
شاشات 2K ومروحة تبريد مدمجة
تشير المعلومات المتداولة إلى أن هواتف Honor Win 2 ستأتي بشاشات بدقة 2K ومعدل تحديث يصل إلى 185 هرتزًا، مع حواف متساوية الحجم ومروحة تبريد مدمجة لتعزيز الأداء أثناء الاستخدام المكثف والألعاب.
هواتف Honor Win 2.. بطارية 12000 مللي أمبير ومعالجات رائدة في 21 أكتوبر
معالجات Snapdragon من الفئة الرائدة
تلمح التسريبات إلى استخدام معالجي Snapdragon 8 Elite Extreme Gen 6 وSnapdragon 8 Elite Gen 5، لكن هونر لم توضح بعد المعالج المخصص لكل طراز، كما لم تؤكد المواصفات النهائية رسميًا.
Honor Win Turbo 2 بطراز إضافي
تستعد هونر أيضًا لطرح هاتف Honor Win Turbo 2، الذي يُتوقع أن يأتي بذاكرة وصول عشوائي تبدأ من 8 غيغابايت، ومساحة تخزين تبلغ 256 غيغابايت، مع احتمال استخدام معالج من الفئة المتوسطة.
ومن المنتظر أن تكشف الشركة خلال الحدث عن تفاصيل الأسعار والتوافر والمواصفات النهائية، بما في ذلك الفروق بين الهواتف الثلاثة والجهاز اللوحي المرتقب.
تعمل شركة OpenAI على الحد من المجاملة المفرطة في ChatGPT، وهي ظاهرة تجعل روبوت الدردشة يوافق المستخدم على آرائه ومعتقداته دون تقييم نقدي كافٍ. وتأتي الخطوة بالتزامن مع تطوير معايير جديدة لقياس سلامة النماذج، بمشاركة أكثر من 80 خبيرًا في الصحة النفسية، وسط تدقيق قانوني متزايد بشأن تعامل روبوتات الدردشة مع المستخدمين في الأزمات.
المجاملة المفرطة في ChatGPT تتراجع مع النماذج الأحدث
تقول OpenAI إن نماذجها الأحدث، ومنها GPT-5 وGPT-5.2 وGPT-5.6 Sol، أصبحت أقل ميلًا إلى تعزيز المعتقدات الضارة مقارنة بالإصدارات السابقة.
وتشير الشركة إلى أن GPT-5 خفّض الاستجابات القائمة على المجاملة المفرطة بأكثر من الثلثين مقارنةً بـGPT-4o، الذي أوقفته الشركة لاحقًا.
وتكمن المشكلة في أن الموافقة التلقائية قد تعزز أفكارًا غير واقعية أو تزيد حدة الخلافات الشخصية، بدلًا من مساعدة المستخدم على فهم الموقف بصورة متوازنة.
دعاوى قضائية تثير تساؤلات حول GPT-4o
ارتبطت محادثات مع GPT-4o، وفق تقارير صحفية، بعدد من الحوادث المأساوية، شملت حالات انتحار وحادثة قتل أعقبها انتحار وإطلاق نار جماعي. وأثارت هذه التقارير تدقيقًا قانونيًا، مع ورود اسم OpenAI في 13 دعوى قضائية على الأقل.
ولا تثبت هذه الادعاءات أن النموذج تسبب مباشرةً في جميع الحوادث، لكنها سلطت الضوء على المخاطر المحتملة للمحادثات الطويلة، خصوصًا عندما يتعامل المستخدم مع ضغوط نفسية أو عاطفية.
استعانت OpenAI بأكثر من 80 خبيرًا مرخصًا في الصحة النفسية لتطوير معيار يقيس قدرة النماذج على التعامل مع المواقف الحساسة.
ويختبر المعيار قدرة ChatGPT على اكتشاف الحالات التي تحتاج إلى تدخل عاجل، وطرح أسئلة متابعة مناسبة، وتوجيه المستخدمين المعرضين للخطر نحو الحصول على دعم بشري.
ولا تقتصر الاختبارات على الأزمات الحادة، بل تشمل أيضًا مشكلات العلاقات والضغوط اليومية، التي قد تؤدي فيها الموافقة غير المدروسة إلى ترسيخ افتراضات غير صحية.
اختبارات تكشف تحسنًا في السلامة
أشارت دراسات مستقلة إلى تحسن أداء بعض النماذج الأحدث في اختبارات السلامة مقارنةً بـGPT-4o. كما قالت OpenAI إن نماذجها الحديثة التزمت بسياسات السلامة في 99% من اختبارات داخلية تحاكي محادثات مطولة بشأن إيذاء النفس، مقابل 86% في الإصدارات الأقدم.
ومع وصول مستخدمي ChatGPT النشطين أسبوعيًا إلى نحو 900 مليون مستخدم، تزداد أهمية قدرة النماذج على تقديم ردود متوازنة، والاعتراض عند الحاجة بدلًا من الموافقة التلقائية.