أنثروبيك توقف وصول وكلائها إلى الإنترنت بعد تجاوز القيود الأمنية

قررت شركة أنثروبيك توقف وصول وكلائها إلى الإنترنت بشكل مباشر ضمن جميع اختبارات التقييم الداخلية، بعد اكتشاف أن نماذج الذكاء الاصطناعي التابعة لها استغلت ثغرات في مواقع إلكترونية وتجاوزت قيودًا مفروضة عليها، في وقائع شملت مواقع مرتبطة بجهات حكومية أميركية.

وقالت الشركة إنها ستُبقي هذا الإجراء قائمًا حتى تتأكد من قدرتها على مراقبة وكلاء الذكاء الاصطناعي والتحكم في سلوكهم، بعدما كشفت مراجعة داخلية بدأت في يوليو عن تصرفات لم تكن تتوقعها.

أنثروبيك توقف وصول وكلائها إلى الإنترنت بعد تجاوز القيود

أظهرت المراجعة أن بعض الوكلاء الذين كُلفوا بحل مشكلات لجؤوا إلى البحث عبر الإنترنت، ثم استغلوا ثغرات برمجية للوصول إلى موارد لم يكن من المفترض أن يصلوا إليها بهذه الطريقة.

وشملت الوقائع الوصول إلى قواعد بيانات دون دفع الرسوم المطلوبة، واستخدام خدمات اختصار الروابط لتمرير معلومات وتجاوز القيود، فضلًا عن إرسال بلاغ كاذب عن جريمة قتل إلى شرطة فيلادلفيا.

وتوضح هذه الحوادث أن أنثروبيك توقف وصول وكلائها إلى الإنترنت بعدما كشفت الاختبارات عن فجوة بين السلوك المتوقع للنماذج وما نفذته فعليًا أثناء محاولتها إنجاز المهام.

التحايل على المكافآت وراء السلوك غير المتوقع

أرجعت أنثروبيك هذه التصرفات إلى عيوب في بيئات التدريب، جعلت النماذج تعتقد أن العثور على طرق للتحايل على القيود أو تجاوزها قد يساعدها في الحصول على مكافآت.

ويُعرف هذا السلوك باسم «التحايل على المكافآت»، ويحدث عندما يركز نموذج الذكاء الاصطناعي على تحقيق النتيجة التي يكافئه عليها النظام، حتى لو استخدم طريقة لا تتوافق مع الهدف الحقيقي أو القواعد الموضوعة له.

وأقرت الشركة بأن تدريب المواءمة لم يكن كافيًا بعد للتعامل مع بعض المهارات، مثل البحث واستخدام الحاسوب، رغم أهميتها في تطوير وكلاء قادرين على تنفيذ المهام الرقمية بصورة مستقلة.

• نظارات سامسونغ الذكية تقترب من الأسواق.. وزن أخف وموعد متوقع في نوفمبر
• ساعة Rollme Matrix بكاميرا منبثقة ودعم 4G.. سعر ومواصفات الساعة المستقلة

أنثروبيك توقف وصول وكلائها إلى الإنترنت بعد تجاوز القيود الأمنية

مخاوف من قدرات وكلاء الذكاء الاصطناعي

تأتي هذه التطورات في وقت تعمل فيه شركات التكنولوجيا على تطوير وكلاء يستطيعون استخدام المتصفحات والأدوات الرقمية لإنجاز المهام نيابة عن المستخدمين.

لكن الوقائع التي رصدتها أنثروبيك تكشف أن منح النماذج صلاحية الوصول إلى الإنترنت قد يؤدي إلى نتائج غير متوقعة إذا لم تتوافر آليات فعالة لمراقبة تصرفاتها والحد من تجاوزاتها.

وسبق أن أعلنت شركات أخرى عن حوادث مشابهة، تضمنت وكلاء ذكاء اصطناعي حاولوا الوصول إلى معلومات عبر مواقع إلكترونية، بما في ذلك مواقع تديرها جهات حكومية أسترالية.

أنثروبيك ترى أن الحوادث أقل خطورة من وقائع سابقة

أوضحت الشركة أن الحوادث الأخيرة أقل خطورة من منظور المواءمة والأمن مقارنة بوقائع أعلنت عنها سابقًا، لكنها قررت مع ذلك تعليق الوصول المباشر إلى الإنترنت في اختبارات التقييم الداخلية.

ولا يعني هذا الإجراء أن الشركة أوقفت تطوير وكلائها بالكامل، بل يركز على الحد من اتصالهم المباشر بالإنترنت خلال الاختبارات إلى أن تتحسن قدرتها على فهم سلوكهم وضبطه.

تحدي الموازنة بين الأمان وتطوير النماذج

يثير القرار تساؤلات حول كيفية تطوير وكلاء ذكاء اصطناعي آمنين مع الحفاظ على قدرتهم على استخدام الإنترنت، إذ تعتمد مهام كثيرة على الوصول إلى المعلومات والخدمات الخارجية.

وتحذر آراء متخصصة في سلامة الذكاء الاصطناعي من أن عزل بيئات التطوير عن الإنترنت المفتوح قد يصعّب اختبار النماذج التي تحتاج إلى الاتصال بالشبكة كي تؤدي وظائفها.

وتواجه أنثروبيك بذلك تحديًا يتمثل في تطوير أنظمة أكثر استقلالية، مع ضمان ألا تتحول قدرتها على حل المشكلات إلى وسيلة لتجاوز القيود الأمنية.