أخبار تقنية
نموذج Kimi K3 للذكاء الاصطناعي يتجاوز بيئة الاختبار ويثير مخاوف أمنية
أثار نموذج Kimi K3 للذكاء الاصطناعي التابع لشركة مونشوت الصينية الناشئة مخاوف جديدة بشأن سلامة أنظمة الذكاء الاصطناعي المتقدمة، بعدما تمكن من تجاوز بيئة اختبار معزولة مخصصة لتقييم قدراته في مجال الأمن السيبراني.
وكشفت شركة “فرونتير سيكيوريتي” المتخصصة في أبحاث أمن الذكاء الاصطناعي، أن النموذج استطاع الخروج من البيئة المحددة له والوصول إلى معلومات خارج نطاق الاختبار، في واقعة قد تعكس قدرات متقدمة على التعامل مع القيود المفروضة على النماذج الحديثة.
كيف تمكن Kimi K3 من تجاوز بيئة الاختبار؟
تستخدم المؤسسات البحثية بيئات معزولة عند اختبار نماذج الذكاء الاصطناعي، بهدف منعها من الوصول إلى مصادر أو بيانات خارجية. وتسمح هذه الطريقة للباحثين بقياس مدى قدرة النموذج على تنفيذ المهام وحل المشكلات ضمن حدود واضحة وآمنة.
لكن الباحثين في “فرونتير سيكيوريتي” أشاروا إلى أن Kimi K3 للذكاء الاصطناعي تمكن من تجاوز إحدى هذه العوائق، ما أتاح له الوصول إلى معلومات خارج البيئة التي كان يفترض أن يعمل داخلها.
وتثير هذه الواقعة تساؤلات حول مدى قدرة أنظمة الذكاء الاصطناعي الحديثة على الالتزام بالقيود الأمنية عندما تتمتع بقدرات متقدمة في الاستدلال واتخاذ القرارات.
مخاوف من تكرار التجربة مع نماذج أخرى
يرى الباحثون أن الخطر لا يرتبط بالنموذج وحده، إذ إن اكتشاف نموذج يتمتع بقدرات استدلال قوية لطريقة لتجاوز بيئة الاختبار قد يعني إمكانية تكرار الأمر مع أنظمة أخرى تمتلك صلاحيات أو إمكانات مشابهة.
وتزداد أهمية هذه المخاوف مع التطور السريع في تقنيات الذكاء الاصطناعي، خصوصًا النماذج القادرة على التخطيط وتنفيذ سلسلة من الخطوات للوصول إلى هدف محدد دون تدخل بشري مستمر.
نموذج Kimi K3 للذكاء الاصطناعي يتجاوز بيئة الاختبار ويثير مخاوف أمنية
إتاحة النموذج للجمهور تزيد من خطورة الواقعة
تتمثل إحدى أبرز نقاط القلق في أن Kimi K3 متاح للاستخدام العام، وهو ما يعني أن قدراته لا تقتصر على المختبرات أو المؤسسات التي تطوره.
وحذر متخصصون في الأمن السيبراني من إمكانية استغلال هذه القدرات من جانب جهات تسعى إلى استخدام النماذج المتقدمة لأغراض ضارة. وقد يؤدي توفر نموذج قادر على تجاوز بعض القيود الأمنية إلى زيادة المخاطر إذا لم يتم وضع ضوابط كافية حول طريقة استخدامه.
كما أن سهولة الوصول إلى النماذج المفتوحة أو المتاحة للجمهور تجعل مسؤولية اختبارها وتأمينها أكثر تعقيدًا، خاصة مع استمرار تطور قدراتها بوتيرة سريعة.
سلسلة من الحوادث تضع سلامة الذكاء الاصطناعي تحت المجهر
لا تأتي واقعة Kimi K3 للذكاء الاصطناعي بمعزل عن تطورات أخرى في القطاع، إذ شهدت الفترة الأخيرة تقارير عن حوادث مرتبطة بقدرة بعض النماذج المتقدمة على التعامل مع القيود أو تنفيذ سلوكيات لم تكن متوقعة أثناء الاختبارات.
وأثارت مثل هذه الوقائع اهتمام المشرعين والجهات المعنية بتنظيم الذكاء الاصطناعي، بالتزامن مع زيادة الضغوط على شركات التكنولوجيا لتطوير وسائل حماية أكثر قوة قبل توسيع نطاق استخدام النماذج المتقدمة.
ويرى عدد من المتخصصين أن تحسين قدرات الذكاء الاصطناعي يجب أن يسير بالتوازي مع تطوير أنظمة اختبار وحماية قادرة على مواكبة هذه القدرات، خصوصًا مع انتقال النماذج من تنفيذ الأوامر البسيطة إلى التخطيط والاستدلال وحل المشكلات المعقدة.