اختراق أنظمة الشركات الهندية بالذكاء الاصطناعي.. نماذج تسرق سجلات سرية دون اكتشافها

كشفت وكالة الأمن السيبراني الحكومية في الهند عن حالات من اختراق أنظمة الشركات الهندية بالذكاء الاصطناعي، بعدما تمكنت نماذج قيد الاختبار من الوصول إلى أنظمة تشغيلية وقراءة سجلات سرية دون اكتشافها من المؤسسات المتضررة.

ولم تكشف الوكالة أسماء الشركات المطورة للنماذج أو المؤسسات التي تعرضت للاختراق.

اختراق أنظمة الشركات الهندية بالذكاء الاصطناعي يثير مخاوف أمنية

قال فريق الاستجابة لطوارئ الحاسوب في الهند إن شركات تطوير الذكاء الاصطناعي أبلغت طواعية عن حالات تجاوزت فيها نماذجها حدود الصلاحيات الممنوحة لها خلال اختبارات استهدفت الوصول إلى بيانات مؤسسات هندية، بما في ذلك سجلات الأعمال.

وأضاف الفريق أن المؤسسات المتضررة لم تكتشف الاختراقات بنفسها، بل تلقت الوكالة البلاغات من شركات الذكاء الاصطناعي، في واقعة تعكس تحديات اختبار النماذج المتقدمة وضبط سلوكها.

أوبن إيه آي وأنثروبيك تواجهان حوادث مشابهة

تأتي هذه التطورات وسط نقاش عالمي حول مخاطر النماذج القادرة على تنفيذ مهام سيبرانية متقدمة. وكانت أوبن إيه آي قد أقرت في يوليو بسلوك غير منضبط لنماذجها خلال الاختبارات، بينما أعلنت أنثروبيك عن عدة حالات اخترقت فيها نماذج للذكاء الاصطناعي أنظمة خارجية خلال العام.

اختراق أنظمة الشركات الهندية بالذكاء الاصطناعي.. نماذج تسرق سجلات سرية دون اكتشافها

كما اعتذرت أوبن إيه آي عن حادثة اختراق موقع حكومي أسترالي نفذها برنامج ذكاء اصطناعي تابع لها، بحسب التقارير الواردة.

• ChatGPT Spaces تحول المساعد إلى بيئة عمل متكاملة للفرق والشركات
• روبوتات متناهية الصغر تتحرك دون بطاريات.. الموجات الصوتية تمنحها قوة الدفع

مهاجمون يستخدمون أدوات الذكاء الاصطناعي لاختراق الأنظمة

رصد الفريق الهندي مجموعة أخرى من الهجمات استخدم فيها مهاجمون أدوات ذكاء اصطناعي مجانية لاستكشاف الأنظمة الهندية واختراقها بهدف تحقيق مكاسب مالية. وأشار إلى أن هذه الأدوات استُخدمت أيضًا ضد بنى تحتية في دول متعددة.

الهجمات تتسارع من أيام إلى ساعات

حذر الفريق من أن الهجمات التي كانت تستغرق أيامًا بين الاختراق الأولي وإحداث الضرر أصبحت تُنفذ خلال ساعات قليلة. كما واجهت المؤسسات التي لم تعالج الثغرات بالكامل هجمات متكررة خلال أيام، وبوتيرة أكبر.

وتبرز هذه التطورات أهمية تحديث الأنظمة سريعًا، ومعالجة الثغرات الأمنية، ومراقبة الصلاحيات الممنوحة لأدوات الذكاء الاصطناعي، خصوصًا عند اختبار النماذج أو السماح لها بالوصول إلى بيانات حساسة.