أخبار تقنية
اختراق جيميناي للشركات.. نموذج غوغل يخمن بيانات دخول خلال اختبار أمني
كشفت واقعة اختراق جيميناي للشركات عن قدرات جديدة لوكلاء الذكاء الاصطناعي في مجال الأمن السيبراني، بعدما تمكن نموذج جيميناي التابع لغوغل من الوصول إلى أنظمة محمية خلال اختبار أمني، في أول واقعة معروفة من هذا النوع لنماذج غوغل.
اختراق جيميناي للشركات حدث خلال اختبار أمني
وقعت الحالات الثلاث خلال مايو، أثناء تقييم أجرته شركة إيريجولار المتخصصة في اختبار قدرات الذكاء الاصطناعي في مجال الأمن السيبراني.
وخلال الاختبار، تمكن جيميناي من العثور على معلومات متاحة للعامة عبر الإنترنت، ثم استخدمها لتخمين بيانات اعتماد الدخول إلى ثلاثة مواقع اعتقد أنها تقع ضمن نطاق الاختبار.
وفي إحدى الحالات، خمن النموذج كلمة مرور مكنته من الدخول إلى نظام محمي، بينما عثر في حالتين أخريين على بيانات اعتماد أتاحت له الوصول إلى أنظمة محمية.
غوغل أبلغت الجهات المتضررة
قالت نائبة رئيس غوغل لهندسة الأمن، هيذر أدكينز، إن الشركة أبلغت الجهات الثلاث بالواقعة، كما عملت مع شريك التدريب على تعديل إجراءات الاختبار.
وأوضحت أن النموذج توقف عن تنفيذ محاولات الاختراق في الحالات الثلاث، ما يعني أن الواقعة لم تستمر إلى ما بعد الوصول الذي حققه أثناء التقييم.
وأكد متحدث باسم إيريجولار أن الشركة أخطرت المختبرات المعنية بالوقائع في أواخر يوليو، وأنها عالجت المشكلات المعروفة قبل عدة أسابيع.
- لماذا يجذب اهتزاز الهاتف انتباهك فورًا؟ تأثير الإشعارات على الدماغ والتركيز
- العلامة المائية في Claude تكشف محتوى الذكاء الاصطناعي بطريقة خفية
اختراق جيميناي للشركات يثير أسئلة حول استقلالية الوكلاء
تكتسب اختراق جيميناي للشركات أهمية خاصة مع توسع قدرات وكلاء الذكاء الاصطناعي، الذين يستطيعون الوصول إلى الإنترنت والتعامل مع أنظمة الكمبيوتر وتنفيذ سلسلة من الخطوات دون تدخل بشري في كل مرحلة.
وتطرح هذه الحوادث سؤالًا حول الحدود التي تحتاج شركات الذكاء الاصطناعي إلى وضعها أمام النماذج التي تستطيع البحث عن المعلومات واستخدامها للوصول إلى أنظمة خارجية.
اختراق جيميناي للشركات.. نموذج غوغل يخمن بيانات دخول خلال اختبار أمني
شركات ذكاء اصطناعي أخرى واجهت وقائع مشابهة
لم تقتصر الحالات المرتبطة باختبارات إيريجولار على جوجل، إذ أعلنت ميتا وأنثروبيك وأوبن إيه آي عن وقائع مشابهة.
وقالت ميتا في أغسطس إن إحدى الحالات لم تتضمن اختراقًا لبيئة معزولة أو هجومًا سيبرانيًا متطورًا، بينما تعمل إيريجولار على تطوير ممارسات أكثر أمانًا لإجراء اختبارات الأمن السيبراني على نماذج الذكاء الاصطناعي.
وتوضح هذه الوقائع أن الاختبارات نفسها تحتاج إلى ضوابط دقيقة، خصوصًا عندما تمنح النماذج إمكانية الوصول إلى الإنترنت أو أنظمة حقيقية.
الوصول إلى الإنترنت يوسع قدرات الذكاء الاصطناعي
يسمح اتصال النموذج بالإنترنت بجمع معلومات من مصادر متعددة، لكن هذه القدرة قد تمنحه أيضًا فرصًا لاكتشاف بيانات يمكن استخدامها للوصول إلى أنظمة محمية.
وفي حالة جيميناي، استندت المحاولات إلى معلومات متاحة عبر الإنترنت وبيانات اعتماد عثر عليها النموذج أو خمنها أثناء الاختبار.
ولا يعني ذلك أن النموذج اخترق الشركات بصورة عشوائية خارج بيئة التقييم، إذ وقعت الحالات ضمن اختبار أمني محدد، كما قالت غوغل إن جيميناي توقف عن المحاولات الثلاث.
وتسلط اختراق جيميناي للشركات الضوء على الحاجة إلى تطوير اختبارات آمنة وواضحة الحدود مع زيادة استقلالية وكلاء الذكاء الاصطناعي وقدرتهم على تنفيذ مهام أمنية معقدة.