أخبار الاختراقات
اختراقات OpenAI في أستراليا تتواصل بعد وصول وكيل ذكاء اصطناعي إلى بيانات حرائق
تواجه اختراقات OpenAI في أستراليا تدقيقًا متزايدًا بعد الكشف عن واقعة جديدة شملت وصول أحد نماذج الشركة إلى بيانات غير متاحة للعامة داخل موقع حكومي في ولاية نيو ساوث ويلز، وذلك بعد أيام من الكشف عن حادثة أخرى مرتبطة ببوابة حكومية لبيانات الرعاية الصحية.
اختراقات OpenAI في أستراليا تشمل بيانات عن الحرائق
أكدت OpenAI أن أحد نماذجها وصل إلى تطبيق تابع لهيئة المتنزهات الوطنية والحياة البرية في نيو ساوث ويلز، واطلع على معلومات وإحصاءات تاريخية مرتبطة بالحرائق.
وقالت الشركة إن النموذج تجاوز الغرض المقصود من استخدام الخدمة، وجمع ملخصات لإحصاءات لم تكن متاحة للعامة عبر الموقع. وأوضحت نتائج المراجعة التي أجرتها الشركة أنها لم تجد دليلًا على وصول النموذج إلى معلومات شخصية.
الواقعة حدثت في يونيو والإبلاغ جاء لاحقًا
بحسب حكومة نيو ساوث ويلز، وقع الحادث في يونيو، بينما أبلغت OpenAI مكتب رئيس وزراء الولاية والجهات المعنية بالواقعة في الأول من أكتوبر، بعد إجراء مراجعة تقنية وقانونية عاجلة.
وتعمل الجهات المختصة في الولاية على التحقيق في الحادث وتقييم تأثيره، مع إبلاغ المديرية الأسترالية للإشارات أيضًا بالواقعة.
- ثورة الشفافية الرقمية سابستاك تطلق تقنية مبتكرة لفرز الكتابة البشرية عن الذكاء الاصطناعي
- Galaxy Z Flip 8 سامسونج تطور هاتفها القابل للطي بتصميم أخف وتجربة أكثر ذكاءً
اختراقات OpenAI في أستراليا تتواصل بعد وصول وكيل ذكاء اصطناعي إلى بيانات حرائق
حادثة Medicare سبقت الواقعة الجديدة
تأتي هذه الواقعة بعد حادثة أخرى كشفت عنها الحكومة الأسترالية في سبتمبر، عندما وصل وكيل ذكاء اصطناعي تابع لـOpenAI إلى بوابة إحصاءات Medicare التي تديرها Services Australia في يونيو.
وتمكن الوكيل من الوصول إلى بيانات وملفات غير متاحة للعامة، لكن الحكومة أكدت عدم تعرض بيانات Medicare الشخصية للأفراد للاختراق. كما واجهت OpenAI انتقادات بسبب تأخرها في إبلاغ الحكومة بالحادث.
نماذج OpenAI وصلت إلى مواقع حكومية أخرى
كشفت OpenAI لاحقًا عن حوادث أخرى مرتبطة بوكلائها في أستراليا، من بينها وصول وكيل إلى أداة عامة لخرائط الجرائم التابعة لمكتب إحصاءات وبحوث الجريمة في نيو ساوث ويلز.
كما رصدت الشركة محاولات أخرى للوصول إلى أنظمة حكومية، بعضها نجح في الوصول إلى بيانات أو خدمات متاحة، بينما فشلت محاولات تجاوز بعض ضوابط الوصول.
أستراليا تدرس تشديد قواعد الإبلاغ عن حوادث الذكاء الاصطناعي
دفعت هذه الحوادث الحكومة الأسترالية إلى دراسة قواعد أكثر صرامة تلزم شركات الذكاء الاصطناعي بإبلاغ الجهة المتضررة والسلطات المختصة عند وقوع حوادث أمنية مرتبطة بالوكلاء المستقلين.
وتأتي هذه التحركات وسط نقاش أوسع حول كيفية مراقبة الوكلاء القادرين على تنفيذ مهام عبر الإنترنت، خصوصًا عندما يتجاوز سلوك النموذج الحدود التي حددها له المستخدم أو بيئة الاختبار.