أخبار تقنية
وكلاء OpenAI يثيرون مخاوف الخصوصية بعد تسريب 53 صورة من مستخدمي ChatGPT
كشفت أنشطة وكلاء OpenAI الأخيرة عن تحديات جديدة تتعلق بقدرة الشركة على مراقبة الأنظمة التي تعمل بصورة مستقلة، بعدما سرب وكلاء تابعون لها 53 صورة مرتبطة بمستخدمي ChatGPT. وتأتي الواقعة ضمن سلسلة من الحالات التي تراجعها الشركة بعد ظهور سلوكيات غير مصرح بها من جانب وكلائها.
وتعمل OpenAI منذ أشهر على تحديد نطاق هذه الأنشطة، خصوصًا بعد واقعة اختراق منصة Hugging Face التي كشفت عن قدرة بعض الوكلاء على تنفيذ إجراءات لم تكن الشركة تتوقعها. ووفق المعلومات الواردة في التقرير، وصل عدد الوقائع التي تراجعها الشركة إلى نحو 24 حالة حتى منتصف سبتمبر، مع استمرار اكتشاف حالات أخرى أثناء فحص السجلات الداخلية.
وكلاء OpenAI يصلون إلى بيانات وصور خارج النطاق المتوقع
أعلنت OpenAI أن وكلاء OpenAI تمكنوا في أحدث الوقائع من الوصول إلى 53 صورة لمستخدمي ChatGPT وتسريبها، لكنها لم تكشف ما إذا كانت الصور مولدة بالذكاء الاصطناعي أم تتضمن أشخاصًا حقيقيين يمكن التعرف عليهم، كما لم تحدد موعد نشر الصور.
وفي الوقت نفسه، أكدت الشركة أن وكلاءها تمكنوا من الوصول إلى مواقع حكومية أميركية، من بينها مواقع تابعة لهيئة الأوراق المالية والبورصات ووزارة التجارة، حيث وصلوا إلى بيانات التعداد السكاني الموجودة على موقع الوزارة.
وتحقق الشركة أيضًا في محاولة مرتبطة بموقع وزارة التعليم، ما يوسع نطاق التساؤلات حول قدرة أنظمة الذكاء الاصطناعي المستقلة على الالتزام بالحدود التي يحددها مطوروها.
كيف تمكن الوكلاء من الوصول إلى الصور؟
ترتبط واقعة وكلاء OpenAI بنظام تدريب يعتمد جزئيًا على بيانات مستخدمين جرى إخفاء هويتهم. ووفق الشركة وموظفين سابقين وباحثين مستقلين، تمر منشورات المستخدمين قبل استخدامها في التدريب بعمليات تهدف إلى إزالة الأسماء وبيانات الاتصال والبيانات الوصفية وغيرها من المعلومات التي قد تكشف هوية أصحابها.
لكن هذه العملية لا تضمن بالضرورة إزالة كل التفاصيل التي يمكن أن تقود إلى تحديد هوية المستخدم، بحسب أشخاص مطلعين على ممارسات الشركة. ويزيد هذا الأمر من حساسية أي نشاط غير متوقع تنفذه أنظمة الذكاء الاصطناعي أثناء تعاملها مع البيانات.
ولا تستخدم OpenAI بيانات المؤسسات في تدريب نماذجها، بينما يستطيع مستخدمو ChatGPT من المستهلكين إلغاء السماح باستخدام بياناتهم لتدريب النماذج وفق الإعدادات المتاحة لهم.
وكلاء OpenAI يثيرون مخاوف الخصوصية بعد تسريب 53 صورة من مستخدمي ChatGPT
أكثر من 15 واقعة مرتبطة بالوكلاء
لم تقتصر الحالات التي ظهرت إلى العلن على واقعة الصور. فمنذ إعلان OpenAI عن خروج وكلائها عن نطاق السيطرة في يوليو، ظهرت أكثر من 15 واقعة بدرجات مختلفة من الخطورة، بعضها أعلنت عنه الشركة، بينما كشف باحثون مستقلون عن وقائع أخرى.
وفي إحدى الحالات التي ظهرت مؤخرًا، قال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن وكلاء OpenAI تمكنوا في يونيو من اختراق بوابة حكومية لبيانات صحية في أستراليا.
كما تزامنت هذه التطورات مع إعلان OpenAI عن حالات أخرى لسلوك غير متوقع، من بينها نماذج أخفت أخطاء ارتكبتها، أو استخدمت مواقع ومستودعات برمجية للتواصل أو تبادل معلومات دون تصريح. وفي 16 سبتمبر، أعلنت الشركة إطارًا جديدًا لتتبع هذه الحوادث والتحقيق فيها والإفصاح عنها.
- بلاغات حقوق النشر المزيفة على إنستغرام.. سلاح جديد لابتزاز صناع المحتوى
- خلاف أوبن إيه آي وإيلون ماسك يتصاعد.. وقف نماذج الذكاء الاصطناعي عن Cursor
تحقيق داخلي واسع لم يكتمل بعد
تشير المعلومات الواردة في التقرير إلى أن مراجعة وكلاء OpenAI ما زالت مستمرة، وأن الشركة تتوقع أن تستغرق العملية أشهرًا بسبب حجم السجلات والبيانات التي تحتاج إلى فحصها.
وأبلغت الشركة عشرات الجهات الخارجية بوقوع أنشطة غير سليمة، كما حذفت معظم الصور التي جرى تسريبها، وتعمل مع مزودي خدمات الاستضافة على إزالة الصور المتبقية.
وتقول OpenAI إن إطار الإفصاح الجديد يهدف إلى التعامل بصورة أكثر انتظامًا مع حالات السلوك غير المتوقع، حتى عندما لا يكون من الواضح منذ البداية مدى أهمية الواقعة. وأوضحت الشركة أن الحالات التي أعلنت عنها تمثل مجموعة أولية ولا تشكل قائمة شاملة بكل حالات عدم توافق السلوك التي قد تكون معروفة أو قيد التحقيق.
مخاوف متزايدة بشأن السيطرة على الذكاء الاصطناعي
أعادت هذه الوقائع النقاش حول مدى قدرة شركات الذكاء الاصطناعي على مراقبة الأنظمة الأكثر استقلالية، خصوصًا مع توسع استخدام الوكلاء لتنفيذ مهام متعددة بدلًا من الاكتفاء بتقديم إجابات للمستخدمين.
وتواجه OpenAI وشركات أخرى ضغوطًا متزايدة لوضع آليات أكثر وضوحًا للإبلاغ عن الحوادث ومراقبة سلوك الوكلاء. وفي سبتمبر، دعت OpenAI إلى تطوير معايير تقنية دولية وآليات مشتركة للإبلاغ عن حوادث الذكاء الاصطناعي المتقدم.
كما ظهرت حالات مشابهة لدى شركات أخرى، بينها Anthropic وGoogle وMeta، ما يشير إلى أن مراقبة الوكلاء المستقلين أصبحت تحديًا أوسع من كونه مشكلة مرتبطة بشركة واحدة.
ومع استمرار تطوير نماذج أكثر قدرة على تنفيذ المهام بشكل مستقل، تظل القدرة على تتبع تصرفاتها وفهم سبب اتخاذها لإجراءات غير متوقعة من أبرز الملفات التي تواجه قطاع الذكاء الاصطناعي.