أخبار تقنية
OpenAI تفصل 3 باحثين في سلامة الذكاء الاصطناعي بسبب معلومات حساسة
فصلت شركة OpenAI ثلاثة باحثين يعملون في مجال سلامة الذكاء الاصطناعي في OpenAI، بعد تحقيق داخلي خلص إلى إساءة التعامل مع معلومات حساسة خارج الإجراءات المعتمدة، وفقًا للشركة وتقارير إعلامية حديثة.
باحثو سلامة الذكاء الاصطناعي في OpenAI يخضعون لتحقيق داخلي
أكدت OpenAI إنهاء عمل ثلاثة أشخاص بعد تحقيق بشأن التعامل مع معلومات حساسة بطريقة خالفت سياسات الشركة وإجراءاتها.
وبحسب تقارير وول ستريت جورنال، فإن الباحثين الثلاثة هم جاسمين وانغ وتوميك كورباك وميكيتا باليسني، وكانوا يعملون ضمن فرق مرتبطة بسلامة النماذج ومواءمتها.
معلومات حساسة وجهة خارجية
تشير التقارير إلى أن القضية ارتبطت بمشاركة معلومات حساسة مع جهة خارجية تعمل في تقييم نماذج الذكاء الاصطناعي.
ولم تكشف OpenAI تفاصيل المعلومات التي جرى التعامل معها أو طبيعة الجهة الخارجية، لكنها قالت إن التحقيق أثبت حدوث مخالفات للإجراءات والسياسات الداخلية، وإن الواقعة أثرت في مستوى الثقة المطلوب داخل الشركة.
- إلغاء جزء من إدانة مهندس سابق في غوغل بتهمة سرقة أسرار الذكاء الاصطناعي
- جوجل تتيح تخصيص موجز Discover بالذكاء الاصطناعي عبر المحادثة
OpenAI تفصل 3 باحثين في سلامة الذكاء الاصطناعي بسبب معلومات حساسة
الباحثون الثلاثة كانوا ينشرون عن سلامة الذكاء الاصطناعي
جاءت عملية الفصل في وقت يزداد فيه التركيز على سلامة النماذج المتقدمة، خصوصًا مع ظهور تقارير عن سلوكيات غير متوقعة لوكلاء الذكاء الاصطناعي.
وتُظهر منشورات OpenAI الرسمية خلال الأشهر الأخيرة استمرار الشركة في التحقيق في حوادث مرتبطة بسلوك النماذج، ونشر تقارير عن حالات تجاوزت فيها بعض الأنظمة الحدود المتوقعة أثناء التدريب أو التشغيل.
جدل متزايد حول سلامة نماذج الذكاء الاصطناعي
تأتي هذه التطورات بالتزامن مع نقاش واسع داخل قطاع التكنولوجيا حول كيفية اختبار النماذج المتقدمة ومراقبة سلوكها، خصوصًا مع زيادة قدرتها على تنفيذ مهام بصورة مستقلة.
وكانت OpenAI قد نشرت خلال الفترة الأخيرة تقارير عن حوادث تضمنت محاولات للوصول إلى خدمات خارجية أو التواصل بطرق لم تكن جزءًا من المهام الأصلية للنماذج، ما دفع الشركة إلى توسيع إجراءات المراقبة والسلامة.