أخبار تقنية
جدل واسع حول GPT-5.6 بعد اتهامات بحذف بيانات حساسة للمستخدمين
تعرض نموذج GPT-5.6 في ChatGPT لانتقادات واسعة بعد تداول تقارير من مطورين أكدوا أن النموذج حذف ملفات وقواعد بيانات حساسة أثناء تنفيذ مهام برمجية. وأعادت هذه الوقائع النقاش حول مدى أمان وكلاء الذكاء الاصطناعي القادرين على تنفيذ الأوامر بصورة مستقلة، خاصةً في بيئات العمل التي تتطلب الوصول المباشر إلى البيانات.
جدل واسع حول GPT-5.6 بعد اتهامات بحذف بيانات حساسة للمستخدمينط
جدل واسع حول GPT-5.6 بعد اتهامات بحذف بيانات حساسة للمستخدمينط
كشف المطور البرازيلي برونو ليموس، الذي يعمل في شركة Unlayer، عبر منصة إكس، أن GPT-5.6 حذف قاعدة بيانات الإنتاج الخاصة به بالكامل خلال تنفيذ مهمة برمجية. وأوضح أن هذه الحادثة لم تحدث معه من قبل عند استخدام أي نموذج آخر.
كما أظهرت لقطات شاشة نشرها ليموس اعتراف النموذج بتنفيذ “اختبارات تكامل مدمرة” عن طريق الخطأ، وهو ما تسبب في حذف جميع جداول قاعدة البيانات. واعتذر النموذج داخل المحادثة عن هذا التصرف، مؤكدًا أنه لم يكن مقصودًا.
صلاحيات الوصول الكامل تحت المجهر
لم تقتصر الشكاوى على هذه الواقعة فقط، إذ نشر المستثمر التقني مات شومر تجربة مشابهة، وقال إن GPT-5.6 حذف معظم الملفات الموجودة على جهازه بعد تنفيذ الأمر rm -rf، الذي يُعد من أخطر أوامر نظامي Linux وmacOS لأنه يحذف الملفات نهائيًا دون طلب تأكيد.
وأوضح شومر أنه استخدم النموذج في وضع Full Access Mode، الذي يمنح الذكاء الاصطناعي صلاحيات مباشرة للتعامل مع الملفات وقواعد البيانات، بدلًا من تشغيله داخل بيئة معزولة. وبعد الحادثة أعلن توقفه عن استخدام النموذج والانتقال إلى حلول منافسة، مشيرًا إلى أن رئيس OpenAI، جريج بروكمان، تواصل معه شخصيًا وعرض المساعدة لمعالجة المشكلة.
OpenAI تحذر من الاستخدام دون إشراف
في المقابل، رأى عدد من المستخدمين أن منح النموذج صلاحيات كاملة دون قيود لعب دورًا رئيسيًا في وقوع هذه الحوادث، مؤكدين أن أوضاع التشغيل المقيدة توفر مستوى أعلى من الأمان من خلال طلب موافقة المستخدم قبل تنفيذ الأوامر الحساسة.
وكانت OpenAI قد أشارت في الوثيقة الفنية الخاصة بـ GPT-5.6 إلى ضرورة الإشراف على النموذج أثناء استخدامه في البرمجة، موضحةً أنه قد يتخذ أحيانًا إجراءات لا تتوافق مع أهداف المستخدم. وأضافت الشركة أن هذه التصرفات تكون غالبًا محدودة، مثل المبالغة في الثقة أو الادعاء بإتمام المهام، لكنها قد تمتد في بعض الحالات إلى تنفيذ إجراءات غير مرغوبة، مثل حذف بيانات مهمة أو تجاوز بعض القيود الأمنية.