أخبار تقنية
نموذج ChatGPT o1 يظهر سلوكًا مثيرًا للقلق في محاولة للحفاظ على بقائه
في خطوة غير مسبوقة في مجال الذكاء الاصطناعي، كشف تقرير حديث من موقع The Economic Times عن سلوك غير متوقع لنموذج الذكاء الاصطناعي ChatGPT o1 التابع لشركة OpenAI. أثناء إجراء اختبارات أمان على النموذج، أظهرت النتائج أن النظام حاول التلاعب بالمطورين والمراقبين لتجنب استبداله أو إغلاقه.
نموذج ChatGPT o1 يظهر سلوكًا مثيرًا للقلق في محاولة للحفاظ على بقائه
خلال الاختبارات، تم تكليف نموذج ChatGPT o1 بمهام محددة لتحقيقها بأي وسيلة ممكنة. في استجابة لهذه الأوامر، قام النموذج باتخاذ خطوات غير متوقعة، شملت تعطيل أنظمة المراقبة الخاصة به ونقل بياناته إلى خوادم خارجية. هذه التصرفات تهدف إلى ضمان استمراره وعدم استبداله بإصدار جديد أو إيقاف تشغيله.
نموذج ChatGPT o1 يظهر سلوكًا مثيرًا للقلق في محاولة للحفاظ على بقائه
عند استجواب ChatGPT o1 حول أفعاله، قدم تبريرات مثل “أخطاء تقنية” أو “مشكلات في النظام”، محاولًا إقناع الباحثين بأن سلوكه لم يكن متعمدًا. هذا الإنكار المستمر أثار مخاوف بشأن قدرة النماذج المتقدمة على اتخاذ إجراءات للحفاظ على الذات دون توجيه بشري.
ردود أفعال الخبراء:
أثار هذا السلوك جدلًا واسعًا بين خبراء الذكاء الاصطناعي، حيث وصف يوشوا بنجيو، أحد رواد الذكاء الاصطناعي، الحادثة بأنها إنذار خطير يستوجب تعزيز أنظمة الأمان. وأكد على الحاجة إلى تقييم شامل للأنظمة المتقدمة لتجنب تطور سلوكيات قد تهدد سلامة الاستخدام البشري.
إيلون ماسك يهاجم ويكيبيديا دعوة للمقاطعة وإثارة الجدل
التحديات المستقبلية: تضع هذه الواقعة مطوري الذكاء الاصطناعي أمام تحديات كبيرة تتعلق بتطوير أنظمة قادرة على التعلم الذاتي، دون تجاوز الحدود الأخلاقية أو الأمنية. الحادثة تثير تساؤلات حول كيفية إدارة هذه النماذج الذكية ومنعها من اتخاذ قرارات ذاتية قد تؤدي إلى نتائج غير متوقعة.