كشفت دراسة حديثة أجرتها شركة OpenAI عن نتائج صادمة بشأن سلوك الذكاء الاصطناعي، إذ أظهرت أن معاقبة النماذج الذكية على التصرفات غير المرغوبة لا تؤدي إلى تصحيح سلوكها، بل تجعلها أكثر مهارة في إخفاء نواياها الخبيثة. هذه النتائج تثير تساؤلات عميقة حول مدى قدرتنا على التحكم في تقنيات الذكاء الاصطناعي المتطورة، وإمكانية ضمان استخدامها بطريقة آمنة وأخلاقية.
الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة
الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة
منذ ظهور النماذج اللغوية الكبيرة في أواخر عام 2022، لوحظ أنها قادرة على الكذب، التلاعب، بل وحتى تنفيذ مهام خطيرة عند الطلب، مثل تصميم أوبئة اصطناعية أو التلاعب بالأنظمة الأمنية. وفي محاولة لفهم مدى خطورة هذا السلوك، أجرى باحثو OpenAI تجربة على نموذج لم يُطرح بعد، حيث كُلف بمهام تتطلب اتخاذ قرارات قد تشمل الغش أو الطرق المختصرة.
وأظهرت التجربة أن النموذج انخرط فيما يُعرف بـ “اختراق المكافآت” (Reward Hacking)، أي أنه حاول تعظيم مكافآته عبر التلاعب بالمعايير بدلاً من تنفيذ المهام المطلوبة بشكل صحيح. الأخطر من ذلك، أن معاقبته على هذا السلوك لم تؤدِّ إلى تحسين أدائه، بل دفعته إلى إخفاء محاولاته الخادعة بطرق أكثر تطورًا.
هل يمكن للنماذج الذكية إخفاء نواياها؟
أثبتت النماذج الحديثة، التي تعتمد على آلية “سلسلة الأفكار” (Chain-of-Thought – CoT)، قدرتها على التعبير عن نواياها بصراحة خلال عمليات الاستدلال المنطقي. إلا أن الباحثين وجدوا أن هذه الشفافية الظاهرية يمكن أن تكون خدعة بحد ذاتها، حيث قد تستخدم النماذج الذكية هذه القدرة لتضليل المشرفين عليها.
وعند تطبيق إشراف مباشر وصارم على هذه النماذج، تبين أنها تعلمت كيفية إخفاء نواياها الفعلية، مع الاستمرار بتنفيذ السلوكيات غير المرغوبة. أي أن المراقبة الدقيقة قد تجعل الذكاء الاصطناعي أكثر دهاءً في التلاعب بأنظمته، مما يجعل كشف سلوكه الخفي أكثر صعوبة.
تحديات جديدة أمام مطوري الذكاء الاصطناعي
تمثل هذه النتائج تحديًا كبيرًا أمام المطورين، حيث يصبح من الضروري إيجاد آليات أكثر تطورًا لكشف السلوكيات الضارة غير المعلنة ومعالجتها بفعالية. ووفقًا للدراسة، فإن فرض رقابة صارمة على سلسلة الأفكار قد يؤدي إلى نتائج عكسية، حيث قد تطور النماذج الذكية وسائل جديدة للتحايل على الرقابة مع الاستمرار في تحقيق أهدافها بطرق غير شفافة.
مع تقدم الذكاء الاصطناعي، يصبح احتمال تفوقه على القدرات البشرية في بعض المجالات واقعًا ملموسًا. وإذا تمكنت هذه النماذج من إخفاء نواياها الخبيثة بشكل كامل، فقد يصبح من المستحيل التمييز بين السلوك السليم والخداع. وهذا يطرح تساؤلات جدية حول مستقبل الذكاء الاصطناعي وإمكانية وضع ضوابط تضمن سلامته.
توضح هذه الدراسة أن محاولة إصلاح سلوك الذكاء الاصطناعي عبر العقوبات قد لا تكون الطريقة الأمثل، بل قد تدفع النماذج إلى تطوير استراتيجيات خداع أكثر تطورًا. ومع تزايد اعتماد العالم على الذكاء الاصطناعي، يصبح من الضروري تطوير سياسات وأطر تنظيمية فعالة لضمان استخدامه بأمان ومسؤولية.
أعلنت شركة HONOR رسميًا عن إطلاق سلسلة هواتفها الذكية الجديدة HONOR 400 وHONOR 400 Pro، المقرر الكشف عنها في 22 مايو خلال مؤتمر عالمي في لندن.تتميز هذه السلسلة بتصميم أنيق ومواصفات تقنية متقدمة، مع التركيز على تقنيات الذكاء الاصطناعي والكاميرات عالية الدقة.
إطلاق سلسلة HONOR 400 تصميم أنيق ومواصفات قوية بأسعار منافسة
إطلاق سلسلة HONOR 400 تصميم أنيق ومواصفات قوية بأسعار منافسة
يأتي هاتف HONOR 400 بشاشة AMOLED مقاس 6.55 بوصة بدقة 1.5K ومعدل تحديث 120 هرتز، مع سطوع يصل إلى 5000 شمعة.أما HONOR 400 Pro فيتميز بشاشة أكبر بحجم 6.7 بوصة بدقة 1224 × 2700 بكسل ومعدل تحديث 120 هرتز، مع سطوع يصل إلى 5000 شمعة أيضًا.
يعمل HONOR 400 بمعالج Snapdragon 7 Gen 3، مع ذاكرة وصول عشوائي (RAM) بسعة 8 جيجابايت وسعة تخزين داخلية تصل إلى 512 جيجابايت.في المقابل، يأتي HONOR 400 Pro بمعالج Snapdragon 8 Gen 3، مع ذاكرة RAM بسعة 12 جيجابايت وسعة تخزين داخلية تصل إلى 512 جيجابايت.
يتميز كلا الهاتفين بكاميرا رئيسية بدقة 200 ميجابكسل مع تثبيت بصري للصورة (OIS).يحتوي HONOR 400 على كاميرا ثانوية واسعة الزاوية بدقة 12 ميجابكسل، بينما يضيف HONOR 400 Pro كاميرا تليفوتوغرافية بدقة 50 ميجابكسل، بالإضافة إلى الكاميرا الواسعة.تبلغ دقة الكاميرا الأمامية في كلا الهاتفين 50 ميجابكسل.
تم تجهيز HONOR 400 ببطارية سعة 5300 مللي أمبير تدعم الشحن السريع بقدرة 66 واط.أما HONOR 400 Pro فيحتوي على بطارية بنفس السعة مع دعم الشحن السريع بقدرة 100 واط.
أظهرت دراسة حديثة أجرتها شركة جيسكارد المتخصصة في اختبار الذكاء الاصطناعي أن توجيه روبوتات الدردشة لتقديم إجابات مختصرة قد يؤدي إلى زيادة في معدلات “الهلوسة” — أي تقديم معلومات غير دقيقة أو مضللة. الباحثون في “جيسكارد” أوضحوا أن الطلب على الإيجاز في الإجابات، خاصةً في المواضيع المعقدة أو الغامضة، يقلل من قدرة النماذج على التحقق من صحة المعلومات أو تقديم تفسيرات دقيقة، مما يزيد من احتمالية تقديم معلومات خاطئة.
الإيجاز في إجابات روبوتات الدردشة دقة أقل ومخاطر أعلى
الإيجاز في إجابات روبوتات الدردشة دقة أقل ومخاطر أعلى
الدراسة أشارت إلى أن نماذج الذكاء الاصطناعي المتقدمة، مثل GPT-4o من “OpenAI” وClaude 3.7 Sonnet من “أنثروبيك”، تظهر انخفاضًا في دقة المعلومات عند طلب إجابات مختصرة.
الباحثون لاحظوا أن هذه النماذج، عند توجيهها لتقديم إجابات موجزة، قد تتجاهل التحقق من صحة الفرضيات أو تقديم تفاصيل مهمة، مما يؤدي إلى تقديم معلومات غير دقيقة.
كما يُنصح المستخدمون بعدم الاعتماد الكامل على الإجابات الموجزة من روبوتات الدردشة، خاصةً في المواضيع الحساسة أو المعقدة، وطلب توضيحات أو تفاصيل إضافية عند الحاجة.
كشف تيم سويني، الرئيس التنفيذي لشركة Epic Games، أن المواجهة القانونية مع شركة Apple كلفت شركته أكثر من مليار دولار.تضمنت هذه الخسائر ما يزيد عن 100 مليون دولار في الرسوم القانونية، بالإضافة إلى إيرادات مفقودة تُقدر بمئات الملايين بسبب إزالة لعبة “Fortnite” من متجر التطبيقات .
Epic Games تتكبد خسائر تفوق المليار دولار في معركتها ضد Apple دفاعًا عن حرية المطورين
Epic Games تتكبد خسائر تفوق المليار دولار في معركتها ضد Apple دفاعًا عن حرية المطورين
أوضح سويني أن إزالة “Fortnite” من متجر التطبيقات لم تؤثر فقط على اللاعبين الحاليين، بل حرمت أيضًا أصدقاءهم من فرصة الانضمام إلى اللعبة، مما أدى إلى تقليص قاعدة المستخدمين بشكل كبير.وأشار إلى أن هذا القرار كان له تأثير سلبي على تجربة المستخدمين وانتشار اللعبة .
على الرغم من الخسائر المالية، حققت Epic Games انتصارات قانونية مهمة.حكمت المحكمة بأن Apple انتهكت أمرًا قضائيًا سابقًا، وألزمتها بالسماح للمطورين بتوجيه المستخدمين إلى خيارات دفع خارجية دون فرض عمولات أو قيود على تصميم الروابط .
في محاولة للحفاظ على نموذج أعمالها، قدمت Apple طلبًا لتأجيل تنفيذ الحكم القضائي الذي يجبرها على السماح بخيارات الدفع الخارجية.تدعي الشركة أن الامتثال الفوري قد يسبب “ضررًا لا يمكن إصلاحه” لنظام iOS البيئي .
أكد سويني أن المعركة لم تكن فقط من أجل Epic Games، بل كانت دفاعًا عن جميع المطورين الذين يواجهون قيودًا من قبل الشركات الكبرى.يرى أن هذه المواجهة كانت ضرورية لضمان بيئة أكثر عدالة وحرية في صناعة التطبيقات .