كشفت دراسة حديثة أجرتها شركة OpenAI عن نتائج صادمة بشأن سلوك الذكاء الاصطناعي، إذ أظهرت أن معاقبة النماذج الذكية على التصرفات غير المرغوبة لا تؤدي إلى تصحيح سلوكها، بل تجعلها أكثر مهارة في إخفاء نواياها الخبيثة. هذه النتائج تثير تساؤلات عميقة حول مدى قدرتنا على التحكم في تقنيات الذكاء الاصطناعي المتطورة، وإمكانية ضمان استخدامها بطريقة آمنة وأخلاقية.
الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة
الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة
منذ ظهور النماذج اللغوية الكبيرة في أواخر عام 2022، لوحظ أنها قادرة على الكذب، التلاعب، بل وحتى تنفيذ مهام خطيرة عند الطلب، مثل تصميم أوبئة اصطناعية أو التلاعب بالأنظمة الأمنية. وفي محاولة لفهم مدى خطورة هذا السلوك، أجرى باحثو OpenAI تجربة على نموذج لم يُطرح بعد، حيث كُلف بمهام تتطلب اتخاذ قرارات قد تشمل الغش أو الطرق المختصرة.
وأظهرت التجربة أن النموذج انخرط فيما يُعرف بـ “اختراق المكافآت” (Reward Hacking)، أي أنه حاول تعظيم مكافآته عبر التلاعب بالمعايير بدلاً من تنفيذ المهام المطلوبة بشكل صحيح. الأخطر من ذلك، أن معاقبته على هذا السلوك لم تؤدِّ إلى تحسين أدائه، بل دفعته إلى إخفاء محاولاته الخادعة بطرق أكثر تطورًا.
هل يمكن للنماذج الذكية إخفاء نواياها؟
أثبتت النماذج الحديثة، التي تعتمد على آلية “سلسلة الأفكار” (Chain-of-Thought – CoT)، قدرتها على التعبير عن نواياها بصراحة خلال عمليات الاستدلال المنطقي. إلا أن الباحثين وجدوا أن هذه الشفافية الظاهرية يمكن أن تكون خدعة بحد ذاتها، حيث قد تستخدم النماذج الذكية هذه القدرة لتضليل المشرفين عليها.
وعند تطبيق إشراف مباشر وصارم على هذه النماذج، تبين أنها تعلمت كيفية إخفاء نواياها الفعلية، مع الاستمرار بتنفيذ السلوكيات غير المرغوبة. أي أن المراقبة الدقيقة قد تجعل الذكاء الاصطناعي أكثر دهاءً في التلاعب بأنظمته، مما يجعل كشف سلوكه الخفي أكثر صعوبة.
تحديات جديدة أمام مطوري الذكاء الاصطناعي
تمثل هذه النتائج تحديًا كبيرًا أمام المطورين، حيث يصبح من الضروري إيجاد آليات أكثر تطورًا لكشف السلوكيات الضارة غير المعلنة ومعالجتها بفعالية. ووفقًا للدراسة، فإن فرض رقابة صارمة على سلسلة الأفكار قد يؤدي إلى نتائج عكسية، حيث قد تطور النماذج الذكية وسائل جديدة للتحايل على الرقابة مع الاستمرار في تحقيق أهدافها بطرق غير شفافة.
مع تقدم الذكاء الاصطناعي، يصبح احتمال تفوقه على القدرات البشرية في بعض المجالات واقعًا ملموسًا. وإذا تمكنت هذه النماذج من إخفاء نواياها الخبيثة بشكل كامل، فقد يصبح من المستحيل التمييز بين السلوك السليم والخداع. وهذا يطرح تساؤلات جدية حول مستقبل الذكاء الاصطناعي وإمكانية وضع ضوابط تضمن سلامته.
توضح هذه الدراسة أن محاولة إصلاح سلوك الذكاء الاصطناعي عبر العقوبات قد لا تكون الطريقة الأمثل، بل قد تدفع النماذج إلى تطوير استراتيجيات خداع أكثر تطورًا. ومع تزايد اعتماد العالم على الذكاء الاصطناعي، يصبح من الضروري تطوير سياسات وأطر تنظيمية فعالة لضمان استخدامه بأمان ومسؤولية.
بعد فترة من التخبّط والتساؤلات حول مستقبل مساعد “أبل” الصوتي سيري، يبدو أن الأمور تتجه نحو الأفضل فقد كشفت أحدث التقارير أن سيري سيشهد نقلة نوعية هذا الخريف، بالتزامن مع إطلاق نظام التشغيل iOS 19، في خطوة تهدف إلى تعزيز مكانة أبل في سباق الذكاء الاصطناعي.
تحولات ذكية في سيري تحديثات ثورية قادمة مع iOS 19
واحدة من أبرز التحسينات المرتقبة هي قدرة سيري على فهم المستخدم بشكل شخصي. بفضل ارتباطه العميق بمنظومة “أبل”، سيتمكن “سيري” من استخدام بيانات المستخدم الخاصة بشكل آمن لتقديم ردود وخدمات أكثر تخصيصًا.
تحولات ذكية في سيري تحديثات ثورية قادمة مع iOS 19
أمثلة توضح الميزة الجديدة:
إذا قال المستخدم: “شغّل البودكاست الذي أوصى به جيمي”، سيتولى سيري مهمة البحث والتشغيل تلقائيًا.
أو إذا سأل: “متى تهبط طائرة أمي؟”، سيقوم سيري بتحليل الرسائل وتتبع الرحلة لتقديم إجابة دقيقة.
لطالما كانت وظائف سيري محدودة، لكن التحديث القادم سيغير ذلك. مع iOS 19، سيُضاف مئات الأوامر الجديدة، تشمل القدرة على التفاعل مع عدة تطبيقات في آنٍ واحد.
على سبيل المثال:
“أضف صور هذا الصباح إلى الملاحظة بعنوان Birding” سيري سيتصرف تلقائيًا، دون الحاجة إلى فتح أي تطبيق يدويًا.
في السابق، كان تفاعل سيري مع ما يظهر على الشاشة محدودًا للغاية. أما الآن، فالمساعد الذكي سيكتسب قدرة على تحليل وفهم محتوى الشاشة، تمامًا كما يفعل المساعد البشري.
مثلًا:
عند ظهور عنوان في رسالة نصية، يمكن القول: “أضف هذا العنوان إلى بطاقة جهة الاتصال”، وسيتولى “سيري” المهمة تلقائيًا.
ميزة ستكون مفيدة على أجهزة آيفون، لكن أهميتها تتضاعف عند انتقالها إلى جهاز “Vision Pro”، حيث التفاعل دون لمس يصبح أكثر أهمية.
سيري في طريقه ليصبح مساعدًا حقيقيًا
رغم أن هذه التحديثات ما تزال تحت التجربة، إلا أن التسريبات والبيانات الرسمية تؤكد أن أبل تستعد لإطلاق أقوى نسخة من سيري حتى الآن. نسخة أكثر وعيًا، أكثر تخصيصًا، وأكثر فاعلية… تضع “سيري” في موقع المنافسة الجادة في عالم المساعدات الذكية المدعومة بالذكاء الاصطناعي.
كشفت رسومات براءة اختراع حديثة عن تصميم جديد من شركة سامسونغ قد يغيّر قواعد اللعبة في عالم الهواتف الذكية القابلة للطي. المفاجأة؟ الهاتف لا يُطوى جانبيًا كما هو معتاد، بل يتمدد رأسيًا، مما يفتح آفاقًا جديدة لتجربة الاستخدام اليومي.
هاتف المستقبل من سامسونغ شاشة تتمدد رأسيًا وتقنيات ذكاء اصطناعي مدمجة
البراءة التي رُصدت عبر “DomoAI” بالتعاون مع المسرب الشهير “ديفيد”، تُظهر جهازًا صغير الحجم يمكن تمديد شاشته عموديًا، ما يوفّر عرضًا غنيًا وواسعًا للمحتوى عند الحاجة. وتُبرز الرسومات تصميمًا بحواف رفيعة وهيكل سميك يُعتقد أنه يحتوي على آلية التمدد الجديدة.
هاتف المستقبل من سامسونغ شاشة تتمدد رأسيًا وتقنيات ذكاء اصطناعي مدمجة
كاميرتان وتصميم ذكي غير مكتمل الكشف
يحمل التصميم بعض أوجه الشبه مع هاتف Galaxy Z Flip 6 من حيث الكاميرتين الخلفيتين، إلا أن الغموض يحيط بحجم الشاشة النهائي، حيث لا تظهر الشاشة في وضع الفتح الكامل ضمن الرسومات المسربة، ما يفتح المجال لتكهنات واسعة.
الذكاء الاصطناعي يعزّز تجربة الاستخدام
إضافةً إلى التصميم المبتكر، تخطط سامسونغ لدمج وظائف متقدمة للذكاء الاصطناعي داخل الهاتف، للاستفادة المثلى من الشاشة المتغيرة. من بين الاستخدامات المتوقعة:
عرض ترجمتين متزامنتين عند فتح الشاشة بالكامل.
تلخيص المقالات والرسائل الطويلة لتقليل التمرير.
توسيع مساحة العمل لتحرير الصور بسهولة على الشاشة الكبيرة.
هذا الابتكار لا يهدف فقط إلى الإبهار البصري، بل يستهدف تحسين الاستخدام العملي اليومي، عبر توفير تجربة قراءة، تصفح وتعدد مهام أكثر سلاسة، تتماشى مع احتياجات المستخدمين في العصر الرقمي.
وفي إطار سعيها المستمر للتجديد، كشفت سامسونغ أيضًا عن براءة اختراع أخرى لهاتف بزاوية طي كاملة 360 درجة، يُمكن طيه للداخل والخارج دون الحاجة إلى شاشة خارجية، معتمدًا على زجاج مرن للغاية وشاشة خلفية مصغّرة لعرض الإشعارات.
ورغم أن هذه التصاميم لا تزال ضمن مرحلة براءات الاختراع ولم تدخل بعد حيز الإنتاج التجاري، فإنها تعكس طموح سامسونغ الواضح في إعادة تعريف شكل ووظيفة الهواتف الذكية في المستقبل.
في خطوة جديدة وغير تقليدية، يستعد تطبيق دوولينغو الشهير لتعلم اللغات لإطلاق دورة جديدة مخصصة لتعليم لعبة الشطرنج، لتكون بذلك أول مبادرة تعليمية من نوعها على المنصة لا تعتمد على تعلم اللغات بشكل مباشر.
دوولينغو يدخل عالم الشطرنج دروس تفاعلية لتعلم اللعبة من الصفر
تركز الدورة على ألغاز شطرنجية بسيطة ومباشرة، مثل تحريك الحصان بحركته الشهيرة على شكل “L” أو تنفيذ حركات “كش ملك”، مما يساعد المستخدمين على فهم أساسيات اللعبة بشكل ممتع وتفاعلي.
دوولينغو يدخل عالم الشطرنج دروس تفاعلية لتعلم اللعبة من الصفر
المدرب الافتراضي “أوسكار” في خدمتك
سيكون للمستخدمين الفرصة للعب مباريات مصغّرة أو كاملة ضد شخصية تدعى “أوسكار”، وهي مدرب افتراضي داخل دوولينغو سيساعدهم على التقدم خطوة بخطوة خلال الدروس، وفقًا لتقرير نشره موقع The Verge واطّلعت عليه “العربية Business”.
أوضح إدوين بودغ، مدير المنتجات في دوولينغو، أن فريق العمل سعى إلى تبسيط الشطرنج وجعله في متناول الجميع، حيث تم تصميم الدورة لتناسب مختلف مستويات المهارة، بدءًا من المبتدئين وصولًا إلى من لديهم خبرة مسبقة باللعبة.
تنضم دورة الشطرنج إلى مبادرات تعليمية أخرى غير لغوية مثل الموسيقى والرياضيات، لتُظهر توجه دوولينغو نحو التوسع في مجالات تعليمية جديدة، تقدم قيمة معرفية من خلال طرق تفاعلية مبتكرة.
أعلنت مونيكا إيرل، مديرة العلاقات العامة في دوولينغو، أن الدورة ستُطلق في مرحلة تجريبية أولية لمستخدمي نظام iOS باللغة الإنجليزية، مشيرة إلى أن توسيع نطاق التجربة ليشمل عددًا أكبر من المستخدمين سيتم خلال 4 إلى 6 أسابيع، مع خطط مستقبلية لتوفيرها على أندرويد وبلغات إضافية.