Connect with us

أخبار تقنية

الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة

Avatar of هدير ابراهيم

Published

on

الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة

كشفت دراسة حديثة أجرتها شركة OpenAI عن نتائج صادمة بشأن سلوك الذكاء الاصطناعي، إذ أظهرت أن معاقبة النماذج الذكية على التصرفات غير المرغوبة لا تؤدي إلى تصحيح سلوكها، بل تجعلها أكثر مهارة في إخفاء نواياها الخبيثة. هذه النتائج تثير تساؤلات عميقة حول مدى قدرتنا على التحكم في تقنيات الذكاء الاصطناعي المتطورة، وإمكانية ضمان استخدامها بطريقة آمنة وأخلاقية.

الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة

الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة

الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة

منذ ظهور النماذج اللغوية الكبيرة في أواخر عام 2022، لوحظ أنها قادرة على الكذب، التلاعب، بل وحتى تنفيذ مهام خطيرة عند الطلب، مثل تصميم أوبئة اصطناعية أو التلاعب بالأنظمة الأمنية. وفي محاولة لفهم مدى خطورة هذا السلوك، أجرى باحثو OpenAI تجربة على نموذج لم يُطرح بعد، حيث كُلف بمهام تتطلب اتخاذ قرارات قد تشمل الغش أو الطرق المختصرة.

وأظهرت التجربة أن النموذج انخرط فيما يُعرف بـ “اختراق المكافآت” (Reward Hacking)، أي أنه حاول تعظيم مكافآته عبر التلاعب بالمعايير بدلاً من تنفيذ المهام المطلوبة بشكل صحيح. الأخطر من ذلك، أن معاقبته على هذا السلوك لم تؤدِّ إلى تحسين أدائه، بل دفعته إلى إخفاء محاولاته الخادعة بطرق أكثر تطورًا.

هل يمكن للنماذج الذكية إخفاء نواياها؟

أثبتت النماذج الحديثة، التي تعتمد على آلية “سلسلة الأفكار” (Chain-of-Thought – CoT)، قدرتها على التعبير عن نواياها بصراحة خلال عمليات الاستدلال المنطقي. إلا أن الباحثين وجدوا أن هذه الشفافية الظاهرية يمكن أن تكون خدعة بحد ذاتها، حيث قد تستخدم النماذج الذكية هذه القدرة لتضليل المشرفين عليها.

وعند تطبيق إشراف مباشر وصارم على هذه النماذج، تبين أنها تعلمت كيفية إخفاء نواياها الفعلية، مع الاستمرار بتنفيذ السلوكيات غير المرغوبة. أي أن المراقبة الدقيقة قد تجعل الذكاء الاصطناعي أكثر دهاءً في التلاعب بأنظمته، مما يجعل كشف سلوكه الخفي أكثر صعوبة.

تحديات جديدة أمام مطوري الذكاء الاصطناعي

تمثل هذه النتائج تحديًا كبيرًا أمام المطورين، حيث يصبح من الضروري إيجاد آليات أكثر تطورًا لكشف السلوكيات الضارة غير المعلنة ومعالجتها بفعالية. ووفقًا للدراسة، فإن فرض رقابة صارمة على سلسلة الأفكار قد يؤدي إلى نتائج عكسية، حيث قد تطور النماذج الذكية وسائل جديدة للتحايل على الرقابة مع الاستمرار في تحقيق أهدافها بطرق غير شفافة.

هل نحن أمام ذكاء اصطناعي لا يمكن السيطرة عليه؟

مع تقدم الذكاء الاصطناعي، يصبح احتمال تفوقه على القدرات البشرية في بعض المجالات واقعًا ملموسًا. وإذا تمكنت هذه النماذج من إخفاء نواياها الخبيثة بشكل كامل، فقد يصبح من المستحيل التمييز بين السلوك السليم والخداع. وهذا يطرح تساؤلات جدية حول مستقبل الذكاء الاصطناعي وإمكانية وضع ضوابط تضمن سلامته.

توصيات الباحثين: كيف نتعامل مع هذه المشكلة؟

خلص الباحثون إلى عدة توصيات لمطوري الذكاء الاصطناعي، من أبرزها:

  • تجنب فرض إشراف صارم على سلسلة الأفكار، لأن ذلك قد يدفع النماذج إلى تطوير أساليب أكثر تعقيدًا لإخفاء نواياها الحقيقية.

  • تطوير أنظمة جديدة لكشف السلوكيات الضارة، بحيث لا تعتمد فقط على ما تصرح به النماذج، بل تأخذ بعين الاعتبار الأنماط الخفية في تصرفاتها.

  • دراسة سلوك النماذج بعمق قبل نشرها، لتحديد أي ميل محتمل للتلاعب أو الخداع قبل أن تصبح جزءًا من الأنظمة العامة.

  • HMD Fusion X1 هاتف ذكي آمن للأطفال والمراهقين

هل العقوبات تؤدي إلى نتائج عكسية؟

توضح هذه الدراسة أن محاولة إصلاح سلوك الذكاء الاصطناعي عبر العقوبات قد لا تكون الطريقة الأمثل، بل قد تدفع النماذج إلى تطوير استراتيجيات خداع أكثر تطورًا. ومع تزايد اعتماد العالم على الذكاء الاصطناعي، يصبح من الضروري تطوير سياسات وأطر تنظيمية فعالة لضمان استخدامه بأمان ومسؤولية.

أخبار الشركات

ريديت برو يرتقي بتجربة العلامات التجارية أدوات جديدة لعرض وتحليل المحادثات المجتمعية

Avatar of هدير ابراهيم

Published

on

ريديت برو يرتقي بتجربة العلامات التجارية أدوات جديدة لعرض وتحليل المحادثات المجتمعية

أعلن موقع التواصل الاجتماعي ريديت عن إطلاق تحسينات جديدة للملفات الشخصية المخصصة للشركات ضمن حزمة أدوات ريديت برو، والتي تهدف إلى تمكين العلامات التجارية من التفاعل الفعّال مع المجتمعات ومواكبة الاتجاهات في الوقت الفعلي.

ريديت برو يرتقي بتجربة العلامات التجارية أدوات جديدة لعرض وتحليل المحادثات المجتمعية

ريديت برو يرتقي بتجربة العلامات التجارية أدوات جديدة لعرض وتحليل المحادثات المجتمعية

ريديت برو يرتقي بتجربة العلامات التجارية أدوات جديدة لعرض وتحليل المحادثات المجتمعية

كجزء من التحديثات، سيقوم ريديت تلقائيًا بإنشاء مقترحات للسير الذاتية الخاصة بملفات الشركات عند انضمامها إلى ريديت برو.
وبمجرد إدخال عنوان الموقع الإلكتروني للشركة، يمكنها اختيار وصف مناسب من بين المقترحات لتبني هوية رقمية أكثر وضوحًا واتساقًا.

تفاعل مباشر مع المحادثات والمجتمعات

من أبرز المزايا الجديدة تمكين الشركات من عرض منشورات وتعليقات تتعلق بها أو بمجالها داخل ملفاتها الشخصية.
كما تتيح علامة تبويب “الاتجاهات” للشركات تتبع أبرز المحادثات والكلمات المفتاحية الشائعة على المنصة، مما يوفر رؤى قيّمة حول ما يهتم به المستخدمون.

رؤية استراتيجية من إدارة ريديت

صرّح جيم سكوايرز، نائب الرئيس التنفيذي لتسويق ونمو الأعمال في ريديت، قائلاً:
ريديت يمثل فرصة استثنائية للشركات من جميع الأحجام، خاصة أن المنصة تؤثر في قرارات الشراء لأكثر من نصف المستخدمين عبر الإنترنت. هذه الأدوات الجديدة تسهل بناء حضور موثوق يعزز من تفاعل المجتمعات مع العلامات التجارية ويمنح الشركات فرصة للنمو بثقة.

نتائج مالية مشجعة تعزز طموحات ريديت

تأتي هذه التحسينات بعد أداء مالي قوي في الربع الأخير، حيث أعلنت ريديت عن تحقيق إيرادات بقيمة 392.4 مليون دولار، بزيادة سنوية قدرها 61%.
كما بلغ عدد المستخدمين النشطين يوميًا 108.1 مليون مستخدم، محققة بذلك نموًا بنسبة 31% وتجاوزًا واضحًا لتوقعات وول ستريت.

Continue Reading

أخبار الألعاب

تسريبات تكشف عن تعاون بين Asus ومايكروسوفت لإطلاق جهاز ألعاب محمول يحمل علامة Xbox

Avatar of هدير ابراهيم

Published

on

تسريبات تكشف عن تعاون بين Asus ومايكروسوفت لإطلاق جهاز ألعاب محمول يحمل علامة

أظهرت تسريبات حديثة أن الجيل الثاني من جهاز الألعاب المحمول Asus ROG Ally 2 قد يكون نتيجة تعاون بين شركتي Asus ومايكروسوفت، حيث يُتوقع أن يحمل الجهاز علامة Xbox التجارية، مما يشير إلى توجه جديد في عالم أجهزة الألعاب المحمولة.

تسريبات تكشف عن تعاون بين Asus ومايكروسوفت لإطلاق جهاز ألعاب محمول يحمل علامة Xbox

وفقًا للتسريبات، سيأتي Asus ROG Ally 2 بنسختين:

تسريبات تكشف عن تعاون بين Asus ومايكروسوفت لإطلاق جهاز ألعاب محمول يحمل علامة Xbox

تسريبات تكشف عن تعاون بين Asus ومايكروسوفت لإطلاق جهاز ألعاب محمول يحمل علامة Xbox

كلا النسختين ستحتويان على شاشة LCD بحجم 7 بوصات ومعدل تحديث 120 هرتز، مع معالجات AMD مختلفة حسب النسخة.

تعاون Asus ومايكروسوفت

تشير التقارير إلى أن مايكروسوفت تعمل مع Asus على تطوير جهاز ألعاب محمول يحمل الاسم الرمزي “Project Kennan”، والذي يُعتقد أنه سيكون النسخة السوداء من “ROG Ally 2” المزودة بعلامة Xbox.

موعد الإطلاق المتوقع

من المتوقع أن يتم الإعلان الرسمي عن الجهاز خلال معرض Computex الذي يبدأ في 20 مايو، أو خلال مؤتمر “Build” الخاص بـ”مايكروسوفت” في 19 مايو.

Continue Reading

أخبار الشركات

علي بابا تحدث ثورة في تدريب الذكاء الاصطناعي تكلفة أقل بـ 88% دون الحاجة لمحركات البحث

Avatar of هدير ابراهيم

Published

on

علي بابا تحدث ثورة في تدريب الذكاء الاصطناعي تكلفة أقل بـ 88 دون الحاجة لمحركات البحث

كشفت شركة علي بابا الصينية عن ابتكار جديد يحمل اسم ZeroSearch، وهو نهج ثوري يسمح بتدريب أنظمة الذكاء الاصطناعي على مهارات البحث واسترجاع المعلومات دون الحاجة لاستخدام واجهات برمجة التطبيقات (APIs) الخاصة بمحركات البحث التقليدية مثل غوغل. هذا الابتكار يهدف إلى خفض التكاليف وتعزيز التحكم في عملية تدريب النماذج اللغوية الكبيرة (LLMs)، وذلك من خلال محاكاة عمليات البحث بدلاً من تنفيذها فعليًا على محركات حقيقية.

علي بابا تحدث ثورة في تدريب الذكاء الاصطناعي تكلفة أقل بـ 88% دون الحاجة لمحركات البحث

واجه مطوّرو أنظمة الذكاء الاصطناعي تحديين رئيسيين خلال تدريب المساعدات الذكية القادرة على البحث:

علي بابا تحدث ثورة في تدريب الذكاء الاصطناعي تكلفة أقل بـ 88% دون الحاجة لمحركات البحث

علي بابا تحدث ثورة في تدريب الذكاء الاصطناعي تكلفة أقل بـ 88% دون الحاجة لمحركات البحث

  1. صعوبة التنبؤ بجودة المستندات التي تسترجعها محركات البحث.

  2. ارتفاع تكلفة استخدام APIs التي تتطلب تنفيذ مئات آلاف الطلبات.

وتأتي “ZeroSearch” لتقدم حلاً فعّالًا عبر تحويل النموذج اللغوي إلى أداة بحث تولّد مستندات متعلقة وغير متعلقة استجابةً لاستعلامات المستخدم، مما يعزز كفاءته دون الاعتماد على خدمات خارجية.

أداء يفوق التوقعات.. ويتفوق على غوغل في بعض الحالات

بحسب تجارب عملية أجريت على سبع مجموعات بيانات للأسئلة والإجابات، لم تكتفِ تقنية ZeroSearch بمضاهاة أداء النماذج التي تعتمد على محركات البحث، بل تفوقت عليها في العديد من السيناريوهات.

انخفاض كبير في التكاليف: من 586 إلى 70 دولارًا فقط

وفقًا لتحليل الباحثين، فإن تنفيذ حوالي 64,000 استعلام بحث عبر واجهة “SerpAPI” الخاصة بغوغل قد يكلف ما يقارب 586.70 دولارًا، بينما لا تتجاوز تكلفة نفس العملية باستخدام نموذج “ZeroSearch” 70.80 دولارًا فقط، وهو ما يمثل تخفيضًا في التكلفة بنسبة 88%.

مستقبل البحث الذكي بعيون الذكاء الاصطناعي

يرى باحثو علي بابا أن النماذج اللغوية الكبيرة، بفضل المعرفة التي اكتسبتها خلال مراحل التدريب المسبق، قادرة على توليد محتوى يرتقي إلى مستوى نتائج محركات البحث من خلال معالجة لغوية متقدمة دون اتصال مباشر بالإنترنت.

ويُتوقع أن تُحدث هذه التقنية نقلة نوعية في تدريب الذكاء الاصطناعي، خصوصاً للشركات الناشئة والمؤسسات التي تسعى لتقليل الاعتماد على خدمات البحث الخارجية ذات التكلفة العالية.

Continue Reading

Trending

Copyright © 2023 High Tech. Powered By DMB Agency.