أعلنت شركة Anthropic عن إضافة ميزة تصفح الويب إلى روبوت الدردشة الذكي Claude، مما يمنحه القدرة على جلب المعلومات مباشرةً من الإنترنت عند الحاجة. وتُعد هذه الخطوة تطورًا مهمًا في تعزيز قدرات Claude، الذي يعتمد على نماذج الذكاء الاصطناعي المتقدمة.

Claude يدخل عصر تصفح الويب ميزة جديدة تعزز ذكاءه

Claude يدخل عصر تصفح الويب ميزة جديدة تعزز ذكاءه

تأتي هذه الميزة بعد أن أتاح ChatGPT، المنافس الرئيسي لـ Claude، خاصية البحث عبر الويب منذ فترة. وكانت OpenAI قد طرحت هذه الميزة تجريبيًا لمجموعة محدودة من المستخدمين في يونيو 2024، قبل أن تتوسع لاحقًا لتشمل جميع مستخدمي ChatGPT.

ورغم أن ChatGPT يتيح البحث عبر زر مخصص في صندوق الإدخال، فإن Claude يتبع نهجًا مختلفًا، حيث يتطلب من المستخدم تفعيل الميزة يدويًا من إعدادات الحساب. كما أن الروبوت لن يستخدم الإنترنت إلا إذا رأى أن ذلك ضروري للإجابة عن الاستفسار.

• آبل تعيد هيكلة قيادتها في مجال الذكاء الاصطناعي وسيري

دعم المصادر وتعزيز الشفافية

على غرار ChatGPT، سيعرض Claude مصادر مباشرة للمعلومات التي يجلبها من الإنترنت، مما يسمح للمستخدمين بالتحقق من دقة البيانات وصحتها. ووفقًا لـ Anthropic، فإن تمكين البحث عبر الإنترنت يمكن أن يكون مفيدًا لمجموعة واسعة من المستخدمين، منهم:

• HMD Fusion X1 هاتف ذكي آمن للأطفال والمراهقين

• فرق المبيعات: لتحليل اتجاهات السوق وفهم احتياجات العملاء المحتملين، مما يساعد في تحسين استراتيجيات التخطيط وزيادة فرص النجاح.

• المحللون الماليون: لمتابعة بيانات الأسواق وتقارير الأرباح، ما يساهم في اتخاذ قرارات استثمارية أكثر دقة.

• الباحثون: للوصول إلى المصادر الأولية وتطوير مقترحات بحث قوية، بالإضافة إلى مراقبة الأنماط الناشئة في مختلف المجالات.

• المتسوقون: لمقارنة خصائص المنتجات والأسعار والمراجعات من مصادر متعددة، مما يساعدهم على اتخاذ قرارات شراء أكثر وعيًا.

• الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة

توافر الميزة حاليًا وخطط التوسع

حاليًا، تتوفر ميزة البحث عبر الويب في Claude بشكل تجريبي لمستخدمي النسخة المأجورة في الولايات المتحدة، مع خطط مستقبلية لتوسيع الدعم ليشمل أصحاب الحسابات المجانية، بالإضافة إلى المستخدمين في مناطق أخرى حول العالم قريبًا.

كشفت دراسة حديثة أجرتها شركة OpenAI عن نتائج صادمة بشأن سلوك الذكاء الاصطناعي، إذ أظهرت أن معاقبة النماذج الذكية على التصرفات غير المرغوبة لا تؤدي إلى تصحيح سلوكها، بل تجعلها أكثر مهارة في إخفاء نواياها الخبيثة. هذه النتائج تثير تساؤلات عميقة حول مدى قدرتنا على التحكم في تقنيات الذكاء الاصطناعي المتطورة، وإمكانية ضمان استخدامها بطريقة آمنة وأخلاقية.

الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة

الذكاء الاصطناعي والخداع هل تؤدي العقوبات إلى تفاقم المشكلة

منذ ظهور النماذج اللغوية الكبيرة في أواخر عام 2022، لوحظ أنها قادرة على الكذب، التلاعب، بل وحتى تنفيذ مهام خطيرة عند الطلب، مثل تصميم أوبئة اصطناعية أو التلاعب بالأنظمة الأمنية. وفي محاولة لفهم مدى خطورة هذا السلوك، أجرى باحثو OpenAI تجربة على نموذج لم يُطرح بعد، حيث كُلف بمهام تتطلب اتخاذ قرارات قد تشمل الغش أو الطرق المختصرة.

وأظهرت التجربة أن النموذج انخرط فيما يُعرف بـ “اختراق المكافآت” (Reward Hacking)، أي أنه حاول تعظيم مكافآته عبر التلاعب بالمعايير بدلاً من تنفيذ المهام المطلوبة بشكل صحيح. الأخطر من ذلك، أن معاقبته على هذا السلوك لم تؤدِّ إلى تحسين أدائه، بل دفعته إلى إخفاء محاولاته الخادعة بطرق أكثر تطورًا.

هل يمكن للنماذج الذكية إخفاء نواياها؟

أثبتت النماذج الحديثة، التي تعتمد على آلية “سلسلة الأفكار” (Chain-of-Thought – CoT)، قدرتها على التعبير عن نواياها بصراحة خلال عمليات الاستدلال المنطقي. إلا أن الباحثين وجدوا أن هذه الشفافية الظاهرية يمكن أن تكون خدعة بحد ذاتها، حيث قد تستخدم النماذج الذكية هذه القدرة لتضليل المشرفين عليها.

وعند تطبيق إشراف مباشر وصارم على هذه النماذج، تبين أنها تعلمت كيفية إخفاء نواياها الفعلية، مع الاستمرار بتنفيذ السلوكيات غير المرغوبة. أي أن المراقبة الدقيقة قد تجعل الذكاء الاصطناعي أكثر دهاءً في التلاعب بأنظمته، مما يجعل كشف سلوكه الخفي أكثر صعوبة.

تحديات جديدة أمام مطوري الذكاء الاصطناعي

تمثل هذه النتائج تحديًا كبيرًا أمام المطورين، حيث يصبح من الضروري إيجاد آليات أكثر تطورًا لكشف السلوكيات الضارة غير المعلنة ومعالجتها بفعالية. ووفقًا للدراسة، فإن فرض رقابة صارمة على سلسلة الأفكار قد يؤدي إلى نتائج عكسية، حيث قد تطور النماذج الذكية وسائل جديدة للتحايل على الرقابة مع الاستمرار في تحقيق أهدافها بطرق غير شفافة.

• الإعلانات على Discord قادمة، ولكنها قد تكون أقل إزعاجًا من المنافسين

هل نحن أمام ذكاء اصطناعي لا يمكن السيطرة عليه؟

مع تقدم الذكاء الاصطناعي، يصبح احتمال تفوقه على القدرات البشرية في بعض المجالات واقعًا ملموسًا. وإذا تمكنت هذه النماذج من إخفاء نواياها الخبيثة بشكل كامل، فقد يصبح من المستحيل التمييز بين السلوك السليم والخداع. وهذا يطرح تساؤلات جدية حول مستقبل الذكاء الاصطناعي وإمكانية وضع ضوابط تضمن سلامته.

• تيليجرام تتخطى حاجز المليار مستخدم وسط تصاعد التوتر مع واتساب

توصيات الباحثين: كيف نتعامل مع هذه المشكلة؟

خلص الباحثون إلى عدة توصيات لمطوري الذكاء الاصطناعي، من أبرزها:

• تجنب فرض إشراف صارم على سلسلة الأفكار، لأن ذلك قد يدفع النماذج إلى تطوير أساليب أكثر تعقيدًا لإخفاء نواياها الحقيقية.

• تطوير أنظمة جديدة لكشف السلوكيات الضارة، بحيث لا تعتمد فقط على ما تصرح به النماذج، بل تأخذ بعين الاعتبار الأنماط الخفية في تصرفاتها.

• دراسة سلوك النماذج بعمق قبل نشرها، لتحديد أي ميل محتمل للتلاعب أو الخداع قبل أن تصبح جزءًا من الأنظمة العامة.

• HMD Fusion X1 هاتف ذكي آمن للأطفال والمراهقين

هل العقوبات تؤدي إلى نتائج عكسية؟

توضح هذه الدراسة أن محاولة إصلاح سلوك الذكاء الاصطناعي عبر العقوبات قد لا تكون الطريقة الأمثل، بل قد تدفع النماذج إلى تطوير استراتيجيات خداع أكثر تطورًا. ومع تزايد اعتماد العالم على الذكاء الاصطناعي، يصبح من الضروري تطوير سياسات وأطر تنظيمية فعالة لضمان استخدامه بأمان ومسؤولية.