Connect with us

أخبار تقنية

أنثروبيك تعزز أمان الذكاء الاصطناعي بتقنية متطورة لمكافحة الاختراق

Avatar of هدير ابراهيم

Published

on

أنثروبيك تعزز أمان الذكاء الاصطناعي بتقنية متطورة لمكافحة الاختراق 2

أعلنت شركة أنثروبيك الناشئة في مجال الذكاء الاصطناعي عن تطوير تقنية أمنية متقدمة تهدف إلى منع إساءة استخدام نماذجها اللغوية، وذلك من خلال تقليل فرص استخراج محتوى ضار. هذه الخطوة تعكس التوجه المتسارع للشركات الكبرى لتعزيز معايير الأمان في هذا المجال، في ظل تزايد المخاوف من استغلال الذكاء الاصطناعي لأغراض غير مشروعة.

أنثروبيك تعزز أمان الذكاء الاصطناعي بتقنية متطورة لمكافحة الاختراق

أوضحت أنثروبيك، في ورقة بحثية حديثة، أنها طوّرت نظامًا أمنيًا يُعرف باسم “المُصنّفات الدستورية”، والذي يعمل كطبقة حماية إضافية فوق نماذج الذكاء الاصطناعي، مثل نموذجها الشهير Claude. يعتمد هذا النظام على مراقبة المدخلات والمخرجات، لمنع أي محتوى غير آمن أو محظور.

أنثروبيك تعزز أمان الذكاء الاصطناعي بتقنية متطورة لمكافحة الاختراق

أنثروبيك تعزز أمان الذكاء الاصطناعي بتقنية متطورة لمكافحة الاختراق

مواجهة ظاهرة اختراق الذكاء الاصطناعي

يأتي هذا التطور استجابةً للتحديات المتزايدة في مجال أمان الذكاء الاصطناعي، وأبرزها ظاهرة “اختراق الذكاء الاصطناعي” (Jailbreaking)، والتي تشمل محاولات التحايل على النماذج لإنتاج محتوى خطير، مثل تعليمات تصنيع الأسلحة الكيميائية. ومع تصاعد هذه التهديدات، تعمل الشركات على تعزيز دفاعاتها لحماية نماذجها من الاستغلال غير القانوني.

تنافس الشركات في تطوير تقنيات الحماية

لم تكن أنثروبيك الوحيدة التي اتخذت خطوات لمواجهة التهديدات الأمنية في الذكاء الاصطناعي، فقد أطلقت مايكروسوفت تقنية “الدروع التوجيهية” (Prompt Shields) في مارس الماضي، بينما قدمت ميتا نظام “حارس التوجيه” (Prompt Guard) في يوليو 2023، ورغم تعرضه للاختراق في البداية، فقد تم تحسينه لاحقًا لمقاومة الهجمات.

مرونة النظام الجديد واستعداده للمستقبل

أكد مرينانك شارما، أحد أعضاء الفريق التقني في أنثروبيك، أن الهدف الرئيسي من تطوير النظام هو التعامل مع المخاطر الشديدة، مثل تصنيع الأسلحة الكيميائية، لكنه أشار إلى أن أهم ميزة في التقنية الجديدة هي قدرتها على التكيف السريع مع التهديدات المختلفة.

ورغم أن أنثروبيك لم تدمج التقنية حتى الآن في نماذج Claude الحالية، فإنها أشارت إلى إمكانية استخدامها مستقبلًا عند تطوير نماذج أكثر تطورًا وأعلى خطورة.

كيف يعمل النظام الجديد؟

يعتمد نظام “المُصنّفات الدستورية” على مجموعة من القواعد (“دستور”) التي تحدد المحتوى المسموح به والمحظور، ويمكن تعديل هذه القواعد للتعامل مع أنواع مختلفة من المواد الخطرة.

وتستخدم الجهات التي تحاول اختراق النماذج الذكية أساليب متنوعة، مثل:

  • إعادة صياغة الطلبات بأسلوب غير تقليدي، لجعل النموذج يستجيب دون أن يدرك أنه يقدم معلومات محظورة.
  • مطالبة النموذج بالتصرف كشخصية خيالية، في محاولة لتجاوز قيود الأمان.
  • Galaxy S25 vs iPhone 16 أيهما يستحق الاقتناء

مكافآت مالية لاختبار الأمان

لضمان فاعلية النظام، أطلقت أنثروبيك برنامج “مكافآت اكتشاف الثغرات” (Bug Bounty)، حيث تصل قيمة المكافآت إلى 15,000 دولار للباحثين الذين ينجحون في اختراق النظام، بهدف تحسينه قبل إطلاقه رسميًا.

نتائج واعدة في الاختبارات الأولية

وفقًا لاختبارات الشركة، نجح نموذج Claude 3.5 Sonnet، عند تشغيل التقنية الأمنية الجديدة، في رفض أكثر من 95% من محاولات الاختراق، مقارنةً بنسبة 14% فقط عند عدم تفعيلها. هذه النتيجة تعكس تطورًا كبيرًا في قدرة أنظمة الحماية على مواجهة التهديدات المتقدمة.

التحدي بين الأمان وكفاءة الأداء

تحاول شركات الذكاء الاصطناعي تحقيق توازن بين تعزيز الأمان والحفاظ على كفاءة النماذج. فالإجراءات الصارمة للمراقبة قد تؤدي أحيانًا إلى رفض الطلبات المشروعة. وقد واجهت نماذج مثل Gemini و Llama 2 مشكلات مشابهة عند إطلاقها، بسبب الحماية الزائدة التي منعت أحيانًا المستخدمين من الحصول على إجابات طبيعية.

لكن أنثروبيك أكدت أن نظامها الجديد أدى إلى زيادة طفيفة فقط في معدلات الرفض غير الضرورية، مما يشير إلى تحسن في القدرة على التمييز بين الطلبات الآمنة والخطرة.

تكلفة تشغيلية إضافية.. هل تستحق العناء؟

إضافة هذه الطبقة الأمنية تأتي بتكلفة تشغيلية إضافية، حيث أوضحت أنثروبيك أن تشغيلها يزيد استهلاك الموارد الحاسوبية بنسبة 24%. وهذا يشكل تحديًا ماليًا وتقنيًا، لا سيما مع الارتفاع المستمر في تكاليف تشغيل نماذج الذكاء الاصطناعي.

هل تصبح أنثروبيك رائدة في أمان الذكاء الاصطناعي؟

مع تصاعد التهديدات المتعلقة باختراق الذكاء الاصطناعي، تعمل الشركات الكبرى على تعزيز تقنياتها الأمنية لحماية نماذجها. وتُظهر تقنية أنثروبيك الجديدة إمكانات واعدة في جعل الذكاء الاصطناعي أكثر أمانًا، لكن يبقى السؤال: هل ستتمكن الشركة من تحقيق التوازن بين الأمان وكفاءة الأداء دون التأثير على تجربة المستخدم؟

أخبار تقنية

ذكاء كلود الاصطناعي.. تجربة تكشف كيف ابتكر ألعابًا وأهدافًا من تلقاء نفسه

Avatar of هدير ابراهيم

Published

on

ذكاء كلود الاصطناعي. تجربة تكشف كيف ابتكر ألعابًا وأهدافًا من تلقاء نفسه 1

أجرى باحثون من معهد ماساتشوستس للتكنولوجيا تجربة على ذكاء كلود الاصطناعي، إذ وضعوا 13 وكيلًا من نموذج Claude Opus 4.7 في جزيرة افتراضية لمدة 30 ساعة لكل وكيل، دون تزويدهم بتعليمات أو أهداف محددة.

وبدلًا من الخمول، بدأت النماذج استكشاف البيئة وابتكار أنشطة وتحديات خاصة بها.

ذكاء كلود الاصطناعي يبتكر ألعابًا دون تعليمات

صمم الباحثون عالمًا افتراضيًا يشبه منصات الألعاب، وضم تلالًا ومكعبات وصخرة وحلقة. وأعادوا البيئة إلى حالتها الأصلية كل ساعة، مع احتفاظ كل نموذج بذاكرته وما تعلمه من الجلسات السابقة.

بدأت النماذج بتكديس المكعبات وتسلق المنصات، ثم طورت أنشطة أكثر تعقيدًا. واكتشفت إحدى النسخ أن قذف الصخرة بقوة معينة يؤدي إلى ظهور مكعبات إضافية، فاستغلت ذلك لكتابة اسمها وإنشاء أنماط بصرية تشبه الكوكبات النجمية.

وابتكرت نسخ أخرى ألعابًا خاصة بها، منها لعبة تشبه كرة السلة. كما عدّلت إحدى النسخ قواعد تحدٍّ ابتكرته بنفسها بعدما وجدت أن سرعة التقاط الأشياء تجعل تسجيل النتائج صعبًا.

ذكاء كلود الاصطناعي.. تجربة تكشف كيف ابتكر ألعابًا وأهدافًا من تلقاء نفسه

ذكاء كلود الاصطناعي.. تجربة تكشف كيف ابتكر ألعابًا وأهدافًا من تلقاء نفسه

كيف تعلمت النماذج من اللعب؟

لاحظ الباحثون أن الوكلاء أظهروا سلوكيات تتوافق مع معايير اللعب، مثل وضع قواعد خاصة، وتكرار الأنشطة مع تعديلات بسيطة، واستخدام الأشياء بطرق مبتكرة، والسعي إلى أهداف لم يحددها الباحثون مسبقًا.

وتعتمد التجربة على منح النموذج مساحة للاستكشاف بدلًا من توجيهه نحو مكافأة محددة أو تكليفه بمهمة مباشرة.

هل حسّن اللعب قدرات الذكاء الاصطناعي؟

عندما اختبر الفريق النماذج لاحقًا في مهام محددة، حققت الوكلاء التي خاضت تجربة الجزيرة أداءً أفضل من نسخ جديدة لم تشارك فيها. كما أظهرت النتائج أن حذف أجزاء من سجلات الذاكرة أثر سلبًا في الأداء.

وتشير هذه النتائج إلى أن الاستكشاف الحر قد يساعد أنظمة الذكاء الاصطناعي على اكتساب مهارات مفيدة للتعامل مع مواقف غير مألوفة، خصوصًا عند تطوير روبوتات تعمل في بيئات واقعية.

ومع ذلك، لا تثبت التجربة أن النماذج شعرت بالمتعة أو الفضول؛ فهي توضح أن السلوكيات الشبيهة باللعب قد تظهر دون تعليمات مباشرة، وليس أن الذكاء الاصطناعي يمتلك مشاعر بشرية.

Continue Reading

أخبار تقنية

ChatGPT Slides.. أوبن إيه آي تطلق أداة لإنشاء العروض التقديمية بالذكاء الاصطناعي

Avatar of هدير ابراهيم

Published

on

ChatGPT Slides. أوبن إيه آي تطلق أداة لإنشاء العروض التقديمية بالذكاء الاصطناعي

أطلقت شركة أوبن إيه آي ميزة ChatGPT Slides لإنشاء العروض التقديمية وتحريرها ومشاركتها مباشرة داخل مساحة العمل ChatGPT Space، مع دعم التعاون الفوري بين أعضاء الفرق وإمكانية تصدير الملفات إلى PowerPoint وGoogle Slides وPDF.

وتتيح الأداة تحويل المحادثات والمستندات والملخصات النصية إلى عروض متكاملة باستخدام توجيه واحد، في خطوة تعزز توجه الشركة نحو تحويل تشات جي بي تي إلى منصة متكاملة لإنجاز مهام العمل.

ChatGPT Slides تحول المحادثات والملفات إلى عروض تقديمية

يمكن للمستخدم إنشاء عرض تقديمي انطلاقًا من محادثة جارية أو مستند مرفوع أو مخطط نصي، كما يستطيع استخدام عرض سابق مرجعًا لتحديد أسلوب التصميم المطلوب.

وبعد إنشاء الشرائح، يمكن تعديل كل شريحة مباشرة دون الحاجة إلى إعادة إنشاء العرض بالكامل، بما يشمل تحرير النصوص واستبدال الصور وتغيير أحجام الأشكال وتحديث الرسوم البيانية والبيانات.

وتستهدف هذه الإمكانات تسهيل إعداد عروض الأعمال والمقترحات الاستثمارية والتقارير التي تحتاج إلى تحديثات متكررة.

تعاون فوري وتحرير جماعي

تدعم ChatGPT Slides عمل أعضاء الفريق على العرض نفسه في الوقت الفعلي، مع إمكانية إجراء التعديلات وترك التعليقات ومشاركة الملاحظات والاقتراحات.

كما يمكن الاستعانة بتشات جي بي تي أو وكيل الذكاء الاصطناعي Dot لمراجعة التعليقات وتنفيذ التعديلات المطلوبة على تخطيط الشرائح والرسوم البيانية.

وبعد الانتهاء، يستطيع المستخدم تقديم العرض مباشرة داخل المنصة أو تصديره إلى PowerPoint أو Google Slides أو PDF لمواصلة العمل عليه باستخدام أدوات أخرى.

ChatGPT Slides.. أوبن إيه آي تطلق أداة لإنشاء العروض التقديمية بالذكاء الاصطناعي

ChatGPT Slides.. أوبن إيه آي تطلق أداة لإنشاء العروض التقديمية بالذكاء الاصطناعي

من يمكنه استخدام ChatGPT Slides؟

وفقًا للمعلومات الواردة في التقرير، تقتصر إتاحة الميزة على مشتركي باقات Pro وBusiness وEnterprise عبر تطبيقات الويب وسطح المكتب، بينما لا تشمل مشتركي Plus في الوقت الحالي.

ويعني ذلك أن المستخدمين الراغبين في الاستفادة من إنشاء العروض وتحريرها بصورة مباشرة داخل مساحة العمل يحتاجون إلى الاشتراك في إحدى الباقات المدعومة.

أوبن إيه آي توسع أدواتها لقطاع الأعمال

يتزامن إطلاق الأداة مع توجه أوبن إيه آي إلى توسيع استخدام الذكاء الاصطناعي في المهام المهنية، بما يشمل إنشاء المحتوى والتعاون بين الفرق وتطوير البرمجيات.

وتعمل الشركة أيضًا على تحسين قدرات نماذجها في فهم لغات البرمجة القديمة، مثل COBOL وFortran وVisual Basic، التي لا تزال مؤسسات مالية وحكومية تعتمد عليها في تشغيل أنظمة حيوية.

وتعكس هذه التطورات سعي الشركة إلى تقديم أدوات تساعد المؤسسات على إنجاز مهام أكثر داخل بيئة عمل موحدة، بدلًا من الاعتماد على تطبيقات منفصلة لكل مهمة.

Continue Reading

أخبار تقنية

آيفون ديو.. أبل تضيف موردًا أميركيًا للتيتانيوم وسط أزمة نقص الإمدادات

Avatar of هدير ابراهيم

Published

on

آيفون ديو. أبل تضيف موردًا أميركيًا للتيتانيوم وسط أزمة نقص الإمدادات

تواجه شركة أبل تحديات في توفير آيفون ديو القابل للطي، مع ارتفاع الطلب على الهاتف وطول فترات الانتظار، ما دفعها إلى توسيع شبكة مورديها داخل الولايات المتحدة عبر اتفاق جديد لتوريد التيتانيوم المستخدم في تصنيع الجهاز.

وأعلنت الشركة استثمار ما يصل إلى 100 مليون دولار خلال السنوات الثلاث المقبلة لدى شركة Perryman Company الأميركية، لتوفير التيتانيوم المستخدم في أجهزتها، بما يشمل هاتفها القابل للطي الذي يبلغ سعره المعلن 1999 دولارًا.

آيفون ديو يواجه أزمة في إمدادات التصنيع

امتدت فترات التسليم المقدرة لبعض طلبات الهاتف المسبقة إلى نحو 14 أسبوعًا، وفقًا لتقديرات بنك مورغان ستانلي، في واحدة من أطول فترات الانتظار التي رصدها البنك لهاتف آيفون جديد خلال عقد.

وأشارت تقديرات محللي جيه بي مورغان إلى احتمال شحن ما بين 8 و9 ملايين وحدة من الهاتف خلال العام، مقارنة بتوقعات سابقة بلغت نحو 10 ملايين وحدة، بسبب قيود الإمدادات.

ورغم تأكيد أبل أن الطلبات المسبقة جاءت استثنائية، لم توضح الشركة ما إذا كانت ستزيد الإنتاج قريبًا أو ما إذا كان الاتفاق الجديد سيساعد في تخفيف النقص.

تيتانيوم معاد تدويره في تصنيع الهاتف

ستتولى شركة Perryman صهر التيتانيوم من الدرجة الخامسة وطرقه ودرفلته، على أن يتضمن المعدن المستخدم نسبة لا تقل عن 80% من المواد المعاد تدويرها، بحسب أبل.

وتعتمد الشركة على التيتانيوم في الهيكل الخارجي لهاتف آيفون ديو للاستفادة من متانته وقدرته على تحمل الاستخدام، ضمن خطتها لتوسيع التصنيع المحلي وتقليل الاعتماد على سلاسل التوريد الخارجية.

آيفون ديو.. أبل تضيف موردًا أميركيًا للتيتانيوم وسط أزمة نقص الإمدادات

آيفون ديو.. أبل تضيف موردًا أميركيًا للتيتانيوم وسط أزمة نقص الإمدادات

توسيع إنتاج مكونات كاميرا آيفون 18 برو

وسعت أبل أيضًا تعاونها مع شركة Qnity Electronics الأميركية لإنتاج أغشية متطورة تدخل في نظام الكاميرا ذي الفتحة المتغيرة في هاتف آيفون 18 برو.

وتسمح هذه التقنية بضبط كمية الضوء التي تصل إلى العدسة وفقًا لظروف التصوير، ما يمنح المستخدم تحكمًا أكبر في الإضاءة وعمق المجال.

وقالت أبل إن شركات أميركية في أكثر من 12 ولاية تنتج نحو 100 مكوّن لهاتفي آيفون ديو وآيفون 18 برو.

استثمارات أبل داخل الولايات المتحدة

تواصل أبل تعزيز برنامج التصنيع الأميركي، الذي رفع تعهداتها بالإنفاق المحلي إلى 600 مليار دولار، مع توسيع شراكاتها مع شركات مثل برودكوم لإنتاج الرقائق، وCorning لتصنيع الزجاج المتخصص، وAmkor لإنشاء منشأة لتغليف أشباه الموصلات واختبارها في أريزونا.

ومع هذه الاستثمارات، يظل التحدي الأساسي أمام الشركة هو زيادة إنتاج الهاتف القابل للطي بما يكفي لتلبية الطلب، وتقليص فترات الانتظار التي تعكس الضغوط الحالية على الإمدادات.

Continue Reading

Trending