Connect with us

الذكاء الاصطناعي

شركة Anthropic تطلق برنامج مكافآت بقيمة 15 ألف دولار لتعزيز أمان الذكاء الاصطناعي

Avatar of هدير ابراهيم

Published

on

شركة Anthropic تطلق برنامج مكافآت بقيمة 15 ألف دولار 1

أعلنت شركة Anthropic الناشئة في مجال الذكاء الاصطناعي والمدعومة من قبل أمازون عن إطلاق برنامج مكافآت جديد يهدف إلى تعزيز أمان أنظمة الذكاء الاصطناعي لديها وبموجب هذا البرنامج ستدفع الشركة ما يصل إلى 15 ألف دولار أمريكي مقابل كل تقرير يكتشف نقاط ضعف حرجة في أنظمتها الذكية.

هدف برنامج شركة Anthropic ومجالات التركيز

يستهدف برنامج المكافآت من شركة Anthropic مواجهة ما يعرف بالهروب من السجن العالمي وهي استراتيجيات يمكن أن تتجاوز تدابير أمان الذكاء الاصطناعي لا سيما في المجالات الحساسة مثل الأسلحة البيولوجية والتهديدات السيبرانية وقبل إتاحة الجيل المقبل من نظام الأمان للجمهور تخطط الشركة للسماح للباحثين الأخلاقيين باختباره لتفادي أي سوء استخدام محتمل.

بدأ البرنامج كمبادرة دعوة فقط بالتعاون مع منصة HackerOne حيث تسعى Anthropic إلى استقطاب خبراء الأمن السيبراني لاكتشاف وإصلاح نقاط الضعف في أنظمة الذكاء الاصطناعي الخاصة بها وتعتزم الشركة توسيع نطاق البرنامج في المستقبل القريب مما قد يوفر نموذج للتعاون على مستوى الصناعة في مجال سلامة الذكاء الاصطناعي.

شركة Anthropic

شركة Anthropic

تأثير البرنامج على سمعة شركة Anthropic

في ظل التحقيق الجاري من قِبَل هيئة المنافسة والأسواق في المملكة المتحدة (CMA) حول استثمار أمازون البالغ 4 مليارات دولار في شركة Anthropic فإن التركيز على السلامة يمكن أن يعزز من سمعة الشركة ويميزها عن منافسيها.

بينما تقدم شركات مثل OpenAI وGoogle أيضا برامج مكافآت للأخطاء فإنها تركز عادة على نقاط ضعف البرامج التقليدية بدلا من أنظمة الذكاء الاصطناعي المتقدمة وفي المقابل تعرضت ميتا لانتقادات بسبب نهجها المغلق نسبيا في ضمان تطوير الذكاء الاصطناعي بشكل آمن.

التحديات المستقبلية في تأمين الذكاء الاصطناعي

على الرغم من أهمية برنامج المكافآت في تحديد وتصحيح بعض العيوب هناك تساؤلات حول ما إذا كانت المكافآت وحدها كافية للتعامل مع التحديات الأوسع المتعلقة بأمان أنظمة التعلم الآلي المتقدمة.

وقد يتطلب الأمر استراتيجيات أكثر شمولية تشمل اختبارات مكثفة وتحسين القدرة على تفسير النتائج وتطوير هياكل حوكمة جديدة لضمان توافق أنظمة الذكاء الاصطناعي مع القيم الإنسانية وتلبية معايير الأمان مع تطورها المستمر.

الذكاء الاصطناعي

جوجل تطلق Deep Review لمراجعة المستندات التقنية مجانًا

أطلقت جوجل Deep Review لمراجعة المستندات التقنية، مع مراجعتين مجانًا أسبوعيًا ودعم PDF والنصوص. تعرّف إلى آلية العمل وحدودها وسياسة الاحتفاظ بالملفات.

Avatar of عمر الشال

Published

on

رسم توضيحي لمراجعة المستندات والأدلة بالذكاء الاصطناعي
صورة توضيحية مولّدة بالذكاء الاصطناعي، وليست لقطة من واجهة Deep Review.

أطلقت جوجل أداة Deep Review لمراجعة المستندات المعقدة بالذكاء الاصطناعي، مع إتاحتها عالميًا بمراجعتين مجانًا لكل مستخدم أسبوعيًا، بحسب إعلان Google Research المنشور في 14 أكتوبر 2026.

تستهدف الأداة فحص اتساق الحجج والأدلة والادعاءات التقنية، وتقديم ملاحظات تساعد على تحسين المستند قبل مشاركته أو نشره. وتشمل استخداماتها الأوراق البحثية ووثائق التصميم والعروض التقديمية.

ما الملفات التي تدعمها Deep Review؟

تدعم الخدمة عند الإطلاق ملفات PDF والنصوص العادية، بينما تصف جوجل مراجعة عدة ملفات معًا بأنها ميزة قادمة. ويمكن لأصحاب الاستخدام المكثف ربط مفتاح Gemini API لرفع حدود الاستخدام والاستفادة من التكامل البرمجي؛ أما الحصة المجانية المعلنة فتقتصر على مراجعتين أسبوعيًا.

كيف تراجع المستندات؟

تطورت Deep Review من أداة Paper Assistant Tool، المعروفة اختصارًا باسم PAT. وتشرح الورقة البحثية للفريق نهجًا يقسم المستند إلى أجزاء منطقية، ثم يخصص جهدًا حسابيًا أكبر للأقسام الأصعب، مثل البراهين والمعادلات.

يتولى وكلاء متخصصون مراجعة الأجزاء مع الاطلاع على سياق المستند كاملًا، قبل دمج النتائج في تقرير موحد وإجراء فحوص إضافية باستخدام البحث. ويساعد هذا التنظيم على توزيع الانتباه على المستند الطويل بدلًا من الاكتفاء باستدعاء واحد للنموذج.

وفي تجارب PAT مع مؤتمري STOC وICML، تلقى المؤلفون الملاحظات قبل تسليم أوراقهم، بصورة منفصلة عن التحكيم الرسمي. لذلك لا تعني مراجعة الأداة اعتماد البحث أو ضمان قبوله للنشر.

الخصوصية وحدود الاعتماد على النتائج

تقول جوجل إن المستندات المرفوعة لا تُستخدم لتدريب نماذجها أو ضبطها أو تحسينها، لكنها تُحفظ لمدة عام لعرضها للمستخدم داخل واجهة Deep Review.

وتقر الورقة البحثية بأن أدوات المراجعة قد تخطئ في فهم الاستدلال، فتصف حجة صحيحة بأنها خاطئة. وتبقى مسؤولية التحقق من الملاحظات والقرارات النهائية على الباحث أو المراجع البشري.

عمليًا، يُفضّل التعامل مع التقرير بوصفه قائمة نقاط للفحص: راجع كل اعتراض في سياقه، وطابقه مع بياناتك ومصادرك، ولا تعدّل استنتاجًا لمجرد أن الأداة اعترضت عليه. وقبل رفع مستند سري، تحقّق من صلاحية مشاركته وسياسة مؤسستك، مع الانتباه إلى مدة الاحتفاظ المعلنة.

يمكن الوصول إلى الخدمة عبر بوابة Deep Review الرسمية.

Continue Reading

أخبار تقنية

ديدان الذكاء الاصطناعي.. تهديد سيبراني جديد قد ينتشر ذاتيًا بين الأجهزة

Avatar of هدير ابراهيم

Published

on

ديدان الذكاء الاصطناعي. تهديد سيبراني جديد قد ينتشر ذاتيًا بين الأجهزة 1

حذّرت شركة أنثروبيك من تزايد مخاطر ديدان الذكاء الاصطناعي، وهي برامج خبيثة قد تنسخ نفسها وتنتشر تلقائيًا بين الأجهزة المتصلة بالإنترنت.

وأشار باحثون إلى تجربة استخدمت أجهزة تلفاز ذكية لتوزيع أجزاء من العمليات الحاسوبية على 15 جهازًا، ما يسلط الضوء على مخاطر استغلال الأجهزة محدودة الموارد في الهجمات الإلكترونية.

ديدان الذكاء الاصطناعي قد تتجاوز الفيروسات التقليدية

تختلف الديدان الإلكترونية عن الفيروسات التقليدية بقدرتها على الانتشار بين الأجهزة دون الحاجة إلى تدخل المستخدم في كل مرحلة. وقد تساعد تقنيات الذكاء الاصطناعي هذه البرامج على التكيف مع بيئات مختلفة واكتشاف فرص جديدة لاستغلال الثغرات الأمنية.

وتشمل الأجهزة المعرضة للخطر منتجات إنترنت الأشياء، مثل التلفاز الذكي والأجهزة المنزلية المتصلة بالشبكة، خصوصًا عندما تتأخر تحديثاتها الأمنية أو تستمر فيها ثغرات غير معالجة.

ويرى باحثو أنثروبيك أن تطور النماذج الحالية قد يجعل تنفيذ هذه الهجمات أكثر سهولة مستقبلًا، وربطوا احتمالية ظهور تهديدات أكثر تطورًا بنهاية عام 2026، إذا استمر تقدم التقنية بالمعدل الحالي.

من موريس إلى نوت بيتيا.. تاريخ من الهجمات واسعة النطاق

شهدت العقود الماضية هجمات بارزة اعتمدت على الانتشار الذاتي، من بينها دودة موريس عام 1988، التي عطلت عددًا كبيرًا من الحواسيب، وهجوم ستوكسنت الذي استهدف أنظمة صناعية في المنشآت النووية الإيرانية.

كما تسببت هجمات مثل WannaCry وNotPetya في خسائر اقتصادية واسعة. ويخشى خبراء أن تجعل ديدان الذكاء الاصطناعي احتواء الهجمات أكثر تعقيدًا إذا تمكنت من التكيف مع ثغرات جديدة والانتقال بين منصات مختلفة.

ديدان الذكاء الاصطناعي.. تهديد سيبراني جديد قد ينتشر ذاتيًا بين الأجهزة

ديدان الذكاء الاصطناعي.. تهديد سيبراني جديد قد ينتشر ذاتيًا بين الأجهزة

هل الخطر وشيك أم مبالغ فيه؟

لا يتفق الخبراء على حجم التهديد الفعلي. فقد أشار جوناس غوان، الباحث بجامعة تورنتو، إلى سرعة تطور القدرات التقنية، لكنه لفت إلى أن التجربة التي عرضتها أنثروبيك أظهرت انتشارًا بطيئًا.

كما شكك خوان أندريس غيريرو سايد، نائب رئيس الأبحاث في SentinelOne، في القيمة العملية للتجربة، معتبرًا أنها لا تثبت امتلاك نماذج الذكاء الاصطناعي إرادة مستقلة أو قدرة واسعة على إحداث الضرر.

وتظل القدرة على رصد السلوك غير المعتاد وحظر الاتصالات المشبوهة عاملًا مهمًا في احتواء الديدان الإلكترونية قبل انتشارها على نطاق واسع.

إجراءات الحماية تقلل فرص الانتشار

يمكن للمستخدمين تقليل مخاطر الهجمات عبر تحديث الأجهزة والبرامج باستمرار، واستخدام كلمات مرور قوية وفريدة، وتفعيل المصادقة الثنائية حيثما تتوفر، إلى جانب تغيير كلمات المرور الافتراضية لأجهزة إنترنت الأشياء.

استخدامات دفاعية محتملة

قد تُستخدم بعض التقنيات نفسها في تطبيقات دفاعية، مثل اكتشاف الثغرات الأمنية ومعالجتها تلقائيًا. لكن نجاح هذه الاستخدامات يتطلب ضوابط تمنع تحول أدوات الحماية إلى مصدر خطر إضافي.

وتعيد التحذيرات فتح النقاش حول مسؤولية شركات التكنولوجيا والجهات التنظيمية في الحد من المخاطر السيبرانية، مع ضرورة التمييز بين الإمكانات المستقبلية والقدرات التي أثبتتها التجارب فعليًا.

Continue Reading

أخبار تقنية

روبوتات OpenAI البشرية.. سام ألتمان يستهدف نموذجًا أوليًا في 2027

Avatar of هدير ابراهيم

Published

on

روبوتات OpenAI البشرية. سام ألتمان يستهدف نموذجًا أوليًا في 2027

تستعد شركة OpenAI لتطوير روبوتات OpenAI البشرية، إذ يتوقع الرئيس التنفيذي سام ألتمان الوصول إلى نموذج أولي مثير للاهتمام خلال عام 2027، في خطوة تعكس توسع الشركة نحو تطوير الروبوتات المدعومة بالذكاء الاصطناعي.

روبوتات OpenAI البشرية تستهدف نموذجًا أوليًا في 2027

كشف ألتمان، خلال مشاركته في بودكاست «Sources»، أن الشركة تعتزم تطوير روبوت بشري، معتبرًا أن التصميم الشبيه بالإنسان منطقي لأن العالم المحيط، من الأبواب ولوحات المفاتيح إلى الأدوات اليومية، صُمم ليتناسب مع البشر.

وقال ألتمان إنه يتوقع عرض نموذج تجريبي في عام 2027، لكنه استبعد انتشار الروبوتات في الشوارع خلال السنوات القليلة المقبلة. ولم تكشف OpenAI حتى الآن عن التصميم النهائي أو المهام المحددة التي سينفذها النموذج الأولي.

عقل الروبوت هو التحدي الأكبر

يحتاج الروبوت البشري إلى أكثر من كاميرات ومحركات وأطراف متحركة؛ إذ يجب أن يفهم المعلومات التي تجمعها مستشعراته، ويحدد خطوات تنفيذ الأوامر، وينسق حركته، ويتعامل مع المواقف غير المتوقعة.

فعلى سبيل المثال، يتطلب رفع كوب تحديد موقعه والتعرف على مقبضه وتقدير قوة الإمساك المناسبة، لتجنب إسقاطه أو إتلافه.

وتستقطب OpenAI متخصصين في التحكم الحركي وتقدير حالة الروبوت وإدارة المحركات والمشغلات، إلى جانب تطوير أنظمة التدريب والبنية التحتية اللازمة لتعليم الذكاء الاصطناعي التعامل مع العالم المادي.

روبوتات OpenAI البشرية.. سام ألتمان يستهدف نموذجًا أوليًا في 2027

روبوتات OpenAI البشرية.. سام ألتمان يستهدف نموذجًا أوليًا في 2027

خبرات سابقة ومنافسة متزايدة

سبق للشركة العمل على مشروع Dactyl، الذي درّبت خلاله يدًا روبوتية على التعامل مع الأجسام الحقيقية، كما استخدمت تقنيات مشابهة لتعليمها التعامل مع مكعب روبيك. وأظهرت هذه التجارب صعوبة نقل المهارات من المحاكاة إلى العالم الحقيقي، حيث تفرض قوانين الفيزياء تحديات إضافية.

ولا يقتصر المشروع على تطوير البرمجيات؛ إذ تشير إعلانات التوظيف إلى اهتمام OpenAI بالمشغلات الكهروميكانيكية والمحركات وأنظمة نقل الحركة والاستشعار وإدارة الحرارة، إلى جانب التصنيع وسلاسل الإمداد.

وتواجه الشركة منافسة من تسلا، التي تطور روبوت Optimus، ومن شركة XPENG الصينية التي تعمل على روبوتها البشري IRON.

من مساعدة العمال إلى الروبوت الشخصي

تشير الوظائف المعلنة إلى أن OpenAI تستهدف تطوير روبوتات متعددة الاستخدامات يمكنها مساعدة العمال المهرة، مع طموح طويل الأجل لبناء روبوت شخصي ينفذ مهام متنوعة.

ومع ذلك، لم تعلن الشركة عن موعد إطلاق تجاري أو سعر متوقع أو تفاصيل نهائية بشأن الخصوصية. وستزداد أهمية هذه الجوانب إذا عملت الروبوتات مستقبلًا داخل المنازل، مع اعتمادها على الكاميرات والميكروفونات لفهم محيطها.

ويعتمد نجاح روبوتات OpenAI البشرية على قدرتها على الجمع بين الذكاء الاصطناعي والتحكم الحركي والتصميم الميكانيكي، وليس على محاكاة شكل الإنسان فحسب.

Continue Reading

Trending