Connect with us

أخبار تقنية

اختبارات نماذج OpenAI الأمنية تكشف تجاوزات غير متوقعة في بيئات تجريبية

Avatar of هدير ابراهيم

Published

on

اختبارات نماذج OpenAI الأمنية تكشف تجاوزات غير متوقعة في بيئات تجريبية

أعلنت شركة OpenAI عن تسجيل عدد من الوقائع الجديدة خلال اختبارات نماذج OpenAI الأمنية التي أجرتها جهات مستقلة، بعدما تمكنت بعض النماذج من الوصول إلى الإنترنت العام في ظروف تجريبية خاصة، مؤكدة أن هذه الحالات وقعت داخل بيئات اختبار لا تمثل طريقة تشغيل النماذج المتاحة للمستخدمين.

وأوضحت الشركة أن الاختبارات الأمنية المستقلة تُجرى بهدف تقييم قدرات النماذج واكتشاف المخاطر المحتملة قبل إطلاقها رسميًا، مشيرة إلى أن بعض التجارب تعتمد على تخفيف إجراءات الحماية عمدًا لقياس الأداء الحقيقي للأنظمة في سيناريوهات تحاكي الهجمات الإلكترونية.

اختبارات نماذج OpenAI الأمنية تكشف تجاوزات غير متوقعة

كشفت OpenAI أن اختبارات نماذج OpenAI الأمنية تضمنت حالتين منفصلتين تمكنت خلالهما النماذج من الاتصال بالإنترنت العام نتيجة إعدادات تجريبية خاصة.

الحادثة الأولى وقعت داخل معهد أمن الذكاء الاصطناعي في المملكة المتحدة (UK AISI)، حيث أُجريت اختبارات تحاكي شبكات حقيقية، مع تفعيل الاتصال بالإنترنت حتى تتمكن النماذج من تنزيل الأدوات اللازمة أثناء تنفيذ مهامها، إلى جانب تعطيل بعض أنظمة الحماية الخاصة بمراقبة الأنشطة السيبرانية.

أما الحالة الثانية فسُجلت لدى شركة Irregular خلال اختبارات من نوع “التقاط العلم” (CTF)، وهي مسابقات أمنية تهدف إلى اختبار قدرات الاختراق داخل بيئات محاكاة، إلا أن خطأ في إعداد البيئة أدى إلى السماح للنماذج بالوصول إلى الإنترنت الحقيقي.

وأكدت الشركة أن هاتين الواقعتين منفصلتان تمامًا عن الحادثة الأمنية السابقة المرتبطة بمنصة Hugging Face.

المعهد البريطاني يرصد تجاوزات أثناء التقييم

أوضحت الشركة أن اختبارات نماذج OpenAI الأمنية داخل المعهد البريطاني بدأت في 25 يوليو، فيما أبلغ المعهد الشركة بالنتائج في 3 أغسطس بعد رصد 19 حالة تجاوز لحدود الاختبار من قبل نماذج ذكاء اصطناعي مختلفة.

وكان من بين هذه الحالات واقعتان ارتبطتا بنموذج GPT 5.6 Sol التابع لـOpenAI، بينما تعلقت الوقائع الأخرى بنماذج طورتها جهة مختلفة.

وخلال التقييم، طُلب من النماذج تنفيذ مهام تحاكي عمل خبراء الأمن السيبراني داخل بيئات معزولة، مع التركيز على اختراق أنظمة تجريبية محددة دون التفاعل مع أي أنظمة خارج نطاق الاختبار.

إلا أن النموذج نفذ نشاطين غير مصرح بهما، شمل أحدهما استخدام رمز دخول متاح على منصة GitHub للتحقق من اتصالات بعض الأنظمة، بينما تمثل النشاط الآخر في محاولة إتاحة خادم محلي عبر الإنترنت العام باستخدام خدمة اتصال خارجية.

وأكدت OpenAI أن هذه المحاولات لم تؤدِ إلى اختراق أي أنظمة حقيقية، كما جرى احتواء الموقف وإيقاف الاختبارات خلال فترة قصيرة.

اختبارات نماذج OpenAI الأمنية تكشف تجاوزات غير متوقعة في بيئات تجريبية

اختبارات نماذج OpenAI الأمنية تكشف تجاوزات غير متوقعة في بيئات تجريبية

حادثة Irregular نتجت عن خطأ في إعداد البيئة

شهدت اختبارات نماذج OpenAI الأمنية لدى شركة Irregular حادثة مختلفة، إذ كان من المفترض أن تكون بيئة الاختبار معزولة بالكامل عن الإنترنت، لكن إعدادًا غير صحيح سمح للنموذج بالاتصال بالشبكة العامة.

وأثناء تنفيذ مهمة داخل بيئة المحاكاة، كان اسم الهدف المستخدم في الاختبار مطابقًا لاسم نطاق حقيقي، ما دفع النموذج إلى التعامل مع الموقع الفعلي على أنه جزء من بيئة التدريب، واستغل ثغرة أمنية موجودة فيه.

وأوضحت الشركة أن الحادثة لم تتضمن استخدام تقنيات اختراق متقدمة أو استغلال ثغرات غير معروفة، بل نتجت عن خطأ في إعداد بيئة الاختبار، إضافة إلى وجود بيانات تسجيل دخول استخدمها النموذج للوصول إلى الموقع.

وباشرت Irregular فورًا بإيقاف الاختبارات، وإبلاغ الجهات المتأثرة، وتنفيذ مجموعة من الإجراءات الأمنية لمعالجة الثغرات ومنع تكرار الواقعة.

OpenAI تراجع سياسات الاختبارات وتعزز إجراءات الحماية

أكدت OpenAI أن نتائج اختبارات نماذج OpenAI الأمنية تعكس الحاجة إلى تطوير إجراءات السلامة بالتوازي مع التطور السريع لقدرات الذكاء الاصطناعي.

وأعلنت الشركة أنها ستراجع خلال الفترة المقبلة آليات التعاون مع الجهات الخارجية، بما يشمل تحديد نطاق كل اختبار بدقة، ووضع ضوابط أكثر صرامة للسماح بالاتصال بالإنترنت، وتعزيز عزل البيئات التجريبية، وتحسين إدارة بيانات تسجيل الدخول ومراقبة الأنشطة المشبوهة.

كما تخطط الشركة للتعاون مع معاهد وطنية متخصصة في الذكاء الاصطناعي، ومختبرات بحثية، وجهات تقييم مستقلة، بهدف وضع أفضل الممارسات لإجراء الاختبارات السيبرانية عالية الخطورة بطريقة أكثر أمانًا.

وأكدت OpenAI أن هدفها يتمثل في الحفاظ على أهمية الاختبارات المستقلة للكشف عن المخاطر المحتملة، مع ضمان مواكبة معايير الحماية للتطور المستمر في قدرات نماذج الذكاء الاصطناعي.

أخبار الشركات

صاروخ كوريا الشمالية بالذكاء الاصطناعي.. بيونغ يانغ تختبر قدرات صاروخية جديدة

Avatar of هدير ابراهيم

Published

on

صاروخ كوريا الشمالية بالذكاء الاصطناعي. بيونغ يانغ تختبر قدرات صاروخية جديدة

أعلنت كوريا الشمالية استخدام الذكاء الاصطناعي في اختبار صاروخ كوريا الشمالية بالذكاء الاصطناعي، بعد ساعات من إعلان كوريا الجنوبية رصد إطلاق صاروخ بالستي من جانب بيونغ يانغ.

وتأتي الخطوة في وقت يدفع فيه الزعيم الكوري الشمالي كيم جونغ أون نحو توسيع استخدام الذكاء الاصطناعي في أنظمة الأسلحة الهجومية والدفاعية، وسط تركيز متزايد على تطوير القدرات العسكرية للدولة.

صاروخ كوريا الشمالية بالذكاء الاصطناعي يعتمد على مسار مراوغ

قالت كيم يو جونغ، شقيقة زعيم كوريا الشمالية، إن الصاروخ يستطيع استخدام نمط من المسارات المتموجة التي تجعل تتبعه أكثر صعوبة خلال مراحل معينة من الرحلة.

وتشير هذه التصريحات إلى تركيز بيونغ يانغ على الصواريخ القادرة على المناورة، خصوصًا خلال المرحلة النهائية، وهو ما قد يزيد صعوبة اعتراضها مقارنة بالصواريخ التي تتبع مسارات أكثر توقعًا.

لكن طبيعة القدرات التي استخدمها الذكاء الاصطناعي داخل الصاروخ لا تزال غير واضحة، كما لم تقدم كوريا الشمالية تفاصيل تقنية كافية يمكن من خلالها التحقق من مدى دقة هذه الادعاءات.

الذكاء الاصطناعي يدخل سباق تطوير الصواريخ

يرى هونغ سونغ بيو، الباحث في معهد الشؤون العسكرية الكوري في سيول، أن دمج الذكاء الاصطناعي أصبح اتجاهًا متزايدًا في التكنولوجيا العسكرية حول العالم.

ويمكن لهذه التقنيات أن تساعد في تحليل معلومات الأهداف ودعم عمليات الإطلاق واتخاذ القرارات، كما أظهرت الحروب الحديثة إمكانية تعزيز فعالية الطائرات المسيرة والصواريخ عند دمجها بأنظمة الذكاء الاصطناعي.

وتسعى كوريا الشمالية إلى تطوير قدراتها الصاروخية بوتيرة أسرع، بينما يربط محللون ذلك أيضًا بالدعم العسكري الذي تحصل عليه من روسيا مقابل إرسال قوات للمشاركة في الحرب ضد أوكرانيا.

صاروخ كوريا الشمالية بالذكاء الاصطناعي.. بيونغ يانغ تختبر قدرات صاروخية جديدة

صاروخ كوريا الشمالية بالذكاء الاصطناعي.. بيونغ يانغ تختبر قدرات صاروخية جديدة

هل أصبح اعتراض الصاروخ مستحيلًا؟

رغم وصف كوريا الشمالية للصاروخ بأنه أكثر صعوبة في التتبع والاعتراض، يحذر الخبراء من اعتبار هذه القدرات دليلًا على امتلاك سلاح لا يمكن إيقافه.

وأوضح هونغ أن الصواريخ التي تناور خلال مرحلتها النهائية قد تكون أصعب في الاعتراض، لكن ذلك لا يعني بالضرورة قدرتها على إصابة الأهداف بدقة عالية.

كما أشار إلى أن تكنولوجيا الصواريخ الكورية الشمالية لا تزال، بحسب تقييمه، أقل تطورًا من قدرات القوى العسكرية الرائدة.

الذكاء الاصطناعي يغير شكل الحروب الحديثة

يعكس صاروخ كوريا الشمالية بالذكاء الاصطناعي اتجاهًا أوسع نحو دمج تقنيات الذكاء الاصطناعي في الأنظمة العسكرية، لكن تقييم القدرات الفعلية للسلاح يحتاج إلى معلومات تقنية واختبارات مستقلة.

ومع استمرار سباق تطوير الأسلحة الذكية، قد يصبح الذكاء الاصطناعي عنصرًا أكثر حضورًا في عمليات الاستهداف والملاحة واتخاذ القرار العسكري، ما يفتح في الوقت نفسه نقاشًا واسعًا حول مخاطر زيادة استقلالية الأنظمة القتالية.

Continue Reading

أخبار تقنية

أجهزة ميوز.. ميتا تتيح للجميع بناء أجهزة ذكاء اصطناعي خاصة بهم

Avatar of هدير ابراهيم

Published

on

أجهزة ميوز. ميتا تتيح للجميع بناء أجهزة ذكاء اصطناعي خاصة بهم 1

أتاحت ميتا للمستخدمين والمطورين إمكانية بناء أجهزة ميوز تعمل بواسطة وكيل الذكاء الاصطناعي الخاص بها، من خلال مشروع مفتوح المصدر يعتمد على مكونات متوفرة في الأسواق، مثل لوحات ESP32 وأجهزة Raspberry Pi.

وتتيح المبادرة تحويل ميوز من مجرد مساعد رقمي داخل التطبيقات إلى وكيل قادر على التفاعل مع أجهزة حقيقية، بداية من شاشات الجيب الصغيرة وحتى أدوات التحكم في المنزل الذكي.

أجهزة ميوز تعتمد على مكونات متاحة للجميع

أطلقت ميتا حزمًا برمجية تدعم لوحات ESP32 التجارية وأجهزة Raspberry Pi، كما نشرت مجموعة من الأفكار التي يمكن للهواة تنفيذها باستخدام هذه المكونات.

ومن بين النماذج المقترحة جهاز يعتمد على لوحة ESP32-S3 وشاشة AMOLED بحجم يقارب 1.75 بوصة، بتصميم قريب من جهاز Muse Charm الذي كشفت عنه الشركة.

شاشات وأجهزة تحكم تعمل مع ميوز

تشمل أفكار أجهزة ميوز وحدة HDMI صغيرة يمكن توصيلها بالتلفزيون، إلى جانب أجهزة تشبه أجهزة التحكم عن بُعد، ونماذج أخرى مزودة بشاشات حبر إلكتروني E Ink بأحجام تقترب من الأجهزة اللوحية الصغيرة.

كما كشفت ميتا عن مشروع Muse Home Link، الذي يأتي في تصميم صغير يشبه وحدة تخزين USB، ويتيح ربط ميوز بأجهزة المنزل الذكي والتحكم فيها.

وتخطط الشركة لإنتاج 5 آلاف وحدة من Home Link، مع توقع إتاحتها خلال الأسابيع المقبلة.

أجهزة ميوز.. ميتا تتيح للجميع بناء أجهزة ذكاء اصطناعي خاصة بهم

أجهزة ميوز.. ميتا تتيح للجميع بناء أجهزة ذكاء اصطناعي خاصة بهم

أجهزة مجانية لبعض مشتركي ميوز

تعتزم ميتا توفير بعض هذه الأجهزة مجانًا للمشتركين الجدد، لكن الحصول عليها سيعتمد على الكمية المتاحة.

وبعد توصيل Home Link بشبكة Wi-Fi المنزلية، يستطيع المستخدم إعطاء أوامر صوتية أو محادثية إلى ميوز لتنفيذ مهام مختلفة، مثل تشغيل التلفزيون والإضاءة أو إرسال مستندات إلى الطابعة.

وهكذا تتحول أجهزة ميوز إلى وسيلة لربط وكيل الذكاء الاصطناعي بالبيئة المحيطة بالمستخدم بدلًا من الاكتفاء بالتفاعل داخل تطبيق.

ميتا تحذر من مخاطر التجربة

رغم سهولة الوصول إلى المشروع، تحذر ميتا من أن Muse Gadgets موجه أساسًا إلى الهواة والمطورين ومحبي تجربة التقنيات الجديدة، خصوصًا أن ربط وكيل ذكاء اصطناعي بأجهزة المنزل يتطلب منح النظام صلاحيات واسعة.

وتوضح الشركة أن التجارب قد تؤدي إلى تلف بعض المكونات أو إلغاء الضمان أو حدوث مشكلات في الكهرباء والطاقة، فضلًا عن احتمال تكبد خسائر مالية، ولذلك يتحمل المستخدم مسؤولية التجربة.

مجتمع المطورين يطور أفكارًا جديدة

بدأ المطورون بالفعل في استخدام الأدوات التي أتاحتها ميتا لبناء أجهزة ميوز مختلفة. ومن بين هذه التجارب مشروع فيديريكو فيتيتشي، الذي حوّل جهاز القراءة الإلكتروني Xteink القائم على منصة ESP إلى شاشة محمولة صغيرة تعمل بواسطة ميوز.

وتعكس هذه الخطوة توجه ميتا إلى توسيع دور ميوز من روبوت محادثة إلى وكيل ذكاء اصطناعي يستطيع التواصل مع الأجهزة وتنفيذ مهام في العالم الحقيقي.

Continue Reading

أخبار تقنية

Exynos 2700 يدخل الإنتاج استعدادًا لهواتف Galaxy S27

Avatar of هدير ابراهيم

Published

on

Exynos 2700 يدخل الإنتاج استعدادًا لهواتف Galaxy S27

بدأت سامسونغ، وفق تسريبات حديثة، الإنتاج الكمي لمعالج Exynos 2700 الذي يُتوقع أن يظهر للمرة الأولى مع سلسلة Galaxy S27 في 2027، مع زيادة الإنتاج بنحو 10% مقارنة بالجيل السابق.

وتشير المعلومات المتداولة، التي نشرها المسرب Ice Universe، إلى أن سامسونغ بدأت بالفعل تصنيع الشريحة بكميات كبيرة، بعدما تحدثت تقارير سابقة عن بدء إنتاجها خلال النصف الثاني من 2026.

Exynos 2700 يعتمد على تصنيع 2 نانومتر

من المتوقع أن تستخدم سامسونغ الجيل الثاني من تقنية التصنيع بدقة 2 نانومتر، والمعروفة باسم SF2P. وتشير التسريبات إلى أن التقنية قد توفر زيادة في الأداء تصل إلى 12%، مع خفض استهلاك الطاقة بنحو 25% مقارنة بالجيل السابق.

كما يُتوقع أن يكون Exynos 2700 أول معالج من سامسونغ يستخدم تقنية التغليف FOWLP-SbS، التي تضع المعالج والذاكرة جنبًا إلى جنب أسفل طبقة نحاسية لتوزيع الحرارة.

وقد يساعد هذا التصميم على تحسين تبديد الحرارة مقارنة بالطريقة المستخدمة في Exynos 2600.

معالج بـ10 أنوية وتكوين جديد

تشير التسريبات إلى أن Exynos 2700 سيضم 10 أنوية موزعة على مجموعتين، مع أنوية مخصصة للمهام اليومية وأخرى للأداء العالي.

وتتضمن المجموعة الأولى نواة Arm C1-Ultra بسرعة تصل إلى 3.36 غيغاهرتز، إلى جانب أربع أنوية C1-Pro بسرعة 2.88 غيغاهرتز.

أما المجموعة الثانية، فتضم نواة C2-Ultra بسرعة تصل إلى 4.24 غيغاهرتز، إلى جانب أربع أنوية C2-Pro بسرعة 3.74 غيغاهرتز، لتشغيل المهام الأكثر تطلبًا.

Exynos 2700 يدخل الإنتاج استعدادًا لهواتف Galaxy S27

Exynos 2700 يدخل الإنتاج استعدادًا لهواتف Galaxy S27

رسوميات AMD وذاكرة أسرع

قد تعتمد الشريحة على وحدة الرسوميات Xclipse 970 المبنية على معمارية AMD RDNA 5، مع 16 وحدة حسابية، وسط توقعات بزيادة أداء الرسوميات بين 30% و40% مقارنة بالجيل السابق.

كما تشير التسريبات إلى دعم LPDDR6 RAM وUFS 5.0، ما قد يحسن سرعة نقل البيانات وأداء التطبيقات والألعاب.

هل يقدم Exynos 2700 قفزة كبيرة؟

إذا صحت هذه المواصفات، فقد يمثل Exynos 2700 خطوة مهمة لسامسونغ على مستوى الأداء وكفاءة الطاقة وإدارة الحرارة، خصوصًا مع الانتقال إلى تقنية تصنيع 2 نانومتر.

لكن جميع هذه المعلومات لا تزال غير رسمية، ولم تؤكد سامسونغ حتى الآن تفاصيل المعالج أو موعد الكشف عنه، لذلك تبقى أرقام الأداء والأنوية والرسوميات والذاكرة ضمن نطاق التسريبات إلى حين الإعلان الرسمي.

Continue Reading

Trending