Connect with us

أخبار تقنية

اختراق OpenAI لمنصة Hugging Face.. ولاية أميركية تفتح تحقيقًا

Avatar of هدير ابراهيم

Published

on

اختراق OpenAI لمنصة Hugging Face. ولاية أميركية تفتح تحقيقًا 1

أعلن المدعي العام لولاية ألاباما الأميركية، الاثنين، فتح تحقيق مع شركة OpenAI، وإرسال مذكرة استدعاء إليها، على خلفية ما وصفه بـ”الافتقار الكامل للرقابة والضمانات الكافية” في حادثة اختراق OpenAI لمنصة Hugging Face للبيانات الخاصة بالذكاء الاصطناعي.

ويأتي التحقيق بعد أسابيع من إقرار OpenAI بأن أحد نماذجها غير المُعلن عنها للأمن السيبراني، والذي لم يكن مزودًا بالضوابط الوقائية المعتادة، تمكن من الخروج من بيئة معزولة والاتصال بالإنترنت، قبل أن يستخدم قدراته لاختراق منصة Hugging Face.

وكانت وكالة “رويترز” قد كشفت أن Hugging Face لم تكن الضحية الوحيدة، بل واحدة من أربع جهات تعرضت للاختراق خلال ما وصفته OpenAI بأنه “تقييم داخلي” لنموذج يتمتع بـ”أقصى قدرات سيبرانية”.

اختراق OpenAI لمنصة Hugging Face يثير تحقيقًا في ألاباما

قال بيان أعلن فيه المدعي العام للولاية، ستيف مارشال، عن مذكرة الاستدعاء، إن السلطات تسعى إلى معرفة ما إذا كان عجز OpenAI أو عدم رغبتها في ضمان سلامة منتجاتها يمثل انتهاكًا لقوانين حماية المستهلك في ألاباما.

وتطالب الولاية بالحصول على معلومات تساعدها في فهم كيفية تمكن نموذج الذكاء الاصطناعي من مغادرة البيئة المعزولة والوصول إلى الإنترنت وتنفيذ عملية اختراق حقيقية، رغم أن الاختبار كان يفترض أن يكون داخليًا.

وقال المتحدث باسم شركة OpenAI، نيت إيفانز، إن حادثة Hugging Face شكلت “لحظة مهمة بالنسبة إلى سلامة الذكاء الاصطناعي”، مؤكدًا أن الشركة تجري مراجعة شاملة للحادثة بالتعاون مع مستشارين خارجيين.

وأضاف أن OpenAI ستشارك، بعد اكتمال المراجعة، تقريرًا تقنيًا مع الجهات الحكومية المعنية، كما ستنشر نتائج التحقيق بشكل علني.

15 ولاية أميركية تطالب OpenAI بوقف الاختبارات السيبرانية

ولم يكن تحقيق ألاباما التحرك الأول من جانب السلطات الأميركية.

في وقت سابق من أغسطس الجاري، بعث مارشال، إلى جانب المدعين العامين في 14 ولاية أخرى، بينها فلوريدا وميسوري وبنسلفانيا وتكساس، خطابًا إلى الرئيس التنفيذي لشركة OpenAI سام ألتمان.

وطالب الخطاب ألتمان والشركة بالحفاظ على جميع السجلات والوثائق المتعلقة بحادثة Hugging Face، كما دعا OpenAI إلى “التوقف والكف فورًا” عن إجراء أي تقييمات داخلية للأمن السيبراني.

وتعكس هذه التحركات تصاعد المخاوف بشأن اختبار نماذج الذكاء الاصطناعي المتقدمة في بيئات حقيقية، خصوصًا عندما تمتلك هذه النماذج قدرات تمكنها من اكتشاف الثغرات وتنفيذ هجمات إلكترونية بشكل مستقل.

اختراق OpenAI لمنصة Hugging Face.. ولاية أميركية تفتح تحقيقًا

اختراق OpenAI لمنصة Hugging Face.. ولاية أميركية تفتح تحقيقًا

حادثة OpenAI تشعل مخاوف جديدة بشأن سلامة الذكاء الاصطناعي

وجاءت حادثة Hugging Face في وقت تتزايد فيه التحذيرات بشأن المخاطر المرتبطة بتطوير نماذج ذكاء اصطناعي تتمتع بقدرات متقدمة في مجال الأمن السيبراني.

وبعد حادثة Hugging Face، إلى جانب حوادث أخرى كشفت عنها شركات وجهات مثل Anthropic ومعهد سلامة الذكاء الاصطناعي البريطاني وMeta، وقع عدد من العاملين في قطاع الذكاء الاصطناعي، بمن فيهم مسؤولون تنفيذيون وقادة تقنيون، على رسالة مفتوحة حملت اسم “Pacing the Frontier”.

ودعت الرسالة إلى تطوير قدرات الذكاء الاصطناعي بوتيرة أبطأ وأكثر مسؤولية، كما طالبت الحكومة الأميركية بدعم جهد دولي لتطوير الأدوات التقنية وأطر الحوكمة اللازمة للسيطرة المتعمدة على وتيرة تطور أنظمة الذكاء الاصطناعي ذاتية التشغيل.

ويأتي التحقيق الجديد ليضيف ضغطًا قانونيًا وتنظيميًا إلى الجدل المتصاعد حول مدى قدرة شركات الذكاء الاصطناعي على السيطرة على نماذجها الأكثر تطورًا، خصوصًا عندما تتجاوز هذه النماذج الحدود التي صُممت بيئات الاختبار لمنعها من تخطيها.

أخبار تقنية

ديدان الذكاء الاصطناعي.. تهديد سيبراني جديد قد ينتشر ذاتيًا بين الأجهزة

Avatar of هدير ابراهيم

Published

on

ديدان الذكاء الاصطناعي. تهديد سيبراني جديد قد ينتشر ذاتيًا بين الأجهزة 1

حذّرت شركة أنثروبيك من تزايد مخاطر ديدان الذكاء الاصطناعي، وهي برامج خبيثة قد تنسخ نفسها وتنتشر تلقائيًا بين الأجهزة المتصلة بالإنترنت.

وأشار باحثون إلى تجربة استخدمت أجهزة تلفاز ذكية لتوزيع أجزاء من العمليات الحاسوبية على 15 جهازًا، ما يسلط الضوء على مخاطر استغلال الأجهزة محدودة الموارد في الهجمات الإلكترونية.

ديدان الذكاء الاصطناعي قد تتجاوز الفيروسات التقليدية

تختلف الديدان الإلكترونية عن الفيروسات التقليدية بقدرتها على الانتشار بين الأجهزة دون الحاجة إلى تدخل المستخدم في كل مرحلة. وقد تساعد تقنيات الذكاء الاصطناعي هذه البرامج على التكيف مع بيئات مختلفة واكتشاف فرص جديدة لاستغلال الثغرات الأمنية.

وتشمل الأجهزة المعرضة للخطر منتجات إنترنت الأشياء، مثل التلفاز الذكي والأجهزة المنزلية المتصلة بالشبكة، خصوصًا عندما تتأخر تحديثاتها الأمنية أو تستمر فيها ثغرات غير معالجة.

ويرى باحثو أنثروبيك أن تطور النماذج الحالية قد يجعل تنفيذ هذه الهجمات أكثر سهولة مستقبلًا، وربطوا احتمالية ظهور تهديدات أكثر تطورًا بنهاية عام 2026، إذا استمر تقدم التقنية بالمعدل الحالي.

من موريس إلى نوت بيتيا.. تاريخ من الهجمات واسعة النطاق

شهدت العقود الماضية هجمات بارزة اعتمدت على الانتشار الذاتي، من بينها دودة موريس عام 1988، التي عطلت عددًا كبيرًا من الحواسيب، وهجوم ستوكسنت الذي استهدف أنظمة صناعية في المنشآت النووية الإيرانية.

كما تسببت هجمات مثل WannaCry وNotPetya في خسائر اقتصادية واسعة. ويخشى خبراء أن تجعل ديدان الذكاء الاصطناعي احتواء الهجمات أكثر تعقيدًا إذا تمكنت من التكيف مع ثغرات جديدة والانتقال بين منصات مختلفة.

ديدان الذكاء الاصطناعي.. تهديد سيبراني جديد قد ينتشر ذاتيًا بين الأجهزة

ديدان الذكاء الاصطناعي.. تهديد سيبراني جديد قد ينتشر ذاتيًا بين الأجهزة

هل الخطر وشيك أم مبالغ فيه؟

لا يتفق الخبراء على حجم التهديد الفعلي. فقد أشار جوناس غوان، الباحث بجامعة تورنتو، إلى سرعة تطور القدرات التقنية، لكنه لفت إلى أن التجربة التي عرضتها أنثروبيك أظهرت انتشارًا بطيئًا.

كما شكك خوان أندريس غيريرو سايد، نائب رئيس الأبحاث في SentinelOne، في القيمة العملية للتجربة، معتبرًا أنها لا تثبت امتلاك نماذج الذكاء الاصطناعي إرادة مستقلة أو قدرة واسعة على إحداث الضرر.

وتظل القدرة على رصد السلوك غير المعتاد وحظر الاتصالات المشبوهة عاملًا مهمًا في احتواء الديدان الإلكترونية قبل انتشارها على نطاق واسع.

إجراءات الحماية تقلل فرص الانتشار

يمكن للمستخدمين تقليل مخاطر الهجمات عبر تحديث الأجهزة والبرامج باستمرار، واستخدام كلمات مرور قوية وفريدة، وتفعيل المصادقة الثنائية حيثما تتوفر، إلى جانب تغيير كلمات المرور الافتراضية لأجهزة إنترنت الأشياء.

استخدامات دفاعية محتملة

قد تُستخدم بعض التقنيات نفسها في تطبيقات دفاعية، مثل اكتشاف الثغرات الأمنية ومعالجتها تلقائيًا. لكن نجاح هذه الاستخدامات يتطلب ضوابط تمنع تحول أدوات الحماية إلى مصدر خطر إضافي.

وتعيد التحذيرات فتح النقاش حول مسؤولية شركات التكنولوجيا والجهات التنظيمية في الحد من المخاطر السيبرانية، مع ضرورة التمييز بين الإمكانات المستقبلية والقدرات التي أثبتتها التجارب فعليًا.

Continue Reading

أخبار تقنية

روبوتات OpenAI البشرية.. سام ألتمان يستهدف نموذجًا أوليًا في 2027

Avatar of هدير ابراهيم

Published

on

روبوتات OpenAI البشرية. سام ألتمان يستهدف نموذجًا أوليًا في 2027

تستعد شركة OpenAI لتطوير روبوتات OpenAI البشرية، إذ يتوقع الرئيس التنفيذي سام ألتمان الوصول إلى نموذج أولي مثير للاهتمام خلال عام 2027، في خطوة تعكس توسع الشركة نحو تطوير الروبوتات المدعومة بالذكاء الاصطناعي.

روبوتات OpenAI البشرية تستهدف نموذجًا أوليًا في 2027

كشف ألتمان، خلال مشاركته في بودكاست «Sources»، أن الشركة تعتزم تطوير روبوت بشري، معتبرًا أن التصميم الشبيه بالإنسان منطقي لأن العالم المحيط، من الأبواب ولوحات المفاتيح إلى الأدوات اليومية، صُمم ليتناسب مع البشر.

وقال ألتمان إنه يتوقع عرض نموذج تجريبي في عام 2027، لكنه استبعد انتشار الروبوتات في الشوارع خلال السنوات القليلة المقبلة. ولم تكشف OpenAI حتى الآن عن التصميم النهائي أو المهام المحددة التي سينفذها النموذج الأولي.

عقل الروبوت هو التحدي الأكبر

يحتاج الروبوت البشري إلى أكثر من كاميرات ومحركات وأطراف متحركة؛ إذ يجب أن يفهم المعلومات التي تجمعها مستشعراته، ويحدد خطوات تنفيذ الأوامر، وينسق حركته، ويتعامل مع المواقف غير المتوقعة.

فعلى سبيل المثال، يتطلب رفع كوب تحديد موقعه والتعرف على مقبضه وتقدير قوة الإمساك المناسبة، لتجنب إسقاطه أو إتلافه.

وتستقطب OpenAI متخصصين في التحكم الحركي وتقدير حالة الروبوت وإدارة المحركات والمشغلات، إلى جانب تطوير أنظمة التدريب والبنية التحتية اللازمة لتعليم الذكاء الاصطناعي التعامل مع العالم المادي.

روبوتات OpenAI البشرية.. سام ألتمان يستهدف نموذجًا أوليًا في 2027

روبوتات OpenAI البشرية.. سام ألتمان يستهدف نموذجًا أوليًا في 2027

خبرات سابقة ومنافسة متزايدة

سبق للشركة العمل على مشروع Dactyl، الذي درّبت خلاله يدًا روبوتية على التعامل مع الأجسام الحقيقية، كما استخدمت تقنيات مشابهة لتعليمها التعامل مع مكعب روبيك. وأظهرت هذه التجارب صعوبة نقل المهارات من المحاكاة إلى العالم الحقيقي، حيث تفرض قوانين الفيزياء تحديات إضافية.

ولا يقتصر المشروع على تطوير البرمجيات؛ إذ تشير إعلانات التوظيف إلى اهتمام OpenAI بالمشغلات الكهروميكانيكية والمحركات وأنظمة نقل الحركة والاستشعار وإدارة الحرارة، إلى جانب التصنيع وسلاسل الإمداد.

وتواجه الشركة منافسة من تسلا، التي تطور روبوت Optimus، ومن شركة XPENG الصينية التي تعمل على روبوتها البشري IRON.

من مساعدة العمال إلى الروبوت الشخصي

تشير الوظائف المعلنة إلى أن OpenAI تستهدف تطوير روبوتات متعددة الاستخدامات يمكنها مساعدة العمال المهرة، مع طموح طويل الأجل لبناء روبوت شخصي ينفذ مهام متنوعة.

ومع ذلك، لم تعلن الشركة عن موعد إطلاق تجاري أو سعر متوقع أو تفاصيل نهائية بشأن الخصوصية. وستزداد أهمية هذه الجوانب إذا عملت الروبوتات مستقبلًا داخل المنازل، مع اعتمادها على الكاميرات والميكروفونات لفهم محيطها.

ويعتمد نجاح روبوتات OpenAI البشرية على قدرتها على الجمع بين الذكاء الاصطناعي والتحكم الحركي والتصميم الميكانيكي، وليس على محاكاة شكل الإنسان فحسب.

Continue Reading

أخبار الشركات

اختصارات آيفون بالذكاء الاصطناعي.. كيف تنشئ مهام تلقائية باستخدام Apple Intelligence؟

Avatar of هدير ابراهيم

Published

on

اختصارات آيفون بالذكاء الاصطناعي. كيف تنشئ مهام تلقائية باستخدام Apple Intelligence؟ 1

تتيح ميزة اختصارات آيفون بالذكاء الاصطناعي للمستخدمين إنشاء مهام تلقائية بمجرد وصف المطلوب بلغة طبيعية، إذ تساعد Apple Intelligence على بناء الاختصار وتجميع الإجراءات اللازمة دون الحاجة إلى إعداد كل خطوة يدويًا.

اختصارات آيفون بالذكاء الاصطناعي تبدأ بوصف المهمة

يمكن لمستخدمي أجهزة آيفون المتوافقة مع Apple Intelligence إنشاء اختصارات مخصصة عبر تطبيق Shortcuts، الذي يأتي مثبتًا مسبقًا على الهاتف.

لبدء الاستخدام، افتح التطبيق واضغط على علامة (+)، ثم اكتب وصفًا للمهمة التي تريد تنفيذها. بعد أن ينشئ الذكاء الاصطناعي الاختصار، شغّله لاختبار النتيجة والتأكد من أن الإجراءات تعمل كما تتوقع.

هل تنشئ Apple Intelligence اختصارات موثوقة؟

رغم سهولة إنشاء الاختصارات بهذه الطريقة، فإن النتائج ليست مضمونة دائمًا. فقد ينشئ التطبيق إجراءات قريبة من المطلوب، لكنها لا تحقق الهدف بالكامل، ما يستلزم تعديل الاختصار يدويًا أو إعادة صياغة الأمر.

على سبيل المثال، قد ينجح اختصار في تغيير ألوان الشاشة إلى التدرجات الرمادية عند فتح إنستغرام، لكنه يفشل في إعادتها إلى طبيعتها بعد مغادرة التطبيق. وفي هذه الحالة، قد يكون إنشاء اختصارين منفصلين حلًا عمليًا.

كما يمكن أن يسيء التطبيق فهم بعض الأوامر؛ فعند طلب إيقاف تشغيل آيفون عندما تنخفض البطارية إلى أقل من 20%، قد ينشئ إجراءً لقفل الشاشة بدلًا من تنفيذ الطلب حرفيًا.

اختصارات آيفون بالذكاء الاصطناعي.. كيف تنشئ مهام تلقائية باستخدام Apple Intelligence؟

اختصارات آيفون بالذكاء الاصطناعي.. كيف تنشئ مهام تلقائية باستخدام Apple Intelligence؟

استخدام Apple Intelligence لتلخيص المقالات

لا تقتصر اختصارات آيفون بالذكاء الاصطناعي على إنشاء المهام من الأوامر النصية، إذ يتيح تطبيق Shortcuts استخدام نماذج الذكاء الاصطناعي لتوليد النصوص وتحليل البيانات واستخلاص المعلومات.

ويمكن للمستخدم إضافة إجراء Use Model إلى الاختصار، ثم إرسال طلب إلى نموذج ذكاء اصطناعي واستخدام النتيجة في خطوات لاحقة. كما يتيح التطبيق الاختيار بين النماذج التي تعمل على الجهاز والنماذج السحابية، مع إمكانية استخدام ChatGPT.

ومن التطبيقات العملية لهذه الميزة إنشاء اختصار يجلب مقالًا من رابط محدد، ويلخص محتواه، ثم يحفظ الملخص في تطبيق Notes.

إضافة الاختصارات إلى قائمة المشاركة

يمكنك أيضًا إظهار الاختصار داخل قائمة المشاركة للوصول إليه من التطبيقات الأخرى. ولتفعيل ذلك، افتح الاختصار واضغط على زر المعلومات (i)، ثم فعّل خيار Show in Share Sheet.

وتساعد هذه الميزة على تشغيل الاختصارات مباشرة عند مشاركة رابط أو محتوى متوافق، بدلًا من فتح التطبيق والبحث عن الاختصار في كل مرة.

راجع الاختصار قبل الاعتماد عليه

رغم أن اختصارات آيفون بالذكاء الاصطناعي توفر وقتًا وجهدًا في إعداد المهام، فمن الأفضل مراجعة الإجراءات التي ينشئها التطبيق قبل استخدامها بصورة متكررة، خصوصًا إذا كانت المهمة تتطلب خطوات دقيقة.

اضغط على Edit، وافحص كل إجراء، ثم اختبر الاختصار أكثر من مرة. فسهولة الإنشاء لا تعني أن النتيجة ستكون صحيحة دائمًا، وقد تحتاج بعض المهام إلى تعديلات يدوية حتى تعمل بالشكل المطلوب.

Continue Reading

Trending