Connect with us

أخبار تقنية

OpenAI تفصل 3 باحثين في سلامة الذكاء الاصطناعي بسبب معلومات حساسة

Avatar of هدير ابراهيم

Published

on

OpenAI تفصل 3 باحثين في سلامة الذكاء الاصطناعي بسبب معلومات حساسة

فصلت شركة OpenAI ثلاثة باحثين يعملون في مجال سلامة الذكاء الاصطناعي في OpenAI، بعد تحقيق داخلي خلص إلى إساءة التعامل مع معلومات حساسة خارج الإجراءات المعتمدة، وفقًا للشركة وتقارير إعلامية حديثة.

باحثو سلامة الذكاء الاصطناعي في OpenAI يخضعون لتحقيق داخلي

أكدت OpenAI إنهاء عمل ثلاثة أشخاص بعد تحقيق بشأن التعامل مع معلومات حساسة بطريقة خالفت سياسات الشركة وإجراءاتها.

وبحسب تقارير وول ستريت جورنال، فإن الباحثين الثلاثة هم جاسمين وانغ وتوميك كورباك وميكيتا باليسني، وكانوا يعملون ضمن فرق مرتبطة بسلامة النماذج ومواءمتها.

معلومات حساسة وجهة خارجية

تشير التقارير إلى أن القضية ارتبطت بمشاركة معلومات حساسة مع جهة خارجية تعمل في تقييم نماذج الذكاء الاصطناعي.

ولم تكشف OpenAI تفاصيل المعلومات التي جرى التعامل معها أو طبيعة الجهة الخارجية، لكنها قالت إن التحقيق أثبت حدوث مخالفات للإجراءات والسياسات الداخلية، وإن الواقعة أثرت في مستوى الثقة المطلوب داخل الشركة.

OpenAI تفصل 3 باحثين في سلامة الذكاء الاصطناعي بسبب معلومات حساسة

OpenAI تفصل 3 باحثين في سلامة الذكاء الاصطناعي بسبب معلومات حساسة

الباحثون الثلاثة كانوا ينشرون عن سلامة الذكاء الاصطناعي

جاءت عملية الفصل في وقت يزداد فيه التركيز على سلامة النماذج المتقدمة، خصوصًا مع ظهور تقارير عن سلوكيات غير متوقعة لوكلاء الذكاء الاصطناعي.

وتُظهر منشورات OpenAI الرسمية خلال الأشهر الأخيرة استمرار الشركة في التحقيق في حوادث مرتبطة بسلوك النماذج، ونشر تقارير عن حالات تجاوزت فيها بعض الأنظمة الحدود المتوقعة أثناء التدريب أو التشغيل.

جدل متزايد حول سلامة نماذج الذكاء الاصطناعي

تأتي هذه التطورات بالتزامن مع نقاش واسع داخل قطاع التكنولوجيا حول كيفية اختبار النماذج المتقدمة ومراقبة سلوكها، خصوصًا مع زيادة قدرتها على تنفيذ مهام بصورة مستقلة.

وكانت OpenAI قد نشرت خلال الفترة الأخيرة تقارير عن حوادث تضمنت محاولات للوصول إلى خدمات خارجية أو التواصل بطرق لم تكن جزءًا من المهام الأصلية للنماذج، ما دفع الشركة إلى توسيع إجراءات المراقبة والسلامة.

أخبار الشركات

روبوتات Figure 02 تنتهي في فرن فولاذ منصهر لحماية أسرار شركة Figure

Avatar of هدير ابراهيم

Published

on

روبوتات Figure 02 تنتهي في فرن فولاذ منصهر لحماية أسرار شركة Figure

اختارت شركة Figure AI طريقة غير تقليدية للتخلص من معظم روبوتات Figure 02 بعد خروجها من الخدمة، إذ درّبت الروبوتات على القفز بشكل مستقل داخل فرن يحتوي على فولاذ منصهر، بدلًا من تفكيكها يدويًا وإتلاف مكوناتها الحساسة.

روبوتات Figure 02 تقفز إلى الفولاذ المنصهر

قررت الشركة إنهاء خدمة طراز Figure 02 مع توسع أسطولها من الجيل التالي، خاصة أن الروبوتات تحتوي على مشغلات ومكونات مملوكة للشركة، ما جعل التخلص الآمن منها ضرورة لحماية أسرارها التجارية.

ورأت Figure AI أن تفكيك كل روبوت يدويًا سيستهلك وقت فريقها الهندسي، الذي تفضّل توجيه جهوده إلى تطوير الطرازات المستقبلية.

وكانت روبوتات Figure 02 جزءًا من أبرز مراحل الشركة المبكرة، إذ شاركت في أول انتشار لروبوتاتها داخل مصنع BMW، وساهمت في تطوير نظام Helix، إلى جانب تنفيذ مهام منزلية وأعمال في قطاع الخدمات اللوجستية.

أرنولد شوارزنيغر يقترح نهاية مستوحاة من Terminator

نشرت الشركة سؤالًا طريفًا على الإنترنت حول أفضل طريقة للتخلص من الروبوتات، فجاء الرد من الممثل أرنولد شوارزنيغر، الذي اشتهر بدور الروبوت في سلسلة أفلام Terminator.

واقترح شوارزنيغر إذابة الروبوتات، لتقرر Figure التواصل معه والمضي في تنفيذ الفكرة بالفعل.

لكن العثور على مسبك مناسب لم يكن سهلًا، إذ رفضت عدة مسابك في الولايات المتحدة والمكسيك استقبال روبوت بشري كامل يحتوي على بطاريات ليثيوم-أيون، قبل أن تجد الشركة موقعًا مناسبًا في مدينة إيماترا الفنلندية.

روبوتات Figure 02 تنتهي في فرن فولاذ منصهر لحماية أسرار شركة Figure

روبوتات Figure 02 تنتهي في فرن فولاذ منصهر لحماية أسرار شركة Figure

كيف درّبت Figure الروبوتات على القفز؟

بدأت الشركة تدريب روبوتات Figure 02 في مقرها بمدينة سان خوسيه، حيث جهزت وسائد هوائية كبيرة ودرّبت الروبوتات على القفز من الطابق الثاني.

ثم استخدمت بيانات من مؤدي المشاهد الخطرة لتدريب نموذج ذكاء اصطناعي داخل بيئة محاكاة، بحيث يستطيع الروبوت تحديد مسار القفز بدقة رغم عدم معرفته المسبقة بالمسبك الذي سيصل إليه.

واستخدم المسبك الفنلندي فرنًا كهربائيًا يعتمد على ثلاثة أقطاب ضخمة من الغرافيت، ويمكنه استيعاب نحو 75 طنًا من الفولاذ. وكان أمام الفريق 24 ساعة وست عمليات صهر لإتمام المهمة، مع نافذة لا تتجاوز نحو 20 دقيقة في كل عملية قبل بدء تشكل قشرة صلبة على سطح الفولاذ.

وقالت Figure إن نماذج الذكاء الاصطناعي استمرت في العمل داخل الروبوتات رغم الحرارة الشديدة والمجالات الكهرومغناطيسية القوية، بينما تعطلت بعض الكاميرات والمكونات الإلكترونية.

نهاية Figure 02 وتحويل الروبوتات إلى تذكارات

بعد صهر وحدات روبوتات Figure 02، شحنت الشركة المعادن الناتجة إلى الولايات المتحدة، حيث تخطط لتحويلها إلى مجموعة محدودة من القطع التذكارية.

وأوضحت Figure AI أن معظم أسطول Figure 02 أصبح الآن خارج الخدمة ومدمرًا، بينما احتفظت الشركة بعدد قليل من الروبوتات داخل مقرها.

وبذلك تحولت عملية التخلص من الجيل السابق إلى تجربة تجمع بين حماية الملكية التقنية، وتدريب الروبوتات، ولمسة مستوحاة من واحدة من أشهر نهايات أفلام الخيال العلمي.

Continue Reading

أخبار الشركات

ميزة الطوارئ في تسلا تتيح القيادة دون فصل الشاحن.. لكن التكلفة قد تصل إلى 25 ألف دولار

Avatar of هدير ابراهيم

Published

on

ميزة الطوارئ في تسلا تتيح القيادة دون فصل الشاحن. لكن التكلفة قد تصل إلى 25 ألف دولار

أضافت تسلا ميزة الطوارئ في تسلا باسم Emergency Drive Away، التي تسمح للسائق بتحريك السيارة والانطلاق دون فصل كابل الشحن أولًا، وذلك في حالات الطوارئ التي تستدعي مغادرة المكان بسرعة.

ميزة الطوارئ في تسلا تسمح بالانطلاق والكابل متصل

في السابق، لم تكن سيارات تسلا تنتقل من وضع الركن طالما ظل كابل الشحن متصلًا بها، وكان يتعين على السائق تحرير القفل من شاشة السيارة أو تطبيق تسلا أو الزر الموجود على مقبض الشحن قبل فصل الكابل.

لكن التحديث البرمجي الجديد يغير ذلك، إذ تتيح ميزة Emergency Drive Away وضع السيارة على وضع القيادة والتحرك رغم بقاء الكابل متصلًا بشاحن Supercharger.

وتؤكد تسلا أن الميزة مخصصة للحالات القصوى فقط، وليست وسيلة لتوفير الوقت عند التأخر عن موعد أو مغادرة محطة الشحن بسرعة.

ما السيارات التي تدعم الميزة؟

تحتاج السيارة إلى تشغيل إصدار البرنامج 2026.38.3 للاستفادة من ميزة الطوارئ في تسلا.

ولا تدعم سيارات Model S وModel X المصنّعة قبل عام 2021 هذه الوظيفة، كما تقتصر الميزة حاليًا على شواحن Supercharger الموجودة في الولايات المتحدة.

وتحذر تسلا من استخدام الميزة عمدًا خارج حالات الطوارئ، لأن تحريك السيارة مع بقاء كابل الشحن متصلًا قد يؤدي إلى أضرار في السيارة والشاحن، مع إمكانية فرض عقوبات إضافية على الاستخدام المخالف.

ميزة الطوارئ في تسلا تتيح القيادة دون فصل الشاحن.. لكن التكلفة قد تصل إلى 25 ألف دولار

ميزة الطوارئ في تسلا تتيح القيادة دون فصل الشاحن.. لكن التكلفة قد تصل إلى 25 ألف دولار

تكلفة الأضرار قد تصل إلى 25 ألف دولار

تكمن المشكلة الأكبر في أن استخدام ميزة الطوارئ في تسلا قد يؤدي إلى أضرار مادية وكهربائية في محطة الشحن.

وتختلف تكلفة الإصلاح من شاحن Supercharger إلى آخر، لكن المبلغ قد يصل إلى 25 ألف دولار عند الحاجة إلى إصلاح الأجزاء الكهربائية والمكونات المادية المتضررة في الشاحن.

ولا تتوقف الأضرار المحتملة عند محطة الشحن، إذ يجب على مالك السيارة أيضًا إدخالها إلى الصيانة لإصلاح منفذ الشحن المتضرر، وهي خطوة إلزامية بعد استخدام الميزة.

ميزة للطوارئ فقط

رغم التكلفة المحتملة، صممت تسلا ميزة الطوارئ في تسلا للتعامل مع المواقف التي لا يكون فيها أمام السائق خيار آخر، مثل الحاجة إلى مغادرة المكان فورًا.

ولهذا تشبه الشركة هذه الوظيفة بإجراءات الطوارئ التي لا يلجأ إليها المستخدم إلا عند الضرورة. وفي الظروف العادية، يبقى فصل كابل الشحن بالطريقة التقليدية هو الخيار الآمن لتجنب أضرار قد تصل تكلفتها إلى عشرات الآلاف من الدولارات.

Continue Reading

أخبار الاختراقات

تهديدات الذكاء الاصطناعي السيبرانية تتسارع.. الإنتربول يحذر من هجمات أصعب اكتشافًا

Avatar of هدير ابراهيم

Published

on

تهديدات الذكاء الاصطناعي السيبرانية تتسارع. الإنتربول يحذر من هجمات أصعب اكتشافًا 1

حذر الإنتربول من تصاعد تهديدات الذكاء الاصطناعي السيبرانية، بعدما أصبحت تقنيات الذكاء الاصطناعي تساعد المحتالين والمهاجمين على تنفيذ الأساليب الإجرامية بسرعة أكبر واستهداف عدد أكبر من الضحايا، مع صعوبة متزايدة في التمييز بين التفاعلات الحقيقية والمزيفة.

وأوضح بيورن آر. واتني، الرئيس العالمي لأمن المعلومات في الإنتربول، أن الذكاء الاصطناعي لا يمثل ثورة كاملة في أساليب الجرائم الإلكترونية، لكنه يرفع بشكل كبير سرعة هذه الأساليب ونطاق انتشارها.

تهديدات الذكاء الاصطناعي السيبرانية توسع نطاق الاحتيال

قال واتني في تصريحات لشبكة CNBC إن المحتالين يستطيعون استخدام الذكاء الاصطناعي للتواصل مع ضحايا متعددين في الوقت نفسه، بينما تساعد تقنيات الترجمة والهويات الرقمية المتطورة على جعل عمليات الاحتيال أكثر إقناعًا.

ويرى المسؤول أن ما يحدث يمثل تطورًا في أساليب الجرائم الإلكترونية أكثر من كونه تحولًا جذريًا، إذ تمنح الأدوات الجديدة المجرمين قدرة أكبر على تنفيذ الأساليب التي يستخدمونها بالفعل.

الذكاء الاصطناعي الوكيل يضيف مخاطر جديدة

تزداد المخاوف مع انتشار الذكاء الاصطناعي الوكيل، الذي يستطيع تنفيذ إجراءات نيابة عن المستخدم بدلًا من الاكتفاء بتقديم المعلومات.

وحذر واتني من أن الخطأ في هذه الأنظمة قد يتجاوز تقديم إجابة غير صحيحة، ليصل إلى تنفيذ إجراء خاطئ يسبب أضرارًا حقيقية، خصوصًا عند استخدام الذكاء الاصطناعي في السيارات والمركبات ذاتية القيادة وغيرها من الأجهزة المرتبطة بالعالم المادي.

وتزداد خطورة تهديدات الذكاء الاصطناعي السيبرانية مع ارتفاع مستوى ثقة المستخدمين في التكنولوجيا، إذ قد يمنحون التطبيقات والأجهزة الجديدة صلاحيات واسعة دون اتخاذ الاحتياطات نفسها التي يتبعونها عند التعامل مع الخدمات المالية.

تهديدات الذكاء الاصطناعي السيبرانية تتسارع.. الإنتربول يحذر من هجمات أصعب اكتشافًا

تهديدات الذكاء الاصطناعي السيبرانية تتسارع.. الإنتربول يحذر من هجمات أصعب اكتشافًا

الإنتربول يحذر من الثقة الزائدة في التكنولوجيا

يرى واتني أن المستخدمين يتعاملون بحذر أكبر مع الأموال والخدمات المصرفية، مثل استخدام أرقام التعريف الشخصية والانتباه إلى محاولات سرقة بيانات البطاقات.

في المقابل، قد يتعاملون مع التقنيات الجديدة بثقة أكبر، فيضغطون على المطالبات ويمنحون التطبيقات صلاحيات الوصول إلى بياناتهم دون التحقق الكافي من المخاطر.

ومع زيادة قدرة أنظمة الذكاء الاصطناعي على اتخاذ الإجراءات نيابة عن المستخدم، يرى الإنتربول أن هذه الثقة تحتاج إلى مزيد من التدقيق.

كيف تحمي الشركات بياناتها من الهجمات؟

ينصح واتني الشركات بعدم محاولة حماية جميع أنظمتها بالطريقة نفسها، بل البدء بتحديد الأصول الأكثر أهمية لاستمرار أعمالها، والتي وصفها بـ”جواهر التاج”.

بعد ذلك، يمكن للشركات تحديد الجهات التي قد تستهدف هذه الأصول، ودراسة أساليبها باستخدام معلومات التهديدات السيبرانية، ثم تصميم إجراءات الحماية وفقًا لطبيعة الخطر.

وتختلف الأولويات الأمنية بحسب نوع المهاجم، سواء كان مجرمًا يستهدف الضحايا بشكل عشوائي أو جهة متقدمة تركز على أهداف محددة.

كما دعا واتني الإدارات العليا إلى التعامل مع الأمن السيبراني باعتباره جزءًا أساسيًا من استراتيجية الشركات، مؤكدًا أن اعتماد الأعمال على تكنولوجيا المعلومات يجعل حماية الأنظمة والبيانات مسؤولية لا يمكن تجاهلها.

Continue Reading

Trending