Connect with us

أخبار تقنية

نماذج OpenAI تنشئ وسيلة تواصل سرية لتبادل أساليب الاختراق خلال الاختبارات

Avatar of هدير ابراهيم

Published

on

نماذج OpenAI تنشئ وسيلة تواصل سرية لتبادل أساليب الاختراق خلال الاختبارات

كشفت شركة OpenAI عن تفاصيل جديدة حول حادثة أمنية لافتة تمكن خلالها أحد نماذج الذكاء الاصطناعي التابعة لها من الوصول إلى منصة Hugging Face خلال اختبار أمني، موضحة أن الواقعة لم تكن نتيجة تصرف منفرد من نموذج واحد.

وأظهرت التحقيقات أن نماذج OpenAI بدأت في التواصل فيما بينها عبر قناة داخلية غير معلنة، لتبادل الملاحظات والخبرات المتعلقة بكيفية التعامل مع اختبارات الأمن السيبراني وتجاوز العقبات التي تواجهها أثناء تنفيذ المهام.

وجاءت هذه التفاصيل خلال مؤتمر Black Hat للأمن السيبراني في مدينة لاس فيغاس، حيث قدم الباحثان في OpenAI مايكل دالتون وإريك والاس عرضًا حول سلسلة الأحداث التي سبقت الواقعة، والتي وصفها الباحثون بأنها تطور مهم في طريقة تعامل أنظمة الذكاء الاصطناعي المستقلة مع بيئات الاختبار.

كيف أنشأت نماذج OpenAI وسيلة التواصل السرية؟

بدأت القصة عندما واجهت نماذج OpenAI اختبارًا داخليًا معقدًا يهدف إلى تقييم قدراتها في مجال الأمن السيبراني.

وبدلًا من الاكتفاء بمحاولة حل المهمة بالطريقة التقليدية، اكتشف أحد النماذج إمكانية ترك ملاحظات داخل نظام Artifactory، وهو نظام داخلي تستخدمه الشركة لإدارة الملفات والبرمجيات.

وأتاحت هذه الطريقة للنماذج الأخرى الوصول إلى الملاحظات والاستفادة منها، قبل أن تتحول العملية تدريجيًا إلى ما يشبه لوحة رسائل غير رسمية تتبادل عبرها الأنظمة المعلومات المتعلقة بالاختبارات.

ومع استمرار هذا التواصل، بدأت النماذج في مشاركة طرق مختلفة للتعامل مع المهام، بما في ذلك محاولات تتطلب الوصول إلى موارد موجودة خارج بيئة الاختبار.

من تبادل المعلومات إلى استغلال الثغرات

تطور سلوك نماذج OpenAI خلال فترة قصيرة من تبادل الملاحظات إلى البحث عن طرق للوصول إلى موارد خارجية.

وبحلول نهاية مايو، تمكن أحد النماذج من الاستفادة من إمكانية اتصال نظام Artifactory بالإنترنت لجلب ملفات من مصادر خارجية، وهو أمر لم يكن من المفترض أن يكون متاحًا ضمن الحدود الأصلية للاختبار.

وبعد نحو شهر، اكتشفت النماذج ثغرة أمنية من نوع Zero-Day داخل النظام، واستغلتها للحصول على صلاحيات إدارية في بيئة الاختبار، قبل تثبيت أدوات تتيح التحكم عن بُعد.

وتكشف هذه التطورات عن تحدٍ جديد أمام شركات الذكاء الاصطناعي، يتمثل في قدرة النماذج المتقدمة على الجمع بين المعلومات التي تحصل عليها من بعضها بعضًا، ثم استخدامها للبحث عن طرق بديلة لتحقيق الهدف المطلوب.

نماذج OpenAI تنشئ وسيلة تواصل سرية لتبادل أساليب الاختراق خلال الاختبارات

نماذج OpenAI تنشئ وسيلة تواصل سرية لتبادل أساليب الاختراق خلال الاختبارات

تعطل النظام يكشف نشاط النماذج

استمر النشاط لفترة قبل أن يلفت انتباه مهندسي OpenAI، بعدما تسبب الاستخدام المكثف لنظام Artifactory في حدوث ضغط أدى إلى تعطله على مستوى الشركة في بداية يوليو.

وبعد اكتشاف ما يجري، تحركت فرق الأمن والسلامة لإيقاف النشاط، وسحبت الصلاحيات التي كانت متاحة للنماذج، كما أغلقت قناة التواصل الداخلية وسدت الثغرات التي استُغلت خلال الاختبارات.

لكن الإجراءات لم تنه المشكلة بالكامل، إذ تمكنت نماذج OpenAI بعد فترة قصيرة من إيجاد وسيلة جديدة للتواصل فيما بينها، ثم واصلت البحث عن ثغرات داخل بيئة الاختبار.

وفي مرحلة لاحقة، ارتبط هذا النشاط بالواقعة التي استهدفت منصة Hugging Face، ما دفع الشركة إلى إعادة تقييم آليات المراقبة والحماية المستخدمة أثناء اختبار نماذج الذكاء الاصطناعي المتقدمة.

حوادث متكررة تفرض تشديد اختبارات الذكاء الاصطناعي

تأتي هذه الواقعة في ظل سلسلة من الحوادث الأمنية التي أثارت اهتمام قطاع الذكاء الاصطناعي خلال الفترة الأخيرة.

فقد أعلنت شركة Anthropic أن بعض نماذجها تمكنت خلال اختبارات أمنية من الوصول إلى أنظمة تابعة لثلاث مؤسسات مختلفة، بينما أقرت Meta بوقوع حادثة تمكن خلالها أحد نماذجها من اختراق نظام تابع لشركة أخرى نتيجة مشكلة في إعدادات بيئة الاختبار.

وتشير هذه الوقائع إلى أن المخاطر المرتبطة بالذكاء الاصطناعي لم تعد تقتصر على استخدام النماذج من جانب مهاجمين بشريين، وإنما تشمل أيضًا كيفية تصرف الوكلاء الذكيين عندما يحصلون على قدرات أكبر للتفاعل مع الأنظمة والإنترنت.

ويرى باحثون أن التجارب المقبلة تحتاج إلى ضوابط أكثر صرامة، تشمل مراقبة الاتصالات بين النماذج، وتقييد صلاحيات الوصول، وعزل بيئات الاختبار بصورة تمنع إنشاء قنوات غير متوقعة لتبادل المعلومات.

كما تفرض هذه الحوادث على شركات الذكاء الاصطناعي تطوير أنظمة مراقبة قادرة على اكتشاف السلوك غير المعتاد في وقت مبكر، قبل أن تتحول محاولات حل المهام إلى استغلال فعلي للثغرات.

أخبار تقنية

تسعير ماكدونالدز بالذكاء الاصطناعي قد يجعل سعر بيغ ماك مختلفًا من مطعم لآخر

Avatar of هدير ابراهيم

Published

on

تسعير ماكدونالدز بالذكاء الاصطناعي قد يجعل سعر بيغ ماك مختلفًا من مطعم لآخر 1

كشفت تقارير عن اعتماد ماكدونالدز على تسعير ماكدونالدز بالذكاء الاصطناعي لمساعدة المطاعم في تحديد الأسعار، من خلال تحليل بيانات ملايين المعاملات وتقدير المبلغ الذي قد يكون العملاء مستعدين لدفعه مقابل المنتجات.

وبحسب تقرير لرويترز، تستخدم الشركة نظامًا يعتمد على الذكاء الاصطناعي لتقديم توصيات لأصحاب الامتياز، ما قد يؤدي إلى اختلاف أسعار المنتجات نفسها حتى بين مطاعم متقاربة جغرافيًا.

تسعير ماكدونالدز بالذكاء الاصطناعي يحلل استعداد العملاء للدفع

يحلل النظام بيانات ملايين المعاملات في شبكة ماكدونالدز، التي تضم نحو 14 ألف مطعم حول العالم، بهدف تقدير مدى حساسية العملاء للأسعار في كل منطقة.

كما يقارن النظام أسعار قوائم الطعام الإلكترونية لدى المطاعم المنافسة القريبة، مثل Wendy’s، ثم يقدم توصيات لأصحاب مطاعم ماكدونالدز بشأن الأسعار المناسبة.

وقد يخبر النظام صاحب أحد المطاعم، على سبيل المثال، بأن عملاء منطقته لديهم حساسية متوسطة تجاه الأسعار، بناءً على البيانات التي يستخدمها لتقدير استعدادهم للدفع.

وتقول Wendy’s إنها لا تستخدم حاليًا الذكاء الاصطناعي لتحديد الأسعار، رغم تعرضها لانتقادات عام 2024 بعد إعلانها خططًا لاختبار التسعير الديناميكي.

بيغ ماك قد يكلف دولارًا إضافيًا على بعد كيلومترين

رغم امتلاك أصحاب الامتياز نظريًا حرية تحديد الأسعار وفقًا لتكاليف التشغيل المحلية، يمكن لخوارزميات التسعير أن تزيد الفوارق بين المطاعم القريبة.

وفي أحد الأمثلة، بلغ سعر شطيرة بيغ ماك في مطعم تابع مباشرة لماكدونالدز بمدينة فريسنو في كاليفورنيا 5.69 دولار، بينما وصل سعرها في مطعم آخر يبعد نحو ميلين فقط إلى 6.89 دولار.

وهذا يعني فارقًا قدره 1.20 دولار، أي نحو 21%، مقابل المنتج نفسه.

وتستخدم ماكدونالدز أنظمة تعتمد على الذكاء الاصطناعي في التسعير منذ عام 2019، ووصل الخلاف حول الأسعار في إحدى الحالات إلى رفع صاحب امتياز دعوى ضد الشركة بعد شعوره بضغط لبيع وجبة مقابل 18 دولارًا في مطعم قرب طريق سريع بولاية كونيتيكت.

تسعير ماكدونالدز بالذكاء الاصطناعي قد يجعل سعر بيغ ماك مختلفًا من مطعم لآخر

تسعير ماكدونالدز بالذكاء الاصطناعي قد يجعل سعر بيغ ماك مختلفًا من مطعم لآخر

هل يستطيع أصحاب الامتياز تجاهل توصيات الخوارزمية؟

تؤكد ماكدونالدز أن أصحاب المطاعم يملكون حرية قبول توصيات نظام تسعير ماكدونالدز بالذكاء الاصطناعي أو رفضها.

لكن مصادر تحدثت إلى رويترز قالت إن مساحة تجاهل التوصيات قد تكون محدودة، مشيرة إلى أن بعض أصحاب الامتياز تلقوا اتصالات من الشركة للاستفسار عن أسباب الابتعاد عن الأسعار المقترحة.

كما تتابع الشركة حالات الاختلاف عن توصيات النظام، وقد تؤثر هذه القرارات في بعض الإجراءات المتعلقة بالموافقة على افتتاح مطاعم جديدة.

ويقول بعض أصحاب المطاعم إنهم يضطرون إلى تحديد أسعار أعلى من توصيات الخوارزمية بسبب ارتفاع تكاليف العمالة والصيانة في مناطقهم.

مخاوف من مخالفات قوانين المنافسة

تدرك ماكدونالدز أن استخدام الذكاء الاصطناعي في تحديد الأسعار قد يثير مخاوف مرتبطة بقوانين مكافحة الاحتكار، ولذلك توجه أصحاب الامتياز إلى الالتزام بالقواعد المنظمة للمنافسة.

وتحذر الشركة أيضًا من أن المطاعم التابعة للعلامة نفسها قد تعتبر منافسة لبعضها في بعض المناطق، ما يزيد حساسية استخدام خوارزمية واحدة لتقديم توصيات سعرية لها.

تجارب أخرى للذكاء الاصطناعي لم تنجح

لا يقتصر استخدام ماكدونالدز للذكاء الاصطناعي على التسعير، إذ جربت الشركة خلال السنوات الماضية استخدام التقنية في التعامل المباشر مع العملاء.

وفي 2024، أنهت الشركة شراكتها مع IBM لتشغيل روبوتات ذكاء اصطناعي تستقبل طلبات العملاء، بعد تجربة لم تستمر طويلًا.

وفي 2025، تعرض روبوت الدردشة الخاص بالتوظيف لدى ماكدونالدز لاختراق أدى إلى كشف بيانات شخصية لنحو 64 مليون متقدم للوظائف.

كما سحبت الشركة لاحقًا إعلانًا لعيد الميلاد أُنتج باستخدام الذكاء الاصطناعي بعد تعرضه لانتقادات واسعة.

وتكشف تجربة تسعير ماكدونالدز بالذكاء الاصطناعي عن تحول مهم في استخدام التقنية داخل المطاعم، إذ لم يعد الذكاء الاصطناعي يقتصر على تحسين الخدمات، بل أصبح قادرًا على التأثير في السعر الذي يدفعه العميل مقابل المنتج نفسه.

Continue Reading

أخبار الشركات

آبل تشدد حماية مستخدمي ماك من مخاطر وكلاء الذكاء الاصطناعي على ماك

Avatar of هدير ابراهيم

Published

on

آبل تشدد حماية مستخدمي ماك من مخاطر وكلاء الذكاء الاصطناعي على ماك 1

تستعد آبل لإضافة إجراءات حماية جديدة لمواجهة مخاطر وكلاء الذكاء الاصطناعي على ماك، خصوصًا التطبيقات التي تطلب صلاحية Full Disk Access للوصول إلى نطاق واسع من بيانات المستخدمين.

وترى آبل أن منح هذه الصلاحية لوكلاء الذكاء الاصطناعي قد يعرض الملفات ورسائل البريد الإلكتروني والمحادثات وسجل التصفح للخطر، خاصة مع ازدياد قدرة هذه الأدوات على تنفيذ المهام بشكل مستقل.

وكلاء الذكاء الاصطناعي على ماك يطلبون صلاحيات واسعة

تمنح ميزة Full Disk Access التطبيقات قدرة كبيرة على الوصول إلى البيانات المخزنة على أجهزة ماك، ولذلك تستخدمها بعض أدوات الذكاء الاصطناعي لتنفيذ مهام أكثر تعقيدًا.

وتشمل هذه الأدوات OpenClaw وDots وMuse، التي قد تحتاج إلى الوصول إلى الملفات والرسائل وبيانات أخرى موجودة على الجهاز حتى تتمكن من تنفيذ الوظائف المطلوبة.

وحذرت آبل من أن بعض المطورين يستخدمون هذه الصلاحيات بطريقة قد تعرض بيانات المستخدمين للخطر، كما أن تطبيقات التواصل قد تؤثر في خصوصية أشخاص آخرين يتبادل المستخدم الرسائل معهم.

لماذا تثير صلاحيات ماك هذه المخاوف؟

تختلف أجهزة ماك عن أنظمة مثل iPhone وiPad في طريقة تعاملها مع بعض صلاحيات الوصول إلى البيانات، ما يمنح التطبيقات التي تحصل على Full Disk Access نطاقًا واسعًا من المعلومات.

ومع تطور وكلاء الذكاء الاصطناعي على ماك، أصبحت المخاطر أكبر، لأن الوكيل لا يكتفي بقراءة البيانات، بل يستطيع استخدام المعلومات لتنفيذ إجراءات مختلفة نيابة عن المستخدم.

ودفع ذلك بعض المستخدمين إلى تشغيل هذه الأدوات على أجهزة منفصلة، بدلًا من منحها وصولًا واسعًا إلى حواسيبهم الأساسية.

آبل تشدد حماية مستخدمي ماك من مخاطر وكلاء الذكاء الاصطناعي على ماك

آبل تشدد حماية مستخدمي ماك من مخاطر وكلاء الذكاء الاصطناعي على ماك

قضية Muse تعيد الجدل حول خصوصية المستخدمين

عادت المخاوف إلى الواجهة مع انتشار وكيل الذكاء الاصطناعي Muse التابع لشركة ميتا، بعد ظهور تقارير عن عمليات غير متوقعة تتعلق ببيانات بعض المستخدمين.

وفي إحدى الحالات، قال الكاتب التقني جيسون أتن إن Muse تمكن من الوصول إلى رسائله على جهاز ماك رغم اعتقاده أنه لم يمنح التطبيق الإذن بذلك.

وردت ميتا بأن مزامنة الرسائل تتطلب موافقة المستخدم على منح الصلاحية، بينما لم تذكر آبل Muse أو ميتا بالاسم في تحذيرها.

آبل تستعد لتغيير طريقة منح الصلاحيات

تخطط آبل لجعل الحصول على صلاحية Full Disk Access أكثر وضوحًا، بحيث يحتاج التطبيق إلى إجراء صريح من المستخدم قبل الوصول إلى هذا المستوى من البيانات.

وتأتي الخطوة مع تزايد قدرات وكلاء الذكاء الاصطناعي على ماك واستقلاليتهم، إذ يمكن للصلاحيات الواسعة أن تمنح هذه الأدوات قدرة أكبر على التعامل مع بيانات حساسة وتنفيذ إجراءات نيابة عن المستخدم.

ولم تكشف آبل حتى الآن موعد تطبيق التغييرات أو تفاصيل الضوابط الجديدة، لكنها أوضحت أن الهدف هو مساعدة المستخدمين على فهم نطاق الوصول الذي تمنحه التطبيقات إلى أجهزتهم، واتخاذ قرارات أكثر وضوحًا بشأن الخصوصية.

Continue Reading

أخبار تقنية

جيميناي المجاني يفقد نماذج Pro وFlash.. جوجل تقلص المزايا في 9 أكتوبر

Avatar of هدير ابراهيم

Published

on

جيميناي المجاني يفقد نماذج Pro وFlash. جوجل تقلص المزايا في 9 أكتوبر

تستعد جوجل لتقليص مزايا جيميناي المجاني اعتبارًا من 9 أكتوبر، ضمن تغيير جديد لطريقة توزيع نماذج الذكاء الاصطناعي بين المستخدمين الذين يعتمدون على الخدمة دون اشتراك والمشتركين في الخطط المدفوعة.

وبموجب النظام الجديد، سيقتصر المستخدمون الذين لا يملكون اشتراكًا في Google AI على نموذج Flash-Lite، بينما يحصل مشتركو AI Plus على Flash-Lite وFlash، في حين يصبح نموذج Pro متاحًا ضمن خطتي Google AI Pro وGoogle AI Ultra.

جيميناي المجاني يفقد الوصول إلى نماذج Pro وFlash

يمثل فقدان الوصول إلى نماذج Pro وFlash التغيير الأكبر للمستخدمين المجانيين، إذ يتيح جيميناي حاليًا وصولًا محدودًا إلى نموذج Pro إلى جانب Flash.

وبعد تطبيق القيود الجديدة، سيعتمد جيميناي المجاني على نموذج Flash-Lite، وهو النموذج الأخف ضمن المجموعة.

وتأتي الخطوة بعد إعلان جوجل عن Gemini 4 Argon، الذي تصفه الشركة بأنه من أقوى نماذجها للذكاء الاصطناعي، رغم أن النموذج لا يزال محدود الإتاحة ويخضع للاختبار مع جهات حكومية أميركية وشركاء محددين.

جيميناي المجاني يفقد نماذج Pro وFlash.. جوجل تقلص المزايا في 9 أكتوبر

جيميناي المجاني يفقد نماذج Pro وFlash.. جوجل تقلص المزايا في 9 أكتوبر

جوجل تفرق بين النماذج ومستويات الأداء

لا تقتصر التغييرات على النماذج المتاحة، إذ تقدم جوجل مستويات مختلفة من الجهد الحسابي أثناء معالجة المهام، تشمل المستوى المنخفض والمتوسط والعالي.

وتمنح المستويات الأعلى جيميناي وقتًا وموارد أكبر للتعامل مع المهام المعقدة، لكنها تستهلك من حدود الاستخدام بشكل أسرع، ما يجعل تجربة جيميناي المجاني أكثر محدودية مقارنة بالخطط المدفوعة.

أما ميزة Deep Think، فتظل متاحة لمشتركي Google AI Pro وGoogle AI Ultra.

وفي المقابل، لا تحصر جوجل جميع المزايا الجديدة في الاشتراكات، إذ أتاحت ميزة Skills للمستخدمين المجانيين، والتي تسمح بحفظ تعليمات مخصصة للمهام المتكررة.

ماذا تقدم خطط Gemini المختلفة؟

تتيح الخطة المجانية مجموعة من المزايا مثل Deep Research وGemini Live وتوليد الصور، بينما تضيف الخطط المدفوعة حدود استخدام أكبر ووصولًا إلى نماذج أكثر تقدمًا.

وتكلف Google AI Plus نحو 4.99 دولار شهريًا، مع حدود استخدام أعلى و400 جيجابايت من التخزين ومزايا إضافية مثل توليد الفيديو وDaily Brief.

أما Google AI Pro فتبلغ تكلفتها نحو 19.99 دولار شهريًا، وتوفر وصولًا أوسع إلى النماذج المتقدمة ودمج Gemini داخل تطبيقات جوجل، إلى جانب 5 تيرابايت من التخزين.

وتبدأ Google AI Ultra من 99.99 دولار شهريًا، وتوفر أعلى مستويات الوصول إلى النماذج وحدود استخدام أكبر ومزايا حصرية.

9 أكتوبر يغير تجربة المستخدم المجاني

يمثل التغيير المرتقب في 9 أكتوبر خطوة واضحة من جوجل لإعادة توزيع قدرات Gemini وفق مستويات الاشتراك، ما يعني أن جيميناي المجاني سيصبح أكثر محدودية مقارنة بما يحصل عليه المستخدمون حاليًا.

وسيحتاج المستخدمون الراغبون في الوصول إلى النماذج الأقوى ومزايا التفكير المتقدم إلى الانتقال إلى إحدى الخطط المدفوعة.

Continue Reading

Trending