أخبار تقنية
تسريع الذكاء الاصطناعي على الهاتف.. نظام CURE يرفع سرعة المعالجة 3.67 مرة
قد يشهد تسريع الذكاء الاصطناعي على الهاتف تطورًا ملحوظًا خلال الفترة المقبلة، مع نظام جديد طوره باحثون في المعهد الكوري المتقدم للعلوم والتكنولوجيا (KAIST)، يهدف إلى تقليل اعتماد الهواتف على الخوادم السحابية مع الحفاظ على سرعة ودقة معالجة المهام.
وطور الباحثون نظامًا يحمل اسم CURE، يسمح لنموذج ذكاء اصطناعي صغير يعمل مباشرة على الهاتف بالاستفادة من الإجابات التي يحصل عليها نموذج أكبر موجود على الخادم. ويخزن النظام المعرفة الناتجة عن الطلبات السابقة، ثم يعيد استخدامها عندما يواجه الهاتف مهام مشابهة مستقبلًا.
وأظهرت التجارب أن CURE نجح في تقليل عدد مرات الاتصال بالخوادم بنسبة 55.61%، مع الحفاظ على دقة قريبة من تلك التي تحققها النماذج السحابية عند معالجة جميع الطلبات.
تسريع الذكاء الاصطناعي على الهاتف عبر تقليل الاتصالات بالخادم
تعتمد الهواتف الذكية عادةً على نماذج ذكاء اصطناعي صغيرة بسبب القيود المتعلقة بقدرات المعالجة والذاكرة مقارنة بالخوادم القوية. وتتعامل هذه النماذج بكفاءة مع المهام البسيطة، لكنها قد تواجه صعوبة مع الصور المعقدة أو الحالات التي لم تتعامل معها من قبل.
وعندما يعجز النموذج الموجود على الهاتف عن تنفيذ المهمة، يرسل الجهاز الطلب إلى نموذج أكبر يعمل على خادم خارجي للحصول على النتيجة المطلوبة.
كيف يعمل نظام CURE؟
يغير CURE طريقة التعامل مع هذه الطلبات من خلال آلية تعتمد على ثلاث مراحل قبل الاتصال بالخادم.
في البداية، يحاول النموذج الموجود على الهاتف حل المهمة بنفسه. وإذا لم ينجح، ينتقل النظام إلى البحث داخل المعرفة التي سبق أن جمعها من طلبات أُرسلت إلى الخادم. ولا يلجأ إلى الخادم مرة أخرى إلا عندما لا يجد النظام معرفة سابقة مناسبة للمهمة الجديدة.
وتساعد هذه الآلية على تحقيق تسريع الذكاء الاصطناعي على الهاتف من خلال تجنب الاتصالات المتكررة بالخوادم عندما تكون الإجابة المطلوبة قريبة من حالة تعامل معها الجهاز سابقًا.
- قميص مضاد لكاميرات الذكاء الاصطناعي.. تصميم غريب يربك أنظمة المراقبة
- مسجل Comu Action Pro يحول الاجتماعات إلى عروض تقديمية وخطط عمل بالذكاء الاصطناعي
مثال على الاستفادة من المعرفة السابقة
إذا عجز الهاتف عن تحديد طراز سيارة تظهر في صورة، يمكنه إرسال الصورة إلى نموذج ذكاء اصطناعي أكبر على الخادم للحصول على الإجابة.
لكن بدلًا من الاحتفاظ بالصورة نفسها، يخزن CURE السمات والخصائص المهمة التي اعتمد عليها النموذج في تحديد السيارة.
وعند ظهور سيارة مشابهة في صورة جديدة، يستطيع الهاتف مقارنة المعلومات الجديدة بالمعرفة المخزنة لديه ومحاولة تحديد السيارة محليًا، دون إرسال طلب آخر إلى الخادم.
تسريع الذكاء الاصطناعي على الهاتف.. نظام CURE يرفع سرعة المعالجة 3.67 مرة
تسريع الذكاء الاصطناعي على الهاتف يصل إلى 3.67 مرة
اختبر الباحثون CURE بالتعاون مع نماذج للرؤية واللغة، واستخدموا نموذج MobileCLIP2 على الهاتف، إلى جانب نموذج EVA-CLIP الأكبر الذي يحتوي على 18 مليار معامل ويعمل على الخادم.
وشملت الاختبارات الوقت الكامل للعملية، بما في ذلك مدة الاتصال بالخادم ونقل البيانات، وأظهرت النتائج تحسنًا ملحوظًا في سرعة تنفيذ المهام.
مقارنة سرعة CURE بالطرق التقليدية
وصلت سرعة نظام CURE إلى 2.80 مرة مقارنة بالطريقة التقليدية التي تجمع بين المعالجة على الجهاز والاستعانة بالخادم عند الحاجة.
وعند مقارنته بالأسلوب الذي يرسل جميع المهام إلى الخادم، حقق النظام سرعة تصل إلى 3.67 مرة، وهو ما يعكس الفائدة المحتملة من إعادة استخدام المعرفة التي جمعها الهاتف من الطلبات السابقة.
ولا يتطلب النظام إعادة تدريب نماذج الذكاء الاصطناعي الموجودة على الهاتف، إذ يضيف طبقة منفصلة لتخزين المعرفة والاستفادة منها. وبالتالي، يمكن من حيث المبدأ تطبيق التقنية على الأجهزة الحالية دون الحاجة إلى استبدال النموذج الموجود عليها.
مستقبل تسريع الذكاء الاصطناعي على الهاتف
قد يصبح هذا النوع من التقنيات أكثر أهمية مع اتجاه شركات الهواتف إلى تشغيل المزيد من مهام الذكاء الاصطناعي مباشرة على الأجهزة بدلًا من الاعتماد المستمر على الخدمات السحابية.
ويمكن أيضًا الاستفادة من الفكرة في أجهزة أخرى محدودة الموارد، مثل الروبوتات والأجهزة القابلة للارتداء، خاصة في الأماكن التي تعاني من ضعف الاتصال بالشبكات أو انقطاعه.
عوامل تحدد سرعة النظام
رغم النتائج التي حققها CURE، فإن مستوى التحسن الفعلي قد يختلف من جهاز إلى آخر، اعتمادًا على قوة المعالج، وسعة التخزين المتاحة، وسرعة الاتصال بالشبكة، إلى جانب طبيعة البيانات والمهام التي يعالجها النظام.
ولا تزال التقنية بحاجة إلى مزيد من الاختبارات قبل معرفة مدى انتشارها في المنتجات التجارية، لكن CURE يقدم أسلوبًا يعتمد على الاحتفاظ بالمعرفة السابقة وإعادة استخدامها، بهدف تقليل الاتصالات بالخوادم وتحسين أداء الذكاء الاصطناعي على الأجهزة.