تفتح تقنية ضغط نماذج اللغة الكبيرة الباب أمام تشغيل نماذج الذكاء الاصطناعي المتقدمة على أجهزة أصغر، بعدما طورت شركة بريزم إم.إل نموذجًا مضغوطًا يقلص حجم أحد نماذج علي بابا مفتوحة المصدر إلى نحو 10% من حجم الذاكرة التي يحتاجها الإصدار الأصلي.
ضغط نماذج اللغة الكبيرة يصل إلى أجهزة الكمبيوتر والهواتف
تراهن بريزم إم.إل على تطوير نماذج استدلال صغيرة تجمع بين الأداء المرتفع وكفاءة استخدام الموارد، بدلًا من الاعتماد على نماذج ضخمة تحتاج إلى كميات كبيرة من الذاكرة والطاقة لتشغيلها.
وتسعى الشركة إلى الوصول بحجم النماذج إلى مستوى يسمح بتثبيتها مباشرة على أجهزة الكمبيوتر، وربما الهواتف الذكية المتطورة، ما قد يقلل الاعتماد على مراكز البيانات عند تنفيذ بعض مهام الذكاء الاصطناعي.
نموذج Bonsai 227B يقلص الحجم بشكل كبير
أطلقت الشركة نموذج Bonsai 227B، الذي يعتمد على تقنية ضغط تطبقها على نموذج Qwen 8.3 27B مفتوح المصدر من علي بابا.
وبحسب المعلومات المعلنة، يصل حجم النموذج المضغوط إلى 5.9 غيغابايت فقط، وهو حجم يسمح بتشغيله على جهاز كمبيوتر، وقد يناسب بعض الهواتف الذكية ذات المواصفات المرتفعة.
وتعني هذه العملية خفض متطلبات الذاكرة إلى نحو 10% من احتياجات النموذج الأصلي، ما يوفر مساحة أكبر ويقلل الموارد المطلوبة لتشغيل النموذج.
لا تركز ضغط نماذج اللغة الكبيرة على تقليل الحجم فقط، إذ تقول بريزم إم.إل إن تقنيتها تحافظ على معظم قدرات النموذج الأصلي بعد عملية الضغط.
ووفق نتائج الشركة، حقق نموذج Bonsai2 المضغوط أداءً يطابق النموذج الأصلي بنسبة تقارب 98%. وتمثل هذه النتيجة تحسنًا مقارنةً بنموذج Bonsai 1 الذي أطلقته الشركة قبل شهرين وسجل تطابقًا بنحو 95%.
ويرى هاسيبي، أحد مؤسسي بريزم إم.إل، أن الحفاظ على هذا المستوى من الأداء يمثل جانبًا أساسيًا في تقنية الشركة، لأن تقليص النموذج يصبح أكثر فائدة عندما لا يؤدي إلى خسارة كبيرة في قدراته.
ضغط نماذج اللغة الكبيرة.. شركة ناشئة تصغر نموذج علي بابا إلى 10% من حجمه
خلفية الشركة ومنافسوها
أسس مجموعة من الباحثين في معهد كالتك للتكنولوجيا شركة بريزم إم.إل بقيادة هاسيبي، المتخصص في تقنيات ضغط البيانات الرقمية. كما تعتمد الشركة على لاون سوتيكا، الشريك المؤسس لشركة Databricks، مستشارًا لها.
ولا تعمل بريزم إم.إل وحدها في مجال ضغط نماذج اللغة الكبيرة، إذ تطور شركة Multiverse Computing تقنيات تهدف أيضًا إلى تقليل حجم نماذج الذكاء الاصطناعي.
لكن بريزم إم.إل تركز على الجمع بين تقليص الحجم والحفاظ على الأداء، وهو ما قد يمنح تقنيتها أهمية خاصة إذا تمكنت من نقل نماذج أكثر قدرة إلى أجهزة المستخدمين مباشرة.
هل تصبح نماذج الذكاء الاصطناعي أصغر؟
تعكس تقنية ضغط نماذج اللغة الكبيرة اتجاهًا متزايدًا نحو تشغيل الذكاء الاصطناعي محليًا على الأجهزة بدلًا من إرسال جميع المهام إلى الخوادم السحابية.
وإذا حافظت النماذج المضغوطة على مستويات الأداء الحالية مع تقليص متطلبات الذاكرة والطاقة، فقد يصبح تشغيل نماذج أكثر تقدمًا على أجهزة الكمبيوتر والهواتف أمرًا أكثر سهولة.
وتراهن بريزم إم.إل على هذا الاتجاه من خلال تصغير النماذج مع الحفاظ على قدر كبير من أدائها، في محاولة لتغيير الطريقة التي تعمل بها نماذج الذكاء الاصطناعي خارج مراكز البيانات.