Connect with us

أخبار تقنية

تحليل سلوك النماذج اللغوية الكبيرة لماذا تختلق المعلومات

Avatar of هدير ابراهيم

Published

on

تحليل سلوك النماذج اللغوية الكبيرة لماذا تختلق المعلومات

تُعدّ إحدى المشكلات الأساسية في استخدام النماذج اللغوية الكبيرة ميلها إلى اختلاق المعلومات بدلاً من الاعتراف بعدم معرفة الإجابة. وهذا السلوك يثير تساؤلات حول سبب عدم قدرة هذه النماذج على قول “لا أعرف” بدلاً من تقديم إجابات غير دقيقة.

تحليل سلوك النماذج اللغوية الكبيرة لماذا تختلق المعلومات

كشفت أبحاث جديدة أجرتها شركة “Anthropic” عن وجود “دوائر” عصبية داخلية تساعد النموذج اللغوي الكبير على تحديد متى يقدم استجابة قد تكون مختلقة ومتى يرفض الإجابة تمامًا. ووفقًا لتقرير نشره موقع “Ars Technica”، فإن هذا الاكتشاف قد يساعد في تطوير حلول أكثر دقة لمشكلة اختلاق الذكاء الاصطناعي للمعلومات.

تحليل سلوك النماذج اللغوية الكبيرة لماذا تختلق المعلومات

تحليل سلوك النماذج اللغوية الكبيرة لماذا تختلق المعلومات

آلية عمل الشبكة العصبية

في ورقة بحثية سابقة، استخدمت “Anthropic” نظامًا لتحليل الخلايا العصبية الاصطناعية التي تنشط عند مواجهة نموذج “Claude” لمفاهيم داخلية، مثل “أخطاء البرمجة”. وأطلقت على هذه المجموعات اسم “الخصائص”، والتي تتفاعل لتحديد كيفية استجابة النموذج لاستفسارات المستخدمين.

كيف يؤثر الضبط الدقيق على استجابات الذكاء الاصطناعي؟

تم تصميم النماذج اللغوية الكبيرة للتنبؤ بالنص التالي بناءً على المدخلات، وهو ما يجعلها عرضة للاستكمال التلقائي للمعلومات. عندما يتطابق نص الاستفسار مع البيانات المدربة عليها، فإن النموذج يقدم إجابات دقيقة. ولكن عند مواجهة معلومات نادرة أو غير مألوفة، يميل النموذج إلى تقديم تخمينات قد تكون غير صحيحة.

ويهدف الضبط الدقيق إلى تقليل هذه المشكلة من خلال توجيه النموذج للعمل كمساعد ذكي قادر على رفض الإجابة عند عدم توفر معلومات كافية.

تأثير “الأسماء المعروفة” و”غير المعروفة” على الإجابة

أظهرت الأبحاث أن الخلايا العصبية في النموذج تستجيب بشكل مختلف عند مواجهة “اسم معروف” مثل “مايكل جوردان” مقارنة باسم غير مألوف. عند التعرف على اسم غير معروف، يتم تفعيل دائرة “لا أستطيع الإجابة”، مما يؤدي إلى رفض النموذج للإجابة باستخدام عبارات مثل “أعتذر، لكن لا أستطيع…”.

أما عند مواجهة اسم معروف، فإن الخلايا العصبية المسؤولة عن خاصية “المعرفة” تنشط، مما يقلل من نشاط دائرة “لا أستطيع الإجابة”، ويسمح للنموذج بتقديم استجابة قائمة على البيانات المتاحة.

هل يمكن تحسين دقة النماذج اللغوية؟

وجد الباحثون أن زيادة أوزان الخلايا العصبية المسؤولة عن “الإجابة المعروفة” قد يؤدي إلى تعزيز ميل النموذج لاختلاق المعلومات بثقة زائفة. وهذا يشير إلى أن بعض حالات “الهلوسة” في النموذج قد تكون ناتجة عن خلل في آلية كبح الإجابات غير المؤكدة.

ويفتح هذا البحث الباب أمام تحسين النماذج اللغوية المستقبلية من خلال ضبط التوازن بين تقديم إجابات دقيقة والاعتراف بعدم المعرفة، مما يسهم في بناء أنظمة ذكاء اصطناعي أكثر موثوقية ودقة.

Click to comment

Leave a Reply

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

أجهزة محمولة

سامسونغ تطور تكنولوجيا الهواتف القابلة للطي شاشة قابلة للطي أربع مرات

Avatar of هدير ابراهيم

Published

on

سامسونغ تطور تكنولوجيا الهواتف القابلة للطي شاشة قابلة للطي أربع مرات

أعلنت شركة سامسونغ في وقت سابق من هذا العام عن خططها لتطوير هاتف ذكي قابل للطي ثلاث مرات، مما يضعها في منافسة مباشرة مع هواوي التي أطلقت أول هاتف قابل للطي ثلاث مرات، Mate XT Ultimate. في وقت لاحق، تم الكشف عن أن الهاتف الجديد قد يكون متاحًا في وقت مبكر من هذا الصيف، جنبًا إلى جنب مع أحدث إصدارات Galaxy Z Fold 7 و Galaxy Z Flip 7.

سامسونغ تطور تكنولوجيا الهواتف القابلة للطي شاشة قابلة للطي أربع مرات

الآن، يبدو أن سامسونغ قد تجاوزت حدود الابتكار، حيث تشير براءة اختراع جديدة إلى شاشة قابلة للطي أربع مرات، مما يفتح أمام المستخدمين إمكانية استخدام الجهاز بعدة طرق مختلفة. يمكن تحويل هذا الهاتف إلى جهاز لوحي، حاسوب محمول، أو هاتف مدمج، وهو ما يوفر للمستخدمين مزيدًا من الخيارات والمرونة.

سامسونغ تطور تكنولوجيا الهواتف القابلة للطي شاشة قابلة للطي أربع مرات

سامسونغ تطور تكنولوجيا الهواتف القابلة للطي شاشة قابلة للطي أربع مرات

آفاق جديدة في الإنتاجية والترفيه

إذا تحققت هذه البراءة، فقد يكون الجهاز الجديد نقطة تحول في كيفية استخدام الأجهزة المحمولة. ففكرة الهاتف القابل للطي أربع مرات تتيح تشغيل التطبيقات عبر لوحات متعددة، مما يُمكن المستخدمين من تنفيذ مهام متعددة بكفاءة أكبر. سيشكل ذلك نقلة نوعية في مجال التعدد المهام والتفاعل مع المحتوى على الأجهزة المحمولة.

مقارنة مع Mate XT Ultimate من هواوي

بينما يتفوق Mate XT Ultimate من هواوي بتصميمه الذي يمكنه التحول من هاتف ضخم إلى جهاز لوحي خفيف بقياس 10.2 بوصة، فإن تصميم سامسونغ الرباعي القابل للطي قد يتجاوز هذا الشكل ليصل إلى حجم أكبر عند فتحه بالكامل، مما يعزز الإمكانيات الترفيهية والإنتاجية.

الريادة المستمرة في سوق الهواتف القابلة للطي

من خلال براءة الاختراع هذه، تؤكد سامسونغ مرة أخرى هيمنتها في سوق الهواتف القابلة للطي، وهو ما تبرهن عليه سلسلة Galaxy Z Fold وZ Flip. رغم أن براءات الاختراع لا تضمن بالضرورة إنتاج منتج نهائي، إلا أن هذه الخطوة تبرز التزام سامسونغ بالابتكار واستكشاف آفاق جديدة لتكنولوجيا الهواتف المحمولة.

الابتكار المستمر ودفع الحدود التكنولوجية

بينما قد تبقى هذه الفكرة في مرحلة التصميم لبعض الوقت، فإن استكشاف سامسونغ لتكنولوجيا الهاتف القابل للطي الرباعي يظهر أن الشركة تسعى دائمًا لدفع مستقبل الهواتف المحمولة نحو آفاق جديدة وأكثر جرأة.

Continue Reading

أخبار تقنية

تيم سويني يهاجم أبل وغوغل بسبب ممارسات احتكارية

Avatar of هدير ابراهيم

Published

on

تيم سويني يهاجم أبل وغوغل بسبب ممارسات احتكارية

خلال حديثه في فعالية “Y Combinator” يوم الأربعاء، وصف تيم سويني، الرئيس التنفيذي لشركة Epic Games، شركتي أبل وغوغل بأنهما “شركتان عصابيتان” تتورطان في ممارسات غير قانونية، وهو ما يعكس تأثير ممارسات هذه الشركات على أعمال شركته. سويني أشار إلى كيفية تأثير هذه الممارسات على Epic Games، حيث كانت تؤثر سلبًا على جذب المطورين لمتجر الألعاب الخاص بها.

تيم سويني يهاجم أبل وغوغل بسبب ممارسات احتكارية

شركة Epic Games كانت قد رفعت دعاوى قضائية ضد كل من أبل وغوغل بسبب ممارسات احتكارية في متاجر التطبيقات الخاصة بهما. بينما تمكنت Epic من الفوز في قضيتها ضد غوغل، فإنها لم تحقق نفس النجاح مع أبل. رغم ذلك، ألزم القضاء أبل بتغيير بعض السياسات لفتح المجال لمزيد من المنافسة في متجر التطبيقات.

تيم سويني يهاجم أبل وغوغل بسبب ممارسات احتكارية

تيم سويني يهاجم أبل وغوغل بسبب ممارسات احتكارية

انتقادات سويني للأوامر القضائية والامتثال الجزئي

في حديثه، انتقد تيم سويني شركات التكنولوجيا الكبرى بسبب ما وصفه بـ “الامتثال الخبيث” لقرارات المحاكم، قائلًا: “الحقيقة المحزنة هي أن أبل وغوغل لم تعودا شركتين حسنتي النية وملتزمتين بالقانون”. وأضاف أن هذه الشركات تتبع سياسات تضمن أن تكلفة دفع الغرامات ستكون أقل من خسارة الإيرادات الناتجة عن الممارسات غير القانونية.

الآثار المترتبة على تثبيت متجر Epic Games

من بين أبرز النقاط التي أشار إليها سويني تأثير “الشاشة المخيفة” التي تظهر لمستخدمي أندرويد عند محاولة تثبيت متجر Epic Games. هذه الشاشة تحذر المستخدمين من أن البرنامج قد يكون من “مصدر غير معروف” وقد يضر بالأجهزة. ونتيجة لهذه التحذيرات، فإن 50-60% من المستخدمين يتراجعون عن محاولة تثبيت البرنامج.

مشاكل الرسوم والاحتكاك على نظام iOS

على نظام iOS، يعاني Epic Games من الرسوم المرتفعة التي تفرضها أبل على التطبيقات، حيث تفرض رسومًا أساسية قدرها 50 سنتًا لكل تثبيت سنوي لتطبيقات تتجاوز تنزيلاتها المليون. هذه الرسوم تجعل من الصعب على الألعاب المجانية أن تكون مربحة، مما يثني العديد من المطورين عن التوزيع عبر متجر Epic Games على iOS.

التوسع المستقبلي لمتجر Epic Games

على الرغم من التحديات الحالية، يأمل سويني أن يساهم فتح متجر Epic Games في المستقبل لاستقبال طلبات المطورين في تعزيز الكتالوج الخاص به على منصتي أندرويد وiOS. وعلى الرغم من الصعوبات، تمكن المتجر من جذب بعض الألعاب القديمة إلى النظامين.

Continue Reading

أخبار تقنية

اختراق أمني جديد يستهدف أنظمة أوراكل

Avatar of هدير ابراهيم

Published

on

اختراق أمني جديد يستهدف أنظمة أوراكل

أفادت وكالة “بلومبرغ”، استنادًا إلى مصادر مطلعة، بأن شركة أوراكل أخطرت عملاءها بتعرض أحد أنظمتها الحاسوبية لاختراق أمني، ما أدى إلى سرقة بيانات تسجيل دخول قديمة لبعض العملاء.

اختراق أمني جديد يستهدف أنظمة أوراكل

يعد هذا الاختراق الإلكتروني الثاني الذي تعترف به “أوراكل” خلال الشهر الماضي، وفقًا لما ذكره التقرير، مما يثير تساؤلات حول مدى أمان أنظمتها.

اختراق أمني جديد يستهدف أنظمة أوراكل

اختراق أمني جديد يستهدف أنظمة أوراكل

التحقيقات الأمنية جارية

أبلغت “أوراكل” بعض عملائها بأن مكتب التحقيقات الفيدرالي (FBI) وشركة الأمن السيبراني “كراود سترايك” يحققان في الحادثة، في محاولة للكشف عن ملابسات الاختراق والجهة المسؤولة عنه.

الابتزاز المالي والمطالبات

وذكر التقرير أن الجهة المخترقة حاولت ابتزاز الشركة للحصول على فدية مالية مقابل البيانات المسروقة، ما يسلط الضوء على التهديدات المتزايدة التي تستهدف شركات التكنولوجيا الكبرى.

حادثة منفصلة عن اختراق سابق

أكدت “أوراكل” أن هذا الاختراق لا علاقة له بحادثة القرصنة التي تعرضت لها بعض أنظمة الرعاية الصحية الشهر الماضي، والتي أثارت قلقًا واسعًا في الأوساط التقنية.

بيانات قديمة وخطر محدود

أوضح موظفون في “أوراكل” أن الاختراق طال أنظمة قديمة لم تُستخدم منذ ثماني سنوات، مؤكدين أن بيانات تسجيل الدخول المسروقة لا تشكل تهديدًا كبيرًا للأمن العام للعملاء.

حتى الآن، لم تصدر “أوراكل” تعليقًا رسميًا على الحادثة، بينما أحال متحدث باسم “كراود سترايك” أي استفسارات إلى شركة الحوسبة السحابية.

Continue Reading

Trending

Copyright © 2023 High Tech. Powered By DMB Agency.