أخبار الشركات
مايكروسوفت تواجه مشكلة هلوسة الذكاء الاصطناعي خطوة نحو دقة البيانات
أعلنت شركة مايكروسوفت عن إطلاق ميزة مبتكرة تهدف إلى معالجة الأخطاء التي تنشأ في نماذج الذكاء الاصطناعي، والمعروفة بظاهرة هلوسة الذكاء الاصطناعي. تهدف هذه الميزة إلى تعزيز دقة البيانات المقدمة من الأنظمة الذكية، والحد من انتشار المعلومات الخاطئة أو المضللة.
مايكروسوفت تواجه مشكلة هلوسة الذكاء الاصطناعي خطوة نحو دقة البيانات
تعمل ميزة الذكاء الاصطناعي الجديدة التي طورتها مايكروسوفت على مسح الأجزاء غير الدقيقة من الإجابات المولدة بواسطة النماذج الذكية، ثم تقديم تحليل حول سبب الخطأ في تلك الأجزاء. بعدها، يستخدم الذكاء الاصطناعي التوليدي لتصحيح هذه المعلومات، والتأكد من مطابقتها للمصادر الموثوقة والمعتمدة.
وفقاً لتصريحات المتحدثة باسم الشركة، إلين طومبسون، فإن هذه الميزة تقدم حلاً فعّالًا لتجنب الأخطاء قبل تقديمها للمستخدمين، مما يعزز من مصداقية الأنظمة الذكية، ويزيد من ثقة المستخدمين في النتائج المقدمة.
مايكروسوفت تواجه مشكلة هلوسة الذكاء الاصطناعي خطوة نحو دقة البيانات
التطبيقات المتوقعة في أدوات الذكاء الاصطناعي
ميزة التصحيح الجديدة لن تقتصر على أداة واحدة بل سيتم تضمينها في جميع أدوات الذكاء الاصطناعي المدعومة من “مايكروسوفت”. تعتمد هذه الأدوات على برنامج “Azure AI Content Safety”، وهو النظام الذي يتيح مراقبة الهلوسات والتعامل معها قبل أن تؤثر على المستخدمين النهائيين.
يعد هذا التوجه تحولاً استراتيجياً لمايكروسوفت في سعيها لضمان أن البيانات المولدة من الذكاء الاصطناعي تتمتع بالدقة والاعتمادية. إذ أن الهلوسة تظهر عادةً عند تدريب النماذج على بيانات غير مكتملة أو متحيزة، ما يؤدي إلى توليد معلومات غير صحيحة أو غير موثوقة، وهو ما يسعى هذا الحل إلى الحد منه بشكل فعال.
تعزيز الثقة في الذكاء الاصطناعي
تؤثر هلوسة الذكاء الاصطناعي على مستوى الثقة في الأنظمة التكنولوجية، خاصة في وقت يتزايد فيه الاعتماد على هذه النماذج في مختلف المجالات. لهذا السبب، تسعى “مايكروسوفت” من خلال هذه الخطوة إلى تعزيز الثقة بين المستخدمين وتقديم حلول تكنولوجية تعتمد على دقة المعلومات وموثوقية المصادر.
باستخدام هذه الميزة الجديدة، يمكن للذكاء الاصطناعي أن يصبح أداة أكثر فعالية وتقديم نتائج دقيقة تعتمد على التحليل المستمر وتصحيح الأخطاء قبل وصولها إلى المستخدم النهائي.