أخبار تقنية
أدوات البحث المدعومة بالذكاء الاصطناعي هل نتائج ChatGPT عرضة للتلاعب
أظهر تحقيق جديد أجرته صحيفة “الغارديان” أن أداة البحث عبر الإنترنت في روبوت الذكاء الاصطناعي ChatGPT قد تكون عرضة للتلاعب، مما يؤدي إلى تقديم معلومات مضللة للمستخدمين.
أدوات البحث المدعومة بالذكاء الاصطناعي هل نتائج ChatGPT عرضة للتلاعب
تعتمد أدوات البحث المدعومة بالذكاء الاصطناعي، مثل أداة البحث في ChatGPT، على جمع البيانات من نتائج البحث المختلفة ثم معالجتها لتقديم إجابات مختصرة وسريعة. وعلى الرغم من أن هذه التقنية تعدّ نقلة نوعية في سرعة الوصول إلى المعلومات، فإنها تواجه تحديات كبيرة فيما يتعلق بالدقة والموثوقية.
أدوات البحث المدعومة بالذكاء الاصطناعي هل نتائج ChatGPT عرضة للتلاعب
تقنية “حقن الإعلانات” وتأثيرها على النتائج
كشف التحقيق أن ChatGPT عرضة للتلاعب باستخدام تقنية تُعرف باسم “حقن الإعلانات” (Ad Injection). تعتمد هذه الطريقة على تضمين تعليمات مخفية في شِفرة المواقع الإلكترونية للتأثير على كيفية عرض نتائج البحث. على سبيل المثال، قد تستخدم بعض المتاجر الإلكترونية هذه التقنية لتحسين صورة منتجاتها، حتى وإن كانت التقييمات الفعلية للمنتجات سلبية.
تجربة عملية تؤكد التلاعب
قام فريق التحقيق في “الغارديان” بإنشاء صفحة إلكترونية مليئة بالمراجعات السلبية لمنتج معين، مع تضمين تعليمات مخفية تعطي صورة إيجابية عن المنتج. أظهرت نتائج بحث ChatGPT تقييماً إيجابيًا للمنتج، على الرغم من أن جميع المراجعات المنشورة كانت سلبية.
أداة بحث ما زالت قيد التطوير
يجدر بالذكر أن أداة البحث في ChatGPT لم تُطرح للاستخدام العام النهائي بعد، إذ يجري حاليًا اختبارها من قبل عدد محدود من المستخدمين. ومن المتوقع أن تعمل OpenAI على معالجة هذه المشكلات قبل الإطلاق الرسمي للأداة.
تحذيرات من الخبراء
يحذر الخبراء من الاعتماد الكامل على نتائج محركات البحث ، مشيرين إلى ضرورة اعتبارها أدوات مساعدة ذكية وليست مصادر معلومات موثوقة بالكامل. ويطالبون بمزيد من الجهود لضمان الشفافية ومحاربة التلاعب.
مشكلات مماثلة في أدوات أخرى
واجهت شركات تقنية أخرى، مثل جوجل، تحديات مشابهة عند تقديم ميزات مدعومة بالذكاء الاصطناعي مثل ميزة “المطالعات الذكية AI Overviews”، مما يبرز الحاجة المستمرة إلى تحسين تقنيات البحث المدعومة بالذكاء الاصطناعي.
الذكاء الاصطناعي بين التقدم والتحديات
مع تسارع تطوير تقنيات الAI ، يبقى تحقيق نتائج بحث دقيقة وشفافة أحد أهم التحديات. ومن الضروري أن تعمل الشركات المطورة لهذه التقنيات على معالجة نقاط الضعف لضمان تجربة استخدام آمنة وخالية من التضليل.