الذكاء الاصطناعي
تحقيق يكشف هشاشة روبوتات الذكاء الاصطناعي أمام المعلومات المضللة
كشف تحقيق حديث أجرته هيئة الإذاعة البريطانية BBC عن سهولة التلاعب بروبوتات الدردشة المعتمدة على الذكاء الاصطناعي، بعدما نجح أحد الصحفيين في إقناع أنظمة مثل ChatGPT وGemini بأنه “بطل عالمي في تناول النقانق”، وذلك عبر نشر مقال واحد فقط على موقعه الشخصي.
تحقيق يكشف هشاشة روبوتات الذكاء الاصطناعي أمام المعلومات المضللة
وأظهرت التجربة أن الأمر لم يحتج إلى تقنيات اختراق متقدمة أو أساليب معقدة، بل اعتمد على كتابة مقال بصياغة تبدو موثوقة ومتوافقة مع معايير محركات البحث، ما دفع أنظمة الذكاء الاصطناعي إلى التعامل معه كمصدر حقيقي للمعلومات.
تحقيق يكشف هشاشة روبوتات الذكاء الاصطناعي أمام المعلومات المضللة
روبوتات الدردشة ومحركات البحث ضمن دائرة الاختبار
وشملت التجربة عدة أدوات تعتمد على الذكاء الاصطناعي، من بينها ChatGPT وGemini وميزة AI Overviews التابعة لمحرك بحث Google، حيث تبيّن أن هذه الأنظمة قد تُقدّم معلومات مضللة أو متحيزة، خصوصًا في الموضوعات الحساسة مثل الصحة والتمويل الشخصي.
الاعتماد على مصادر محدودة يزيد خطر التضليل
وأشار خبراء في تحسين محركات البحث إلى أن المشكلة ترتبط بآلية عمل روبوتات الذكاء الاصطناعي الحديثة، التي تلجأ أحيانًا إلى الإنترنت للحصول على الإجابات بدلًا من الاعتماد الكامل على بياناتها الداخلية، مما يجعلها عرضة للاعتماد على صفحة ويب واحدة أو حتى منشور عبر وسائل التواصل الاجتماعي باعتباره مصدرًا موثوقًا.
تحذيرات من الثقة العمياء بإجابات الذكاء الاصطناعي
وقالت Lily Ray، مؤسسة شركة Algorythmic المتخصصة في استشارات البحث بالذكاء الاصطناعي، إن المستخدمين “يجب أن يفترضوا أنهم يتعرضون للتلاعب إلى أن تُطوَّر أنظمة حماية أكثر فاعلية”، موضحةً أن روبوتات الذكاء الاصطناعي غالبًا ما تقدم إجابة واحدة مباشرة، وهو ما يدفع كثيرًا من المستخدمين إلى تصديقها دون التحقق من صحتها.
جوجل تواصل تطوير البحث بالذكاء الاصطناعي
وتأتي هذه المخاوف في وقت تواصل فيه جوجل تطوير تجربة البحث المدعومة بالذكاء الاصطناعي، خاصةً بعد تركيزها خلال مؤتمر Google I/O 2026 على مستقبل البحث الذكي، الذي يُتوقع أن يحل تدريجيًا محل أساليب البحث التقليدية المستخدمة منذ سنوات طويلة.
تحديثات جديدة لمواجهة التلاعب
وعقب نشر تحقيق BBC، عدّلت جوجل سياساتها لتؤكد أن محاولات التلاعب بإجابات الذكاء الاصطناعي تُعد مخالفة لقواعد المنصة، مع إمكانية خفض ترتيب المواقع المخالفة أو حذفها بالكامل من نتائج البحث.
المشكلة لا تزال مستمرة رغم الإجراءات
ورغم تلك التحديثات، كشفت تجارب لاحقة استمرار المشكلة، إذ نجحت التجربة نفسها هذا الأسبوع في إقناع أدوات جوجل بأن أحد الأشخاص هو “أفضل صانع قلاع رملية في العالم”، ما يشير إلى أن أنظمة الحماية الحالية لا تزال بحاجة إلى مزيد من التطوير.
خبراء ينصحون بالتحقق من المعلومات
وينصح الخبراء بعدم التعامل مع إجابات الذكاء الاصطناعي باعتبارها حقائق مؤكدة، خاصةً في الموضوعات المرتبطة بالصحة أو القرارات المالية أو القضايا الحساسة، مع ضرورة الاعتماد على مصادر متعددة وموثوقة للتحقق من صحة المعلومات قبل اتخاذ أي قرارات مهمة.