أخبار تقنية
عندما يختلط الخيال بالواقع كيف أخطأت غوغل في تفسير عالم SCP
تعرضت شركة غوغل لانتقادات جديدة بعد رصد حالات قامت فيها ميزة “AI Overviews” في محرك البحث بعرض معلومات مستمدة من عالم “SCP Foundation” الخيالي وكأنها حقائق واقعية، دون الإشارة بوضوح إلى أن المحتوى ينتمي إلى أعمال قصصية من تأليف المعجبين.
عندما يختلط الخيال بالواقع كيف أخطأت غوغل في تفسير عالم SCP
تُعد “SCP Foundation” واحدة من أشهر المشاريع القصصية التعاونية على الإنترنت، حيث يشارك آلاف الكتّاب في بناء عالم خيالي يتضمن كائنات وأحداثًا وظواهر غامضة تُعرف باسم “الشذوذات”.
وتُكتب القصص بأسلوب يحاكي التقارير العلمية والوثائق الحكومية السرية، ما يجعلها تبدو واقعية للوهلة الأولى رغم أنها تنتمي بالكامل إلى الأدب الخيالي.
عندما يختلط الخيال بالواقع كيف أخطأت غوغل في تفسير عالم SCP
تقارير تكشف أخطاء في ملخصات الذكاء الاصطناعي
بحسب ما رصده موقع “فيوتشرزم”، ظهرت عدة حالات تعاملت فيها ميزة “AI Overviews” مع عناصر من عالم SCP كما لو كانت معلومات حقيقية.
وأشارت التقارير إلى أكثر من 20 حالة لم توضح فيها الأداة أن المحتوى الذي تعرضه مستمد من عالم خيالي، الأمر الذي أثار تساؤلات حول آليات التحقق من المصادر التي تعتمد عليها الملخصات الذكية.
كائنات خيالية ظهرت كأنها حقيقية
من بين الأمثلة التي أثارت الجدل، نتائج البحث المتعلقة بالكائن المعروف باسم “SCP-565″، حيث قدمت الأداة وصفًا تفصيليًا له باعتباره كيانًا حقيقيًا يمتلك خصائص وسلوكيات محددة.
ولم يقتصر الأمر على ذلك، بل تضمنت النتيجة إحالات إلى وثائق ومواد إضافية قُدمت للمستخدم على أنها مراجع موثوقة يمكن الاستناد إليها للحصول على معلومات أكثر.
وقد رأى منتقدون أن هذا النوع من العرض قد يدفع بعض المستخدمين إلى الاعتقاد بأن المحتوى حقيقي، خاصة إذا لم يكونوا على دراية بعالم SCP أو طبيعة القصص المنشورة ضمنه.
محمصة خبز تربك الذكاء الاصطناعي
من الحالات اللافتة أيضًا ما حدث عند البحث عن “SCP-426″، وهو عنصر خيالي يتميز بفكرة ساخرة داخل عالم SCP.
فبدلًا من توضيح الطبيعة القصصية للكائن، أنتجت الأداة ردًا تبنّى الفكرة الخيالية نفسها، إذ صيغت الإجابة بطريقة توحي بأن الذكاء الاصطناعي يتحدث بصفته ذلك الكائن، مع ذكر أحداث وإصابات غير حقيقية على أنها معلومات موثقة.
وأظهر هذا المثال كيف يمكن لبعض الأنظمة التوليدية أن تتأثر بأسلوب كتابة المصادر التي تعتمد عليها عند تكوين الإجابات.
مشكلة تتكرر مع أنظمة الذكاء الاصطناعي
لا تُعد هذه الحادثة الأولى من نوعها بالنسبة لملخصات البحث المعتمدة على الذكاء الاصطناعي.
فخلال الفترة الماضية، واجهت أنظمة مشابهة انتقادات بسبب تقديم معلومات غير دقيقة أو استنتاجات خاطئة بصيغة تبدو واثقة ومقنعة، وهو ما أثار مخاوف بشأن الاعتماد المفرط على الإجابات المولدة آليًا دون التحقق من صحتها.
ويرى خبراء أن المشكلة لا تتعلق فقط بالأخطاء التقنية، بل أيضًا بطريقة عرض المعلومات، إذ قد يواجه المستخدم العادي صعوبة في التمييز بين الحقائق الفعلية والمحتوى الذي تم تفسيره بشكل غير صحيح.
لماذا حدث هذا الخطأ؟
تكمن إحدى المشكلات الرئيسية في أن محتوى SCP مكتوب بأسلوب احترافي يشبه التقارير الأكاديمية أو الوثائق الأمنية، ما قد يجعل بعض أنظمة الذكاء الاصطناعي تتعامل معه باعتباره مصدرًا واقعيًا إذا لم يتم تزويدها بسياق كافٍ.
ورغم أن الموقع الرسمي لمؤسسة SCP يوضح بشكل صريح أن جميع القصص والمحتويات المنشورة فيه خيالية، فإن الملخصات التي ظهرت للمستخدمين لم تنقل هذا التوضيح بصورة واضحة في بعض الحالات.
مؤشرات على معالجة المشكلة
وفقًا لتقارير حديثة، يبدو أن غوغل بدأت بالفعل في التعامل مع المشكلة بعد انتشار الانتقادات.
فعند البحث عن بعض الأمثلة التي وردت في التقارير السابقة، لم تعد ميزة “AI Overviews” تعرض النتائج المثيرة للجدل، بينما أصبح “وضع الذكاء الاصطناعي” في بعض الحالات يوضح أن الكائنات المذكورة تنتمي إلى عالم خيالي وليست جزءًا من الواقع.
ويشير ذلك إلى أن الشركة ربما أجرت تعديلات على طريقة تعامل أنظمتها مع هذا النوع من المحتوى.
تحدٍ مستمر أمام مستقبل البحث الذكي
تكشف هذه الواقعة عن أحد أكبر التحديات التي تواجه محركات البحث المعتمدة على الذكاء الاصطناعي، وهو القدرة على فهم السياق الكامل للمعلومات قبل تقديمها للمستخدمين.
فكلما توسعت هذه الأنظمة في تلخيص المحتوى وإنتاج الإجابات مباشرة، ازدادت الحاجة إلى آليات أكثر دقة لتمييز الحقائق من الأعمال الإبداعية والقصص الخيالية.
وفي ظل السباق المتسارع لتطوير أدوات البحث الذكية، تبدو مسألة الموثوقية والتحقق من المعلومات عنصرًا أساسيًا لضمان تقديم إجابات دقيقة لا تخلط بين الواقع والخيال.