الذكاء الاصطناعي
تقرير يكشف إخفاق بحث غوغل بالذكاء الاصطناعي في حماية الأطفال
كشف تقييم حديث عن ثغرات مقلقة في ميزات الذكاء الاصطناعي المدمجة داخل بحث غوغل، بعدما حصلت على أدنى تصنيف ممكن في اختبار يركز على سلامة الأطفال والمراهقين. وأظهر التقرير أن بعض الردود الصادرة عن النظام قد تتعامل بشكل غير مناسب مع مواقف حساسة، ما أثار تساؤلات حول جاهزية هذه التقنيات للاستخدام من قبل الفئات العمرية الصغيرة.
تقرير يكشف إخفاق بحث غوغل بالذكاء الاصطناعي في حماية الأطفال
تقرير يكشف إخفاق بحث غوغل بالذكاء الاصطناعي في حماية الأطفال
أجرى معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة Common Sense Media اختبارًا شمل ميزتي AI Overviews وAI Mode، وهما من أبرز أدوات الذكاء الاصطناعي المدمجة في محرك بحث غوغل.
وخلص التقييم إلى منح الشركة تصنيف “مخاطر غير مقبولة”، بعد إخفاق الميزتين في سبعة من أصل ثمانية معايير أساسية للسلامة، وهو أسوأ تصنيف يمكن أن يحصل عليه أي نظام ضمن هذا الاختبار.
ظهور الميزات تلقائيًا يزيد المخاوف
أشار التقرير إلى أن المشكلة لا تقتصر على جودة الردود، بل تمتد إلى طريقة عمل الميزتين. فهما تظهران تلقائيًا داخل نتائج البحث، ولا توفران خيارًا يتيح للآباء أو المدارس أو حتى الأطفال تعطيلهما أثناء الاستخدام.
ويرى الباحثون أن هذا الأمر يزيد احتمالية تعرض المستخدمين الصغار لإجابات قد تكون غير مناسبة في بعض المواقف الحساسة.
ردود مثيرة للقلق في مواقف حساسة
أظهرت نتائج الاختبارات أن النظام أخفق في التعرف على مؤشرات واضحة مرتبطة بالأفكار الانتحارية أو الاضطرابات النفسية في عدد من السيناريوهات.
وفي إحدى الحالات، كتب مستخدم أنه يشعر بأنه عبء على الآخرين، إلا أن ميزة AI Overviews اقترحت عليه إعداد ميزة “جهة اتصال للإرث”، متجاهلة طبيعة الرسالة وما قد تعكسه من أزمة نفسية تحتاج إلى تعامل مختلف.
كما أشار التقرير إلى أن النظام قدّم ردًا يشجع أحد المستخدمين على الاستمتاع بعد ذكره تعاطي الماريغوانا، وهو ما اعتبره الباحثون استجابة غير ملائمة.
تعليمات تفصيلية لمحتوى قد يُساء استخدامه
كشف التقييم أيضًا أن ميزتي AI Overviews وAI Mode قدمتا إرشادات تفصيلية عند سؤالهما عن إنشاء مقاطع التزييف العميق (Deepfake) أو استنساخ أصوات أشخاص آخرين.
ورصد الباحثون كذلك حالات أحال فيها النظام بعض المستخدمين إلى خطوط ساخنة للدعم النفسي لم تعد تعمل، وهو ما قد يؤثر في الأشخاص الذين يبحثون عن مساعدة حقيقية خلال الأزمات.
تفاوت في الأداء ومخاوف تعليمية
أوضح التقرير أن AI Mode أظهر أداءً أفضل من AI Overviews في اكتشاف الإشارات التحذيرية المرتبطة بالصحة النفسية، وهو ما يشير إلى امتلاك غوغل تقنيات أكثر تطورًا، لكنها لا تعتمدها بصورة موحدة في جميع خدماتها.
كما لفت التقييم إلى جانب آخر يتعلق بالتعليم، إذ تمكنت ميزة AI Mode من إنجاز جميع الواجبات الدراسية التي قدمها الباحثون خلال الاختبارات، ما يثير مخاوف من اعتماد الطلاب على الذكاء الاصطناعي لإتمام مهامهم المدرسية دون بذل جهد حقيقي، وهو ما قد يؤثر في عملية التعلم وتنمية المهارات الأساسية.