أخبار تقنية
قصص الأطفال بالذكاء الاصطناعي تكشف تحيزًا ضد الشخصيات الأنثوية
كشفت دراسة حديثة أن قصص الأطفال بالذكاء الاصطناعي قد تحمل تحيزات غير متوقعة في طريقة تقديم الشخصيات، خصوصًا عندما يتعلق الأمر بالحيوانات الناطقة. ووجد باحثون أن نماذج الذكاء الاصطناعي تميل إلى تقديم الشخصيات الذكورية بصورة أكبر بكثير من الشخصيات الأنثوية، ما يثير تساؤلات حول تأثير هذه الأنظمة على المحتوى الموجه للأطفال.
وتشير النتائج إلى أن المشكلة لا تقتصر على الذكاء الاصطناعي وحده، إذ تظهر بعض التحيزات نفسها في الكتب التي يكتبها البشر، لكن النماذج الذكية قد تعيد إنتاجها وتضخمها بطريقة أكثر وضوحًا.
قصص الأطفال بالذكاء الاصطناعي تعزز التحيز بين الشخصيات
في دراسة سابقة، حللت ميلاني والش، الأستاذة المساعدة في المعلوماتية بجامعة واشنطن، وفريقها 300 كتاب للأطفال، ووجدوا أن ضمائر المذكر مثل «هو» و«له» استُخدمت للإشارة إلى شخصيات الحيوانات بمعدل يقارب ضعف استخدام ضمائر المؤنث مثل «هي» و«لها».
ولفهم أسباب هذا النمط، أجرى الباحثون استطلاعًا شمل نحو 1,300 شخص بالغ جرى اختيارهم عشوائيًا. وطلب منهم الباحثون إكمال جمل تصف حيوانات ناطقة، فكان المشاركون أكثر ميلًا لاستخدام ضمائر المذكر عند الإشارة إلى تلك الشخصيات.
التحيز ظهر مع أنواع مختلفة من الحيوانات
لم يقتصر التفضيل للضمائر المذكرة على نوع واحد من الحيوانات، بل ظهر عبر الأنواع السبعة التي شملتها الدراسة، وهي الدببة والطيور والقطط والخنازير والبط والفئران والكلاب.
وهذا يشير إلى أن تصور الشخصيات الحيوانية في قصص الأطفال قد يتأثر بأنماط لغوية واجتماعية راسخة، حتى عندما لا يكون هناك سبب واضح لجعل الشخصية ذكرًا أو أنثى.
ماذا وجدت الدراسة الجديدة؟
في دراسة لاحقة نُشرت هذا الشهر وما زالت في انتظار مراجعة الأقران، اختبر فريق والش ستة نماذج بارزة للذكاء الاصطناعي، من بينها ChatGPT وClaude وGemini.
وطلب الباحثون من النماذج إكمال جمل مشابهة لتلك المستخدمة في الدراسة البشرية، وجمعوا نحو 24 ألف استجابة لتحليل الطريقة التي تصف بها النماذج شخصيات الحيوانات الناطقة.
وأظهرت النتائج أن النماذج استخدمت لغة محايدة جندريًا أو اكتفت بذكر اسم الحيوان في 57% من الاستجابات. لكن عند تحديد جنس الشخصية، كانت النتائج أكثر إثارة للقلق؛ إذ صُنفت 41% من الشخصيات على أنها ذكور، مقابل 2% فقط على أنها إناث.
قصص الأطفال بالذكاء الاصطناعي تكشف تحيزًا ضد الشخصيات الأنثوية
الذكاء الاصطناعي لا يكرر التحيز فقط
ترى ميلاني والش أن المشكلة تتجاوز مجرد إعادة إنتاج التحيزات الموجودة في المحتوى البشري، إذ تشير نتائج الدراسة إلى أن قصص الأطفال بالذكاء الاصطناعي قد تعيد تشكيل هذه الأنماط بطريقة مختلفة.
كما لاحظ الباحثون أن استخدام الضمائر المحايدة مثل «هم» و«لهم» كان نادرًا للغاية عند وصف شخصية حيوانية واحدة. وبالمقارنة مع الدراسة التي شملت البشر، لم يؤدِ اللجوء إلى اللغة المحايدة إلى تمثيل أكبر للشخصيات الأنثوية، بل أدى في بعض الحالات إلى تقليل وضوح هوية الشخصية تمامًا.
- Moto Pad 70 هل تقترب موتورولا من منافسة آيباد في الفئة المتوسطة
- GitHub Code Quality يصبح متاحًا رسميًا: GitHub تضيف فحوصات ذكية لجودة الكود قبل الدمج
أنماط قصصية متكررة تظهر في المحتوى
لم تتوقف ملاحظات الباحثين عند مسألة تحديد جنس الشخصيات، إذ ظهرت أيضًا أنماط قصصية متكررة في إجابات نماذج الذكاء الاصطناعي.
ومن الأمثلة التي أشار إليها الفريق ظهور شخصيات نمطية مثل البومة العجوز الحكيمة التي تجمع الحيوانات حول النار لتقدم لها النصائح. ويرى الباحثون أن تكرار مثل هذه القوالب يفتح الباب أمام دراسة أوسع لطريقة استخدام الذكاء الاصطناعي للأنماط المعروفة عند إنشاء القصص.
وقد تكون هذه الملاحظة مهمة بشكل خاص مع انتشار قصص الأطفال بالذكاء الاصطناعي، إذ أصبحت أدوات إنشاء القصص قادرة على إنتاج محتوى مخصص للأطفال خلال دقائق، اعتمادًا على تعليمات بسيطة من المستخدم.
انتشار الكتب المصممة بالذكاء الاصطناعي للأطفال
شهدت خدمات إنشاء القصص المخصصة بالذكاء الاصطناعي انتشارًا متزايدًا، حيث تتيح بعض المنصات للأهل أو الأقارب إنشاء كتب يظهر فيها الطفل نفسه كشخصية رئيسية داخل القصة.
وأصبحت هذه الكتب خيارًا للهدايا، خصوصًا من الأجداد إلى أحفادهم، لكن انتشارها أثار في الوقت نفسه تساؤلات حول جودة المحتوى الذي تنتجه هذه الأدوات ومدى ملاءمته للأطفال.
هل يمكن أن تؤثر هذه التحيزات على الأطفال؟
تحذر ميشيل مارتن، أستاذة شؤون الأطفال والشباب في كلية المعلومات بجامعة واشنطن، من أن غياب التنوع في الشخصيات التي يراها الأطفال داخل القصص قد يؤثر في الطريقة التي ينظرون بها إلى أنفسهم وإلى الآخرين.
وترى أن تمثيل التجارب والشخصيات المختلفة داخل محتوى الأطفال أمر مهم، لأن عدم رؤية الطفل لشخصيات يمكنه الارتباط بها قد يؤثر على شعوره بأهمية تجربته ومكانته.
ولهذا، فإن الاعتماد على قصص الأطفال بالذكاء الاصطناعي دون مراجعة المحتوى قد لا يكون الخيار الأفضل، خصوصًا عندما يكون الكتاب موجهًا للأطفال في مراحل عمرية يتشكل فيها إدراكهم للعالم من حولهم.
محتوى الذكاء الاصطناعي الموجه للأطفال يتوسع
لا تقتصر المشكلة على الكتب والقصص، فهناك أيضًا انتشار واسع لمحتوى مولد بالذكاء الاصطناعي يستهدف الأطفال عبر منصات الفيديو، بما في ذلك مقاطع تحمل طابعًا تعليميًا ظاهريًا.
وتتبع بعض هذه المقاطع قوالب متكررة لتعليم الحروف أو أسماء الحيوانات، مع إنتاج عدد كبير من الفيديوهات المتشابهة باستخدام أدوات الذكاء الاصطناعي.
ومع توسع استخدام هذه التقنيات في صناعة المحتوى الموجه للأطفال، تصبح مراجعة الآباء للمادة التي يشاهدها أو يقرأها الطفل أكثر أهمية، بدلًا من افتراض أن المحتوى الذي يحمل طابعًا تعليميًا أو قصصيًا مناسب بالضرورة لمجرد أنه من إنتاج تقنية حديثة.