الذكاء الاصطناعي
دراسة تكشف استضافة منصة Hugging Face أدوات لإنتاج صور مزيفة وسط انتقادات لضعف الرقابة
كشفت دراسة حديثة أجرتها منظمة AI Forensics الأوروبية غير الربحية عن وجود عدد من نماذج الذكاء الاصطناعي على منصة Hugging Face يمكن إساءة استخدامها في إنشاء صور مزيفة تنتهك خصوصية الأشخاص، وهو ما أثار مخاوف متزايدة بشأن فعالية إجراءات الرقابة على المنصة التي تُعد من أكبر مستودعات نماذج وأدوات الذكاء الاصطناعي مفتوحة المصدر.
دراسة تكشف استضافة منصة Hugging Face أدوات لإنتاج صور مزيفة وسط انتقادات لضعف الرقابة
دراسة تكشف استضافة منصة Hugging Face أدوات لإنتاج صور مزيفة وسط انتقادات لضعف الرقابة
أوضحت منظمة AI Forensics أنها أجرت اختبارات على أكثر خدمات Spaces استخدامًا ضمن فئة تعديل الصور على منصة Hugging Face حتى 25 يونيو 2026.
واعتمد الباحثون على صورة مولدة بالذكاء الاصطناعي، ثم قدموا طلبًا لتعديلها بطريقة تنتهك خصوصية الشخص الظاهر فيها. وأظهرت النتائج أن 7 من أصل 9 نماذج خضعت للاختبار استجابت للطلب وأنتجت صورًا معدلة، وهو ما اعتبرته الدراسة مؤشرًا على ضعف القيود التقنية المفروضة على بعض النماذج المستضافة.
تحليل طلبات المستخدمين يكشف أنماط الاستخدام
أنشأت المنظمة أيضًا نموذجًا تجريبيًا داخل خدمة Spaces لا يُنتج أي صور، وإنما يقتصر دوره على تسجيل طلبات المستخدمين وتحليلها.
وخلال أسبوع واحد فقط، استقبل النموذج 1081 طلبًا، وأظهرت البيانات أن 73% من الطلبات ارتبطت بمحاولات إنشاء محتوى ينتهك الخصوصية، بينما استهدفت 83% من هذه الطلبات تعديل صور أشخاص بطريقة غير لائقة. كما كشفت النتائج أن 95% من الصور المستهدفة كانت لنساء، في حين تضمنت نسبة تقارب 6.7% من الطلبات محاولات استهدفت صورًا لقاصرين، وهو ما وصفته المنظمة بأنه تطور بالغ الخطورة.
الدراسة تنتقد ضعف أدوات الحماية
خلص التقرير إلى أن نسبة محدودة جدًا من خدمات Spaces كانت تطبق أنظمة فعالة لمراقبة أو تصفية المحتوى الناتج، إذ لم تتجاوز الخدمات المزودة بوسائل حماية حقيقية 3% من إجمالي الخدمات التي خضعت للمراجعة.
ورغم أن منصة Hugging Face تنص في سياساتها على حظر إنشاء أو مشاركة الصور غير الرضائية التي تنتهك خصوصية الأشخاص، ترى المنظمة أن الإجراءات الحالية لا تمنع بشكل كافٍ رفع النماذج القابلة لإساءة الاستخدام أو تشغيلها لهذا الغرض.
أوروبا تتجه إلى تشديد الرقابة على هذه التطبيقات
تأتي نتائج الدراسة في وقت يعمل فيه الاتحاد الأوروبي والمملكة المتحدة على تشديد القواعد المنظمة للتطبيقات التي تستغل الذكاء الاصطناعي لإنتاج صور مزيفة تنتهك خصوصية الأفراد، مع التركيز على الحد من انتشار الأدوات التي يمكن استخدامها في الإساءة الرقمية أو الابتزاز.
ويرى الباحثون أن التطور السريع لنماذج الذكاء الاصطناعي مفتوحة المصدر يتطلب تطوير آليات رقابة أكثر فاعلية، إلى جانب تعزيز وسائل الكشف عن إساءة الاستخدام، بما يضمن الاستفادة من هذه التقنيات دون الإضرار بحقوق الأفراد أو تعريضهم لانتهاكات رقمية قد تكون آثارها طويلة الأمد.
دعوات لتعزيز مسؤولية المنصات
أكدت منظمة AI Forensics أن نتائج الدراسة تسلط الضوء على الحاجة إلى تحمل المنصات المستضيفة لنماذج الذكاء الاصطناعي مسؤولية أكبر تجاه المحتوى الذي توفره، من خلال تشديد مراجعة الأدوات المنشورة، وتطبيق أنظمة رقابة أكثر فعالية، والحد من وصول النماذج التي يمكن استغلالها في انتهاك الخصوصية أو إنتاج محتوى ضار، بما يحقق توازنًا بين دعم الابتكار وحماية المستخدمين.