كشفت دراسة حديثة أجرتها منظمة AI Forensics الأوروبية غير الربحية عن وجود عدد من نماذج الذكاء الاصطناعي على منصة Hugging Face يمكن إساءة استخدامها في إنشاء صور مزيفة تنتهك خصوصية الأشخاص، وهو ما أثار مخاوف متزايدة بشأن فعالية إجراءات الرقابة على المنصة التي تُعد من أكبر مستودعات نماذج وأدوات الذكاء الاصطناعي مفتوحة المصدر.
دراسة تكشف استضافة منصة Hugging Face أدوات لإنتاج صور مزيفة وسط انتقادات لضعف الرقابة
دراسة تكشف استضافة منصة Hugging Face أدوات لإنتاج صور مزيفة وسط انتقادات لضعف الرقابة
أوضحت منظمة AI Forensics أنها أجرت اختبارات على أكثر خدمات Spaces استخدامًا ضمن فئة تعديل الصور على منصة Hugging Face حتى 25 يونيو 2026.
واعتمد الباحثون على صورة مولدة بالذكاء الاصطناعي، ثم قدموا طلبًا لتعديلها بطريقة تنتهك خصوصية الشخص الظاهر فيها. وأظهرت النتائج أن 7 من أصل 9 نماذج خضعت للاختبار استجابت للطلب وأنتجت صورًا معدلة، وهو ما اعتبرته الدراسة مؤشرًا على ضعف القيود التقنية المفروضة على بعض النماذج المستضافة.
تحليل طلبات المستخدمين يكشف أنماط الاستخدام
أنشأت المنظمة أيضًا نموذجًا تجريبيًا داخل خدمة Spaces لا يُنتج أي صور، وإنما يقتصر دوره على تسجيل طلبات المستخدمين وتحليلها.
وخلال أسبوع واحد فقط، استقبل النموذج 1081 طلبًا، وأظهرت البيانات أن 73% من الطلبات ارتبطت بمحاولات إنشاء محتوى ينتهك الخصوصية، بينما استهدفت 83% من هذه الطلبات تعديل صور أشخاص بطريقة غير لائقة. كما كشفت النتائج أن 95% من الصور المستهدفة كانت لنساء، في حين تضمنت نسبة تقارب 6.7% من الطلبات محاولات استهدفت صورًا لقاصرين، وهو ما وصفته المنظمة بأنه تطور بالغ الخطورة.
خلص التقرير إلى أن نسبة محدودة جدًا من خدمات Spaces كانت تطبق أنظمة فعالة لمراقبة أو تصفية المحتوى الناتج، إذ لم تتجاوز الخدمات المزودة بوسائل حماية حقيقية 3% من إجمالي الخدمات التي خضعت للمراجعة.
ورغم أن منصة Hugging Face تنص في سياساتها على حظر إنشاء أو مشاركة الصور غير الرضائية التي تنتهك خصوصية الأشخاص، ترى المنظمة أن الإجراءات الحالية لا تمنع بشكل كافٍ رفع النماذج القابلة لإساءة الاستخدام أو تشغيلها لهذا الغرض.
تأتي نتائج الدراسة في وقت يعمل فيه الاتحاد الأوروبي والمملكة المتحدة على تشديد القواعد المنظمة للتطبيقات التي تستغل الذكاء الاصطناعي لإنتاج صور مزيفة تنتهك خصوصية الأفراد، مع التركيز على الحد من انتشار الأدوات التي يمكن استخدامها في الإساءة الرقمية أو الابتزاز.
ويرى الباحثون أن التطور السريع لنماذج الذكاء الاصطناعي مفتوحة المصدر يتطلب تطوير آليات رقابة أكثر فاعلية، إلى جانب تعزيز وسائل الكشف عن إساءة الاستخدام، بما يضمن الاستفادة من هذه التقنيات دون الإضرار بحقوق الأفراد أو تعريضهم لانتهاكات رقمية قد تكون آثارها طويلة الأمد.
أكدت منظمة AI Forensics أن نتائج الدراسة تسلط الضوء على الحاجة إلى تحمل المنصات المستضيفة لنماذج الذكاء الاصطناعي مسؤولية أكبر تجاه المحتوى الذي توفره، من خلال تشديد مراجعة الأدوات المنشورة، وتطبيق أنظمة رقابة أكثر فعالية، والحد من وصول النماذج التي يمكن استغلالها في انتهاك الخصوصية أو إنتاج محتوى ضار، بما يحقق توازنًا بين دعم الابتكار وحماية المستخدمين.
تعمل شركة غوغل على تطوير إمكانية تشغيل Gemini Live دون إنترنت، بما يسمح للمستخدمين بإجراء محادثات صوتية مع مساعد الذكاء الاصطناعي دون الحاجة إلى اتصال بالشبكة، وفقًا لمؤشرات ظهرت في تحليل حديث لتطبيق غوغل على أندرويد.
ورصد موقع «أندرويد أوثوريتي» هذه المؤشرات داخل الإصدار 17.71.17 من التطبيق، حيث ظهرت نصوص برمجية تشير إلى احتمال إضافة وضع جديد يعمل دون اتصال بالإنترنت، لكن غوغل لم تعلن رسميًا عن الميزة أو موعد إطلاقها حتى الآن.
كيف سيعمل تشغيل Gemini Live دون إنترنت؟
لا تزال طريقة عمل الوضع الجديد غير واضحة، خاصة أن Gemini Live يعتمد على تقنيات متقدمة للتعرف على الكلام بصورة مستمرة، وفهم المحادثات، وتوليد ردود صوتية سريعة وطبيعية.
ومن المتوقع أن يحتفظ الوضع الجديد بالوظائف الأساسية للمحادثات الصوتية، لكن أداءه قد يكون أبطأ وأقل دقة مقارنة بالإصدار الذي يعتمد على خوادم غوغل السحابية.
كما لم تتضح إمكانية استخدام مشاركة الكاميرا والشاشة دون اتصال بالإنترنت، وهي من الميزات التي أضافتها غوغل إلى Gemini Live خلال الفترة الماضية.
غوغل تطور تشغيل Gemini Live دون إنترنت على هواتف أندرويد
هل يعمل Gemini Live بالكامل دون اتصال؟
من غير المرجح أن يوفر الوضع الجديد جميع إمكانات مساعد جيميناي، لأن تشغيل النماذج المتقدمة محليًا يحتاج إلى ذاكرة وصول عشوائي وقدرات معالجة كبيرة قد لا تتوفر في معظم الهواتف.
لكن هواتف أندرويد الحديثة تستطيع تشغيل نموذج Gemini Nano مباشرة على الجهاز، ما يتيح نظريًا الاستفادة منه في تنفيذ المهام البسيطة التي لا تحتاج إلى قدرات النماذج السحابية.
تحديثات مستمرة لمساعد جيميناي
تواصل غوغل إضافة وظائف جديدة إلى Gemini Live؛ فقد طرحت ميزة Guided Vision في بداية أكتوبر، كما أضافت الترجمة الفورية خلال سبتمبر الماضي.
ومع ظهور مؤشرات العمل دون إنترنت، قد تتجه الشركة إلى توسيع استخدام المساعد الصوتي على الهواتف، مع تقليل اعتماده على الاتصال المستمر بالشبكة.
تستعد منصة سبوتيفاي لإطلاق ميزة ريمكس الأغاني باستخدام الذكاء الاصطناعي خلال الربع الأول من عام 2027، مع احتمال الكشف عنها بالتزامن مع حفل توزيع جوائز غرامي في فبراير، وفقًا لمصادر مطلعة نقلت عنها صحيفة فاينانشال تايمز.
وتدرس الشركة فرض رسوم إضافية تتراوح بين 4 و5 دولارات شهريًا على المشتركين الراغبين في استخدام الخدمة، التي ستتيح لهم ابتكار نسخ جديدة من الأغاني وتغيير أنماطها الموسيقية.
ميزة ريمكس الأغاني تتيح ابتكار نسخ موسيقية جديدة
ستمنح الخدمة المستخدمين إمكانية تحويل أغنية شعبية إلى مقطوعة راقصة، أو استخدام صوت فنان لمحاكاة أدائه لأغنية لفنان آخر، بحسب ما نقلته وكالة رويترز عن فاينانشال تايمز.
وتعتزم سبوتيفاي توجيه عوائد حقوق الملكية الناتجة عن النسخ الجديدة إلى الفنانين أصحاب الأعمال الأصلية، كما ستحتسب مرات الاستماع إلى هذه النسخ ضمن إجمالي استماعات الأغاني الأصلية في قوائمها الموسيقية.
اتخذ نيت سواريز، الباحث في مجال تعلم الآلة ورئيس معهد أبحاث ذكاء الآلة (MIRI)، قرارًا غير معتاد بعدما توقف عن تخصيص أموال لمدخرات تقاعده، بسبب اعتقاده أن مخاطر الذكاء الاصطناعي قد تصل إلى حد انقراض البشرية خلال السنوات العشر المقبلة، مع تقديره أن احتمال وقوع هذا السيناريو يتجاوز 50%.
وكشف سواريز عن موقفه خلال ظهوره في بودكاست تابع لمجلة «ذا أتلانتيك»، موضحًا أنه لا يضيف أموالًا إلى حساب التقاعد منذ نحو عقد، رغم احتفاظه بحساب أنشأه خلال فترة عمله في شركة جوجل.
مخاطر الذكاء الاصطناعي تدفع الباحث للتشكيك في مستقبل البشرية
يرى سواريز أن احتمال انتهاء البشرية بسبب تطور الذكاء الاصطناعي أكبر من احتمال نجاتها خلال العقد المقبل، لكنه لا يعتبر هذا المصير أمرًا حتميًا.
وقال إنه يبذل كل ما يستطيع لمنع وقوع الكارثة، مؤكدًا أن تقديره المرتفع للمخاطر لا يعني استسلامه لها.
ويُعد سواريز من أبرز الأصوات المحذرة من السيناريوهات الكارثية المرتبطة بالذكاء الاصطناعي. ويعمل في معهد أبحاث ذكاء الآلة إلى جانب إيليعازر يودكوفسكي، الذي يشاركه طرح تحذيرات بشأن مستقبل هذه التكنولوجيا.
وساعدت هذه المواقف الباحثين على الوصول إلى وسائل إعلام بارزة، وإبرام اتفاقات لنشر كتب، والتواصل مع شخصيات سياسية. ومع ذلك، يواجه طرحهما انتقادات بسبب عدم وجود إجماع علمي على إمكانية وقوع سيناريو انقراض البشرية، فضلًا عن اعتباره نتيجة مرجحة.
مخاطر الذكاء الاصطناعي تدفع باحثًا للتخلي عن ادخار التقاعد
أضرار الذكاء الاصطناعي لا تحتاج إلى ذكاء فائق
لا تقتصر المخاوف المرتبطة بهذه التكنولوجيا على احتمالات انقراض البشرية مستقبلًا، إذ يشير منتقدون إلى أضرار وقعت بالفعل نتيجة بعض استخداماتها.
ومن بين الأمثلة التي يطرحها المنتقدون استخدام أنظمة الذكاء الاصطناعي في عمليات قصف استهدفت تلاميذ مدارس ابتدائية، واستغلالها في الاحتيال على كبار السن، فضلًا عن حالات ارتبط فيها استخدامها بدفع أشخاص معرضين للخطر نحو الانتحار.
وتوضح هذه المخاوف أن مخاطر الذكاء الاصطناعي لا تتطلب وصول التكنولوجيا إلى مستوى الذكاء الفائق، إذ يمكن أن تنتج أضرار خطيرة عن الأنظمة الحالية وطريقة توظيفها.
وبين التحذيرات من كوارث مستقبلية والأضرار الموجودة بالفعل، يظل التحدي الأساسي هو وضع ضوابط تحد من الاستخدامات الخطيرة لهذه التكنولوجيا قبل أن تتسع آثارها.