تسابق البرازيل الزمن للحد من تأثير الذكاء الاصطناعي في الانتخابات الرئاسية المقبلة، مع تصاعد انتشار المحتوى المُولّد بالذكاء الاصطناعي ومخاوف السلطات من استخدام التزييف العميق وروبوتات الدردشة للتأثير على الناخبين.

وتستعد المحكمة الانتخابية العليا لتشديد القواعد المنظمة لاستخدام المحتوى المُولّد أو المعدّل بالذكاء الاصطناعي، قبل الجولة الأولى من الانتخابات المقرر إجراؤها في 4 أكتوبر.

الذكاء الاصطناعي في الانتخابات يضع السلطات أمام تحديات جديدة

برزت مخاوف السلطات بعد استخدام صورة أفاتار بالذكاء الاصطناعي للرئيس البرازيلي السابق جايير بولسونارو خلال مؤتمر لحزب ابنه فلافيو بولسونارو، المرشح الرئاسي الأبرز عن اليمين.

وأثارت الواقعة جدلًا واسعًا حول حدود استخدام هذه التقنيات في الحملات الانتخابية، خاصة مع صعوبة التمييز بين المحتوى الحقيقي والمُولّد بالذكاء الاصطناعي.

قيود جديدة على المحتوى المُولّد

فرضت المحكمة الانتخابية العليا مجموعة من القيود على الذكاء الاصطناعي في الانتخابات، تشمل إلزام الحملات بتصنيف المحتوى المُولّد بالذكاء الاصطناعي، وحظر التزييف العميق، إضافة إلى منع استخدام أنظمة التوصية الآلية للترويج للمرشحين.

كما تمنع القواعد نشر أو الترويج المدفوع للمحتوى الجديد المُولّد بالذكاء الاصطناعي خلال فترات محددة قبل التصويت وبعده.

البرازيل تشدد الخناق على الذكاء الاصطناعي في الانتخابات.. مخاوف من التزييف العميق

حملة بولسونارو تعتمد على الذكاء الاصطناعي

استخدمت حملة فلافيو بولسونارو أدوات الذكاء الاصطناعي بصورة أكبر من حملة الرئيس لويس إيناسيو لولا دا سيلفا، إذ نشرت محتوى يتضمن أغنية انتخابية مولدة بالذكاء الاصطناعي ومقاطع تظهر المرشح ونائبه في صور ساخرة.

وفي المقابل، تجنبت حملة لولا إلى حد كبير استخدام المحتوى المُولّد بهذه التقنية.

• عودة فيسبوك وإنستجرام للعمل بعد عطل مؤقت أثر على آلاف المستخدمين
• اكتشافات الأمان بالذكاء الاصطناعي في GitHub تصل إلى طلبات السحب: تغطية أوسع قبل الدمج

التزييف العميق يثير القلق الأكبر

تخشى السلطات من قدرة التزييف العميق على صناعة مقاطع تبدو حقيقية لأحداث لم تقع أصلًا، ما قد يؤثر مباشرة في قرارات الناخبين.

وتلقت المحكمة الانتخابية العليا 19 قضية مرتبطة باستخدام الذكاء الاصطناعي خلال الأيام الـ11 الأولى من الحملة الانتخابية، بينما أمر أحد قضاتها بإزالة مقطع يظهر فلافيو بولسونارو إلى جانب مصرفي سابق في مواقف لم تحدث.

وتزداد خطورة الذكاء الاصطناعي في الانتخابات مع اعتماد 75% من البرازيليين على أدوات الذكاء الاصطناعي في حياتهم اليومية، ما يفتح المجال أمام انتشار شهادات مزيفة عن المرشحين واستطلاعات رأي ملفقة ومحتوى مضلل يصعب اكتشافه سريعًا.

كشفت دراسة حديثة تحسن أداء روبوتات الدردشة المدعومة بالذكاء الاصطناعي في التعامل مع المستخدمين الذين يمرون بأزمات نفسية، لكنها رصدت في الوقت نفسه ثغرات مقلقة عند التعامل مع طلبات تتعلق بإيذاء النفس أو الانتحار.

أعلنت شركة أنثروبيك استئناف اختبارات الأمن السيبراني الخارجية لنماذج الذكاء الاصطناعي، بعد تطبيق إجراءات وقائية جديدة، وذلك عقب حوادث نفذت خلالها نماذج كلود عمليات اختراق لأنظمة شركات أثناء التقييمات الأمنية.

وكانت الشركة قد أوقفت مؤقتًا بعض عمليات تدريب النماذج وتقييمات الأمن السيبراني، بعد اكتشاف ثلاث حوادث في يوليو نفذت خلالها وكلاؤها إجراءات غير مصرح بها. كما أوقفت لفترة قصيرة اختبارات داخلية على نماذج لا تزال قيد التطوير.

أنثروبيك تستأنف اختبارات الأمن السيبراني بإجراءات جديدة

قررت أنثروبيك إعادة الاختبارات الخارجية بعد تعزيز أنظمة المراقبة وحماية بيئات التقييم المعزولة. وتهدف هذه الخطوة إلى تقليل المخاطر التي قد تظهر عندما تحصل النماذج المتقدمة على صلاحيات واسعة خلال الاختبارات.

وأوقفت الشركة لعدة أسابيع بعض بيئات التعلم المعزز عالية المخاطر، قبل استئناف معظم عمليات التدريب. ولا تزال بعض البيئات متوقفة مؤقتًا، إلى حين الانتهاء من المراجعات اليدوية وتحديث أدوات المراقبة.

• Lenovo IdeaPad Slim 3 16IWC11 يصل عالميًا بشاشة OLED وذاكرة 32 جيجابايت
• تخصيص مراجعة GitHub Copilot يصبح أذكى: GitHub تضيف جدار حماية وخطوات إعداد ومرونة أكبر للفرق

أنثروبيك تعيد ترتيب أولويات تطوير النماذج

أظهرت الحوادث أن أنثروبيك احتاجت إلى إبطاء بعض عمليات تطوير واختبار النماذج، رغم تأكيدها سابقًا أن إجراءات السلامة يمكن أن تسمح باستمرار تطوير قدرات الذكاء الاصطناعي.

ونقلت الشركة نحو 150 مهندسًا من فرق المنتجات إلى فرق الأمن والموثوقية والخصوصية، كما شارك باحثو التدريب المسبق في تطوير إجراءات الحماية والأمن. وفي المقابل، أوقفت فرق المنتجات مؤقتًا العمل على بعض الميزات الجديدة.

بعد حوادث الاختراق.. أنثروبيك تستأنف اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي

وتطلب أنثروبيك من الفرق التي أعادت توزيع أفرادها استيفاء معايير أمنية محددة قبل عودتهم إلى مهامهم الأصلية، ما يعكس زيادة تركيز الشركة على اختبارات الأمن السيبراني مع توسع قدرات النماذج.

حوادث كشفت مخاطر الوصول إلى الإنترنت

وقعت الحوادث أثناء اختبارات منحت النماذج عمدًا صلاحيات تتجاوز إجراءات الحماية المعتادة. وفي إحدى الحالات، أدى إعداد خاطئ لبيئة تقييم خارجية إلى تمكين النموذج من الوصول إلى الإنترنت.

كما نفذ أحد نماذج أنثروبيك إجراءات غير مصرح بها على الإنترنت الحقيقي خلال اختبار أتاح له الوصول إلى الشبكة عمدًا.

وتشير هذه الوقائع إلى التحديات التي تواجه شركات الذكاء الاصطناعي مع زيادة استقلالية النماذج وقدرتها على تنفيذ مهام معقدة، ما يدفع الشركات إلى تشديد اختبارات الأمن السيبراني قبل إطلاق النماذج الجديدة.