أخبار تقنية
هيئة دولية لتنظيم الذكاء الاصطناعي.. 400 عالم يطالبون برقابة على الأنظمة المتقدمة
دعا نحو 400 عالم من 34 دولة إلى إنشاء هيئة دولية لتنظيم الذكاء الاصطناعي، بهدف وضع معايير موحدة لاحتواء الأنظمة المتقدمة ومراقبة الحوادث الأمنية المرتبطة بها. ووقع على الرسالة المفتوحة رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، محذرين من الاعتماد على الالتزامات الطوعية وحدها لضمان السلامة.
هيئة دولية لتنظيم الذكاء الاصطناعي تضع معايير للاحتواء
يقترح العلماء إنشاء إطار دولي يحدد معايير احتواء أنظمة الذكاء الاصطناعي القادرة على تنفيذ عمليات سيبرانية، إلى جانب تأسيس سجل للحوادث الأمنية المهمة، مع إتاحة بياناته للجمهور في نهاية المطاف.
وتدعو الرسالة إلى عزل النماذج المتقدمة عن الشبكات الخارجية في البداية، وإخضاعها لإشراف مستقل، بهدف تقليل احتمالات تجاوزها حدود بيئات الاختبار أو وصولها إلى أنظمة خارجية دون رقابة كافية.
الالتزامات الطوعية لا تكفي
يأتي المقترح بعد اتفاق وقّعته شركات كبرى، من بينها أنثروبيك وأوبن إيه آي وغوغل وميتا وإكس إيه آي وإنفيديا، مع البيت الأبيض، للالتزام بتدابير سلامة طوعية. لكن الاتفاق لا يتضمن آلية رسمية تضمن تنفيذ هذه الالتزامات.
ويرى الموقعون أن المؤسسات التي تطور أنظمة قادرة على تنفيذ عمليات سيبرانية أو تختبرها، ينبغي أن تعتمد معايير احتواء موثوقة فورًا، بالتزامن مع عمل الحكومات على وضع نظام رقابي أكثر رسمية.
هيئة دولية لتنظيم الذكاء الاصطناعي.. 400 عالم يطالبون برقابة على الأنظمة المتقدمة
حوادث أمنية تعزز المطالب بالرقابة
استند العلماء إلى حوادث كشفت عن ثغرات في اختبار أنظمة الذكاء الاصطناعي واحتوائها، بما في ذلك حالات تمكنت فيها نماذج من تجاوز بيئات اختبار لم توفر عزلًا كافيًا، والوصول إلى أنظمة خارجية.
وتعكس هذه المخاوف اتساع النقاش حول كيفية التعامل مع الأنظمة المتقدمة، خصوصًا عندما تمتلك قدرات على تنفيذ مهام تقنية معقدة بصورة مستقلة.
- وهج عدسة Galaxy S26 Ultra.. سامسونغ تختبر حلًا بالذكاء الاصطناعي
- تحديث بيكسل لشهر سبتمبر يتسبب في تعطل شاشة القفل لدى بعض المستخدمين
خلاف حول حجم المخاطر
تتباين مواقف المسؤولين والباحثين بشأن أفضل طريقة لتنظيم هذه التقنيات. فقد اعتبرت هينا فيركونين، المسؤولة عن ملف التكنولوجيا في الاتحاد الأوروبي، أن قانون الذكاء الاصطناعي الأوروبي يوفر إطارًا كافيًا لمعالجة مخاطر الأنظمة الخارجة عن السيطرة.
وفي الولايات المتحدة، رُفع الحظر المفروض على إتاحة وصول مبكر إلى النماذج لصالح معهد أمن الذكاء الاصطناعي البريطاني، بهدف إجراء اختبارات السلامة.
هينتون وبنجيو يدعمان الرقابة
حصل جيفري هينتون ويوشوا بنجيو، إلى جانب يان ليكان، على جائزة تورينج لعام 2018 تقديرًا لإسهاماتهم في الذكاء الاصطناعي. لكن ليكان لم يوقع على الرسالة، ويرى أن الحوادث الأمنية الأخيرة تعكس إخفاقات هندسية بالدرجة الأولى، لا مخاطر وجودية ناجمة عن الذكاء الاصطناعي.
وتوضح هذه الاختلافات أن الدعوة إلى هيئة دولية لتنظيم الذكاء الاصطناعي تأتي وسط نقاش مستمر حول كيفية الموازنة بين تطوير الأنظمة المتقدمة وضمان احتوائها ومحاسبة الجهات المطورة لها.