تعاون عمالقة التكنولوجيا وعددهم 14 شركة كبرى في مجال الذكاء الاصطناعي من بينها شركة جوجل وشركة مايكروسوفت وشركة أمازون غيرها الكثير مثل إنفيديا وإنتل بالإضافة إلى OpenAI وIBM وPayPal وCisco وAnthropic لتشكيل تحالف الذكاء الاصطناعي الآمن (CoSAI) وتهدف هذه المبادرة إلى معالجة التحديات المتعلقة بأمن الذكاء الاصطناعي وتحسين التنسيق في هذا المجال.
هدف تحالف الذكاء الاصطناعي الآمن CoSAI
تستضيف هيئة المعايير العالمية OASIS تحالف CoSAI الذي يُعد مبادرة مفتوحة المصدر تهدف إلى تزويد مطوري وممارسي الذكاء الاصطناعي بالإرشادات والأدوات اللازمة لتصميم أنظمة ذكاء اصطناعي آمنة. يسعى التحالف إلى بناء نظام بيئي تعاوني لمشاركة الأساليب مفتوحة المصدر والأطر الموحدة والأدوات.
ويقود CoSAI مجلس المشروع، المسؤول عن تطوير وإدارة جدول أعماله، ولجنة توجيهية فنية تضم خبراء الذكاء الاصطناعي من الأوساط الأكاديمية والصناعية، للإشراف على مسارات العمل.
الأهداف الرئيسية لتعاون عمالقة التكنولوجيا
- تطوير أفضل الممارسات لسلامة الذكاء الاصطناعي
- مواجهة التحديات في مجال الذكاء الاصطناعي
- ضمان أمن تطبيقات الذكاء الاصطناعي
كما يشمل نطاق عمل CoSAI بناء أنظمة الذكاء الاصطناعي ودمجها ونشرها وتشغيلها بأمان، مع التركيز على تخفيف المخاطر مثل سرقة النماذج، وتسميم البيانات، وحقن التلميحات، وإساءة استخدام النطاق، وهجمات الاستدلال.
تصريحات حول المبادرة وتعاون عمالقة التكنولوجيا
هيذر أدكينز، نائب رئيس قسم الأمن في جوجل، قالت: “ظل الذكاء الاصطناعي قيد التطوير لسنوات عديدة، مع الإمكانات المستمرة التي يوفرها للمدافعين، مع الاعتراف أيضًا بالفرص التي يقدمها للأعداء كما ستساعد CoSAI المؤسسات الكبيرة والصغيرة على دمج الذكاء الاصطناعي بأمان ومسؤولية، مما يساعدها على الاستفادة من فوائد الذكاء الاصطناعي مع تخفيف المخاطر.”
وتتم رعاية المبادرة بواسطة شركات رائدة مثل Google وIBM وIntel وMicrosoft وNvidia وPayPal وAmazon وAnthropic وCisco وChainguard وCohere وGenLab وOpenAI وWiz.
