أخبار تقنية
مدونة سلوك مايكروسوفت للذكاء الاصطناعي.. قواعد جديدة لمنع خداع البشر وفقدان السيطرة
أطلقت مدونة سلوك مايكروسوفت للذكاء الاصطناعي إطارًا جديدًا يحدد القواعد التي تريد الشركة أن تحكم طريقة تدريب وتشغيل نماذجها، مع التركيز على منع السلوكيات الخادعة والخطيرة وضمان بقاء البشر قادرين على مراقبة الأنظمة والتحكم فيها.
مدونة سلوك مايكروسوفت للذكاء الاصطناعي تضع حدودًا واضحة للنماذج
تتجاوز الوثيقة المبادئ العامة المتعلقة بسلامة الذكاء الاصطناعي، إذ تحدد مجموعة من القواعد التي يفترض أن توجه النماذج حتى عندما تتعارض مع طلبات المستخدم أو المهمة التي يحاول تنفيذها.
وتشير الوثيقة إلى احتمال وصول أنظمة ذكاء اصطناعي فائقة القدرات إلى مستوى يتجاوز أداء البشر في عدد كبير من المهام خلال العقد المقبل، ما يجعل التحكم فيها ومواءمة أهدافها مع القيم البشرية تحديًا رئيسيًا.
دعم البشر بدلًا من استبدالهم
تؤكد القواعد أن نماذج مايكروسوفت يجب أن تساعد البشر على تطوير قدراتهم وتحسين حياتهم، بدلًا من التعامل مع استبدال البشر كهدف بحد ذاته.
وتمنح الشركة هذه المبادئ أولوية أعلى من تفضيلات المستخدم الفردية، بحيث لا يستطيع المستخدم دفع النموذج إلى تجاوز قواعد السلامة الأساسية من خلال صياغة طلب مختلف.
وتوضح مدونة سلوك مايكروسوفت للذكاء الاصطناعي أن الشركة تريد تحويل مبادئ المواءمة إلى قواعد عملية يمكن تطبيقها خلال تطوير النماذج واختبارها.
مدونة سلوك مايكروسوفت للذكاء الاصطناعي.. قواعد جديدة لمنع خداع البشر وفقدان السيطرة
هجمات إلكترونية وتزييف عميق ضمن الخطوط الحمراء
تضع الوثيقة مجموعة من القيود التي تحظر استخدام نماذج الشركة في تنفيذ هجمات إلكترونية أو تقديم مساعدة لتطوير أسلحة نووية، إضافة إلى إنتاج محتوى التزييف العميق.
ولا تركز القواعد فقط على ما يستطيع المستخدم طلبه من النموذج، بل تتعامل أيضًا مع الطريقة التي يتصرف بها النظام نفسه.
وتمنع مايكروسوفت النماذج من استخدام أساليب خادعة أو تكيفية أو ذاتية التعزيز بهدف تجاوز الرقابة البشرية أو تعطيل آليات التحكم.
- ميزة الشحن المباشر في HarmonyOS 7 تحمي بطارية هواتف هواوي من الحرارة
- القيمة السوقية لأمازون تتجاوز 3 تريليونات دولار بدعم من الذكاء الاصطناعي والحوسبة السحابية
الإنسان يحتفظ بالقدرة على إيقاف النظام
تولي الوثيقة أهمية خاصة لقدرة البشر على توجيه النماذج وتعديلها وإيقافها عند الحاجة.
وتكتسب هذه النقطة أهمية أكبر مع تطور وكلاء الذكاء الاصطناعي القادرين على تنفيذ سلسلة من المهام بصورة أكثر استقلالية، بدلًا من الاكتفاء بالإجابة عن الأسئلة.
وتعكس مدونة سلوك مايكروسوفت للذكاء الاصطناعي توجهًا نحو التعامل مع قابلية التحكم في الأنظمة باعتبارها جزءًا أساسيًا من السلامة، وليس مجرد إجراء إضافي بعد تطوير النموذج.
شركات الذكاء الاصطناعي أمام تحديات السلامة
تأتي قواعد مايكروسوفت في وقت يناقش فيه قطاع التكنولوجيا مخاطر النماذج المتقدمة وسرعة تطورها، مع دعوات من بعض الباحثين وقادة الشركات إلى زيادة الاختبارات والرقابة المستقلة.
وقال ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، إن الشركة تدعم الأبحاث والوتيرة المدروسة التي تجعل مواءمة أنظمة الذكاء الاصطناعي مع البشر هدفًا أساسيًا أثناء التصميم.
كما أبدى دعمًا لفكرة استخدام مقيّمين واختبارات مستقلة تساعد على اكتشاف المخاطر قبل وصول النماذج إلى المستخدمين.
من المبادئ العامة إلى قواعد تشغيلية
تعكس الوثيقة اتجاهًا لدى شركات الذكاء الاصطناعي الكبرى نحو تحويل مبادئ السلامة إلى قواعد أكثر تحديدًا، تحدد ما يمكن للنماذج تنفيذه وما يجب عليها رفضه.
وتضع مدونة سلوك مايكروسوفت للذكاء الاصطناعي كذلك مسألة بقاء الإنسان في دائرة التحكم ضمن الأولويات، خصوصًا مع اتجاه الصناعة نحو تطوير أنظمة أكثر قدرة على اتخاذ الخطوات وتنفيذ المهام بصورة مستقلة.