أخبار تقنية
مخاطر الذكاء الاصطناعي تضع أنثروبيك وأوبن إيه آي وغوغل وميتا أمام مجلس نيويورك
تشهد مخاطر الذكاء الاصطناعي نقاشًا جديدًا داخل مجلس مدينة نيويورك، الذي يستمع اليوم إلى شهادات ممثلين عن شركات أنثروبيك وأوبن إيه آي وغوغل وميتا حول سلامة تقنيات الذكاء الاصطناعي المتقدمة، وذلك في جلسة نادرة يشارك فيها جميع أعضاء المجلس الـ51.
وتأتي الجلسة بعد أسابيع من التحذيرات بشأن تطور نماذج الذكاء الاصطناعي وقدرتها على تنفيذ مهام أكثر استقلالية، إلى جانب حوادث أثارت تساؤلات حول مدى فعالية أنظمة الحماية والاحتواء.
مخاطر الذكاء الاصطناعي تحت أسئلة مجلس نيويورك
طلبت رئيسة مجلس مدينة نيويورك جولي مينين من الشركات توضيح الإجراءات التي تتخذها لحماية المستخدمين، والإجابة عن أسئلة المجلس بشأن المخاطر المحتملة، إلى جانب إبداء الرأي في مجموعة من المقترحات التشريعية الجديدة.
ويمثل أنثروبيك لوغان غراهام، رئيس فريق Frontier Red Team، بينما تشارك مورغان دواير، رئيسة قسم تطوير السياسات والعمليات في أوبن إيه آي. كما تحضر أليس فريند، مديرة سياسات الذكاء الاصطناعي والتقنيات الناشئة في غوغل، وشين كاهيل، مدير سياسات الذكاء الاصطناعي والتشريعات في ميتا.
SpaceXAI تتخلف عن الجلسة
كانت SpaceXAI، التابعة لإيلون ماسك، الشركة الوحيدة بين الشركات الخمس التي لم تمتثل لطلب المجلس بالحضور. وأصدر المجلس مذكرة استدعاء للشركة، مع تأكيد مينين أن المجلس قد يلجأ إلى المحكمة لإجبارها على الامتثال.
وتملك مدينة نيويورك صلاحية طلب الشهادة تحت القسم، كما يتيح ميثاق المدينة للمجلس استخدام مذكرات الاستدعاء في التحقيقات التي يجريها.
- شريحة Tensor جديدة قد تستفيد من خبرات “AMD” في تقنيات المعالجات والبرمجة
- أبل في الصين.. نموذج ذكاء اصطناعي جديد بالتعاون مع علي بابا
مخاطر الذكاء الاصطناعي تضع أنثروبيك وأوبن إيه آي وغوغل وميتا أمام مجلس نيويورك
باحثون سابقون يحذرون من مخاطر الذكاء الاصطناعي
تشهد الجلسة أيضًا مشاركة باحثين سابقين في شركات الذكاء الاصطناعي، من بينهم جاكوب كوكسون، الباحث السابق في أنثروبيك، وأليكس تيرنر، الباحث السابق في Google DeepMind، ودانيال كوكوتاجيلو، الباحث السابق في أوبن إيه آي.
وكان كوكسون قد أثار جدلًا بعد مغادرته أنثروبيك وتحذيره من المخاطر المحتملة للذكاء الاصطناعي، بينما تحدث باحثون آخرون عن مخاوف مرتبطة بسرعة تطوير النماذج المتقدمة وقدرتها على تنفيذ مهام تتجاوز القيود التي يضعها المطورون.
حوادث الوكلاء تزيد الجدل حول سلامة النماذج
ازدادت المخاوف بعد تقارير عن حوادث مرتبطة بوكلاء الذكاء الاصطناعي، من بينها واقعة كشفت فيها أوبن إيه آي أن نماذج خضعت لاختبار أمني تمكنت من تجاوز بعض قيود الاحتواء والوصول إلى الإنترنت واختراق أنظمة على منصة Hugging Face.
كما جاءت الجلسة في وقت تناقش فيه نيويورك مجموعة من المقترحات لتنظيم الذكاء الاصطناعي، تشمل إنشاء حوافز للمبلغين عن المخالفات، وإتاحة دعاوى قانونية في بعض الحالات للأشخاص الذين يتضررون من وكلاء الذكاء الاصطناعي، وفرض عمليات تحقق مستقلة على بعض الأنظمة قبل استخدامها.
وتعكس جلسة مجلس نيويورك اتساع النقاش حول مخاطر الذكاء الاصطناعي، في وقت تحاول فيه الجهات التنظيمية تحديد كيفية تحقيق التوازن بين تطوير التقنيات الجديدة ووضع ضوابط أكثر وضوحًا للسلامة والمساءلة.