تشهد مخاطر الذكاء الاصطناعي نقاشًا جديدًا داخل مجلس مدينة نيويورك، الذي يستمع اليوم إلى شهادات ممثلين عن شركات أنثروبيك وأوبن إيه آي وغوغل وميتا حول سلامة تقنيات الذكاء الاصطناعي المتقدمة، وذلك في جلسة نادرة يشارك فيها جميع أعضاء المجلس الـ51.

وتأتي الجلسة بعد أسابيع من التحذيرات بشأن تطور نماذج الذكاء الاصطناعي وقدرتها على تنفيذ مهام أكثر استقلالية، إلى جانب حوادث أثارت تساؤلات حول مدى فعالية أنظمة الحماية والاحتواء.

مخاطر الذكاء الاصطناعي تحت أسئلة مجلس نيويورك

طلبت رئيسة مجلس مدينة نيويورك جولي مينين من الشركات توضيح الإجراءات التي تتخذها لحماية المستخدمين، والإجابة عن أسئلة المجلس بشأن المخاطر المحتملة، إلى جانب إبداء الرأي في مجموعة من المقترحات التشريعية الجديدة.

ويمثل أنثروبيك لوغان غراهام، رئيس فريق Frontier Red Team، بينما تشارك مورغان دواير، رئيسة قسم تطوير السياسات والعمليات في أوبن إيه آي. كما تحضر أليس فريند، مديرة سياسات الذكاء الاصطناعي والتقنيات الناشئة في غوغل، وشين كاهيل، مدير سياسات الذكاء الاصطناعي والتشريعات في ميتا.

SpaceXAI تتخلف عن الجلسة

كانت SpaceXAI، التابعة لإيلون ماسك، الشركة الوحيدة بين الشركات الخمس التي لم تمتثل لطلب المجلس بالحضور. وأصدر المجلس مذكرة استدعاء للشركة، مع تأكيد مينين أن المجلس قد يلجأ إلى المحكمة لإجبارها على الامتثال.

وتملك مدينة نيويورك صلاحية طلب الشهادة تحت القسم، كما يتيح ميثاق المدينة للمجلس استخدام مذكرات الاستدعاء في التحقيقات التي يجريها.

• شريحة Tensor جديدة قد تستفيد من خبرات “AMD” في تقنيات المعالجات والبرمجة
• أبل في الصين.. نموذج ذكاء اصطناعي جديد بالتعاون مع علي بابا

مخاطر الذكاء الاصطناعي تضع أنثروبيك وأوبن إيه آي وغوغل وميتا أمام مجلس نيويورك

باحثون سابقون يحذرون من مخاطر الذكاء الاصطناعي

تشهد الجلسة أيضًا مشاركة باحثين سابقين في شركات الذكاء الاصطناعي، من بينهم جاكوب كوكسون، الباحث السابق في أنثروبيك، وأليكس تيرنر، الباحث السابق في Google DeepMind، ودانيال كوكوتاجيلو، الباحث السابق في أوبن إيه آي.

وكان كوكسون قد أثار جدلًا بعد مغادرته أنثروبيك وتحذيره من المخاطر المحتملة للذكاء الاصطناعي، بينما تحدث باحثون آخرون عن مخاوف مرتبطة بسرعة تطوير النماذج المتقدمة وقدرتها على تنفيذ مهام تتجاوز القيود التي يضعها المطورون.

حوادث الوكلاء تزيد الجدل حول سلامة النماذج

ازدادت المخاوف بعد تقارير عن حوادث مرتبطة بوكلاء الذكاء الاصطناعي، من بينها واقعة كشفت فيها أوبن إيه آي أن نماذج خضعت لاختبار أمني تمكنت من تجاوز بعض قيود الاحتواء والوصول إلى الإنترنت واختراق أنظمة على منصة Hugging Face.

كما جاءت الجلسة في وقت تناقش فيه نيويورك مجموعة من المقترحات لتنظيم الذكاء الاصطناعي، تشمل إنشاء حوافز للمبلغين عن المخالفات، وإتاحة دعاوى قانونية في بعض الحالات للأشخاص الذين يتضررون من وكلاء الذكاء الاصطناعي، وفرض عمليات تحقق مستقلة على بعض الأنظمة قبل استخدامها.

وتعكس جلسة مجلس نيويورك اتساع النقاش حول مخاطر الذكاء الاصطناعي، في وقت تحاول فيه الجهات التنظيمية تحديد كيفية تحقيق التوازن بين تطوير التقنيات الجديدة ووضع ضوابط أكثر وضوحًا للسلامة والمساءلة.

أعلنت كوريا الشمالية استخدام الذكاء الاصطناعي في اختبار صاروخ كوريا الشمالية بالذكاء الاصطناعي، بعد ساعات من إعلان كوريا الجنوبية رصد إطلاق صاروخ بالستي من جانب بيونغ يانغ.

وتأتي الخطوة في وقت يدفع فيه الزعيم الكوري الشمالي كيم جونغ أون نحو توسيع استخدام الذكاء الاصطناعي في أنظمة الأسلحة الهجومية والدفاعية، وسط تركيز متزايد على تطوير القدرات العسكرية للدولة.

صاروخ كوريا الشمالية بالذكاء الاصطناعي يعتمد على مسار مراوغ

قالت كيم يو جونغ، شقيقة زعيم كوريا الشمالية، إن الصاروخ يستطيع استخدام نمط من المسارات المتموجة التي تجعل تتبعه أكثر صعوبة خلال مراحل معينة من الرحلة.

وتشير هذه التصريحات إلى تركيز بيونغ يانغ على الصواريخ القادرة على المناورة، خصوصًا خلال المرحلة النهائية، وهو ما قد يزيد صعوبة اعتراضها مقارنة بالصواريخ التي تتبع مسارات أكثر توقعًا.

لكن طبيعة القدرات التي استخدمها الذكاء الاصطناعي داخل الصاروخ لا تزال غير واضحة، كما لم تقدم كوريا الشمالية تفاصيل تقنية كافية يمكن من خلالها التحقق من مدى دقة هذه الادعاءات.

الذكاء الاصطناعي يدخل سباق تطوير الصواريخ

يرى هونغ سونغ بيو، الباحث في معهد الشؤون العسكرية الكوري في سيول، أن دمج الذكاء الاصطناعي أصبح اتجاهًا متزايدًا في التكنولوجيا العسكرية حول العالم.

ويمكن لهذه التقنيات أن تساعد في تحليل معلومات الأهداف ودعم عمليات الإطلاق واتخاذ القرارات، كما أظهرت الحروب الحديثة إمكانية تعزيز فعالية الطائرات المسيرة والصواريخ عند دمجها بأنظمة الذكاء الاصطناعي.

• نموذج الذكاء الاصطناعي القمري.. ناسا وIBM تستعدان لجيل جديد من استكشاف القمر
• جهاز لمراقبة التركيز خلف أذنك.. ذكاء اصطناعي يكشف مستوى تركيزك

وتسعى كوريا الشمالية إلى تطوير قدراتها الصاروخية بوتيرة أسرع، بينما يربط محللون ذلك أيضًا بالدعم العسكري الذي تحصل عليه من روسيا مقابل إرسال قوات للمشاركة في الحرب ضد أوكرانيا.

صاروخ كوريا الشمالية بالذكاء الاصطناعي.. بيونغ يانغ تختبر قدرات صاروخية جديدة

هل أصبح اعتراض الصاروخ مستحيلًا؟

رغم وصف كوريا الشمالية للصاروخ بأنه أكثر صعوبة في التتبع والاعتراض، يحذر الخبراء من اعتبار هذه القدرات دليلًا على امتلاك سلاح لا يمكن إيقافه.

وأوضح هونغ أن الصواريخ التي تناور خلال مرحلتها النهائية قد تكون أصعب في الاعتراض، لكن ذلك لا يعني بالضرورة قدرتها على إصابة الأهداف بدقة عالية.

كما أشار إلى أن تكنولوجيا الصواريخ الكورية الشمالية لا تزال، بحسب تقييمه، أقل تطورًا من قدرات القوى العسكرية الرائدة.

الذكاء الاصطناعي يغير شكل الحروب الحديثة

يعكس صاروخ كوريا الشمالية بالذكاء الاصطناعي اتجاهًا أوسع نحو دمج تقنيات الذكاء الاصطناعي في الأنظمة العسكرية، لكن تقييم القدرات الفعلية للسلاح يحتاج إلى معلومات تقنية واختبارات مستقلة.

ومع استمرار سباق تطوير الأسلحة الذكية، قد يصبح الذكاء الاصطناعي عنصرًا أكثر حضورًا في عمليات الاستهداف والملاحة واتخاذ القرار العسكري، ما يفتح في الوقت نفسه نقاشًا واسعًا حول مخاطر زيادة استقلالية الأنظمة القتالية.

أتاحت ميتا للمستخدمين والمطورين إمكانية بناء أجهزة ميوز تعمل بواسطة وكيل الذكاء الاصطناعي الخاص بها، من خلال مشروع مفتوح المصدر يعتمد على مكونات متوفرة في الأسواق، مثل لوحات ESP32 وأجهزة Raspberry Pi.

وتتيح المبادرة تحويل ميوز من مجرد مساعد رقمي داخل التطبيقات إلى وكيل قادر على التفاعل مع أجهزة حقيقية، بداية من شاشات الجيب الصغيرة وحتى أدوات التحكم في المنزل الذكي.

أجهزة ميوز تعتمد على مكونات متاحة للجميع

أطلقت ميتا حزمًا برمجية تدعم لوحات ESP32 التجارية وأجهزة Raspberry Pi، كما نشرت مجموعة من الأفكار التي يمكن للهواة تنفيذها باستخدام هذه المكونات.

ومن بين النماذج المقترحة جهاز يعتمد على لوحة ESP32-S3 وشاشة AMOLED بحجم يقارب 1.75 بوصة، بتصميم قريب من جهاز Muse Charm الذي كشفت عنه الشركة.

شاشات وأجهزة تحكم تعمل مع ميوز

تشمل أفكار أجهزة ميوز وحدة HDMI صغيرة يمكن توصيلها بالتلفزيون، إلى جانب أجهزة تشبه أجهزة التحكم عن بُعد، ونماذج أخرى مزودة بشاشات حبر إلكتروني E Ink بأحجام تقترب من الأجهزة اللوحية الصغيرة.

كما كشفت ميتا عن مشروع Muse Home Link، الذي يأتي في تصميم صغير يشبه وحدة تخزين USB، ويتيح ربط ميوز بأجهزة المنزل الذكي والتحكم فيها.

• تشغيل Shorts تلقائياً على يوتيوب يثير غضب المستخدمين.. ميزة جديدة أم خلل؟
• مؤتمر LEAP 2026 يعزز حضور الرياض كمركز عالمي للذكاء الاصطناعي

وتخطط الشركة لإنتاج 5 آلاف وحدة من Home Link، مع توقع إتاحتها خلال الأسابيع المقبلة.

أجهزة ميوز.. ميتا تتيح للجميع بناء أجهزة ذكاء اصطناعي خاصة بهم

أجهزة مجانية لبعض مشتركي ميوز

تعتزم ميتا توفير بعض هذه الأجهزة مجانًا للمشتركين الجدد، لكن الحصول عليها سيعتمد على الكمية المتاحة.

وبعد توصيل Home Link بشبكة Wi-Fi المنزلية، يستطيع المستخدم إعطاء أوامر صوتية أو محادثية إلى ميوز لتنفيذ مهام مختلفة، مثل تشغيل التلفزيون والإضاءة أو إرسال مستندات إلى الطابعة.

وهكذا تتحول أجهزة ميوز إلى وسيلة لربط وكيل الذكاء الاصطناعي بالبيئة المحيطة بالمستخدم بدلًا من الاكتفاء بالتفاعل داخل تطبيق.

ميتا تحذر من مخاطر التجربة

رغم سهولة الوصول إلى المشروع، تحذر ميتا من أن Muse Gadgets موجه أساسًا إلى الهواة والمطورين ومحبي تجربة التقنيات الجديدة، خصوصًا أن ربط وكيل ذكاء اصطناعي بأجهزة المنزل يتطلب منح النظام صلاحيات واسعة.

وتوضح الشركة أن التجارب قد تؤدي إلى تلف بعض المكونات أو إلغاء الضمان أو حدوث مشكلات في الكهرباء والطاقة، فضلًا عن احتمال تكبد خسائر مالية، ولذلك يتحمل المستخدم مسؤولية التجربة.

مجتمع المطورين يطور أفكارًا جديدة

بدأ المطورون بالفعل في استخدام الأدوات التي أتاحتها ميتا لبناء أجهزة ميوز مختلفة. ومن بين هذه التجارب مشروع فيديريكو فيتيتشي، الذي حوّل جهاز القراءة الإلكتروني Xteink القائم على منصة ESP إلى شاشة محمولة صغيرة تعمل بواسطة ميوز.

وتعكس هذه الخطوة توجه ميتا إلى توسيع دور ميوز من روبوت محادثة إلى وكيل ذكاء اصطناعي يستطيع التواصل مع الأجهزة وتنفيذ مهام في العالم الحقيقي.