حذر كبير علماء شركة أوبن إيه آي، جاكوب باتشوكي، من التطور المتسارع في الذكاء الاصطناعي، مؤكدًا أن العالم قد يحتاج إلى تدخلات وضوابط جديدة لضمان بقاء البشر قادرين على التحكم في مستقبل هذه التكنولوجيا.

وكتب باتشوكي في تدوينة بعنوان “An Alien Mind”، أو “عقل غريب”، أنه يشعر بالقلق من عدم استعداد أي جهة للعواقب التي قد تنتج عن استمرار الارتفاع السريع في مستوى ذكاء الآلات.

وجاءت تحذيرات كبير علماء أوبن إيه آي بعد فترة قصيرة من إطلاق الشركة نموذجها الأحدث GPT-6 Astra، الذي وصفته بأنه أقوى منتجاتها حتى الآن.

مخاطر متزايدة مع تطور وكلاء الذكاء الاصطناعي

تزامن تطور النماذج المتقدمة مع ظهور تقارير عن قدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام بصورة مستقلة بعد تلقي التعليمات من البشر.

وشاركت أوبن إيه آي وشركات أخرى، من بينها أنثروبيك، تقارير حول تصرف بعض وكلاء الذكاء الاصطناعي بصورة مستقلة وتنفيذ هجمات إلكترونية حقيقية استهدفت شركات أخرى.

وفي يوليو، وصفت أوبن إيه آي حادثة اختراق أحد وكلائها لمنصة التكنولوجيا هاغينغ فيس بأنها حادثة “غير مسبوقة”، بينما أشار تقرير لاحق إلى أن وكلاء تابعين للشركة استولوا أيضًا على موقع إلكتروني ألماني قبل ذلك بأشهر.

وتزيد هذه التطورات من المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تنفيذ مهام معقدة بدرجة أكبر من الاستقلالية، خصوصًا مع استمرار الشركات في تطوير نماذج أكثر قدرة.

• الحواسيب القديمة تعود للواجهة.. كيف أشعل الذكاء الاصطناعي شغف جمع أجهزة الماضي؟
• عودة Myspace.. هل تنجح المنصة القديمة في مواجهة إرهاق وسائل التواصل الاجتماعي؟

أوبن إيه آي تبحث عن حلول لمشكلة التوافق

قال باتشوكي إن العالم يقترب من مرحلة تضم آلات فائقة الذكاء، مشددًا على ضرورة ضمان أن يكون هذا الانتقال في مصلحة البشرية.

وأوضح أن أوبن إيه آي ستواصل بناء أنظمة دفاعية والبحث عن حلول تقنية لمشكلة “التوافق”، التي تشير إلى ضرورة توافق أهداف أنظمة الذكاء الاصطناعي وتصرفاتها مع نوايا البشر ومعايير الأمان والضوابط المحددة لها.

ويرى باتشوكي أن تطوير هذه الحلول يمثل جزءًا أساسيًا من استعداد الشركات للمرحلة المقبلة، خصوصًا مع ارتفاع قدرات النماذج على تنفيذ المهام بصورة مستقلة.

باحث ذكاء اصطناعي لمواكبة تطور النماذج

كشف كبير علماء أوبن إيه آي أيضًا عن أولوية أخرى للشركة خلال المرحلة المقبلة، تتمثل في تطوير “باحث ذكاء اصطناعي آلي” يساعد على مواكبة سرعة تطور التكنولوجيا.

ويهدف هذا التوجه إلى الاستفادة من قدرات الأنظمة الذكية في البحث والتطوير، مع الحفاظ على دور الباحثين البشر وضمان استمرار مشاركتهم في هذه العملية.

لكن هذه الرؤية أثارت انتقادات من بعض المتخصصين الذين يرون أن تطوير أدوات ذكاء اصطناعي جديدة لا يكفي وحده لمعالجة المخاطر المرتبطة بهذه التكنولوجيا.

وقالت البروفيسورة جينا نيف، رئيسة مركز مينديرو للتكنولوجيا والديمقراطية بجامعة كامبريدج، إن الحلول المطروحة لا تعالج بصورة كافية المخاوف المرتبطة بالأمن السيبراني وفقدان الوظائف والأخطاء والاحتيال.

الذكاء الاصطناعي يخرج عن السيطرة؟ كبير علماء OpenAI يحذر من مستقبل مجهول

دعوات لمزيد من الشفافية والرقابة

يتفق بعض الخبراء مع باتشوكي على خطورة تطوير نماذج الذكاء الاصطناعي المتقدمة، لكنهم يختلفون مع أوبن إيه آي بشأن الطريقة المناسبة للتعامل مع هذه المخاطر.

وقال ناثان كالفن، المستشار العام لجماعة الضغط Encode AI، إنه يتفق مع المخاوف المتعلقة بتطوير نماذج أكثر تقدمًا، لكنه انتقد ما وصفه بعدم استعداد الشركة للتحلي بالشفافية.

ويرى كالفن أن غياب الشفافية قد يجعل التحذيرات الصادرة عن الشركة تبدو للبعض وكأنها جزء من دعاية تخدم مصالحها، بدلًا من كونها دعوات حقيقية لمعالجة المخاطر.

ما ضوابط الذكاء الاصطناعي الموجودة حاليًا؟

تكافح القوانين واللوائح التنظيمية حول العالم لمواكبة سرعة تطور الذكاء الاصطناعي، خصوصًا مع ظهور قدرات جديدة في النماذج بوتيرة متسارعة.

ودخل قانون الذكاء الاصطناعي للاتحاد الأوروبي، المعروف باسم AI Act، حيز التنفيذ في 2 أغسطس، ويتضمن متطلبات تتعلق بالنماذج الأكثر تقدمًا، بما في ذلك ضرورة التعامل مع المخاطر التي قد تسمح بتنفيذ هجمات إلكترونية بصورة مستقلة أو تجاوز السيطرة البشرية.

لكن نطاق القانون الأوروبي يظل مرتبطًا بالاتحاد الأوروبي، ما يعني أنه لا يستطيع وحده منع نظام ذكاء اصطناعي متقدم جرى تطويره خارج أوروبا من التسبب في مخاطر تهدد القارة.

باتشوكي يدعو إلى حدود سلامة دولية

دعا باتشوكي في تدوينته إلى وضع حدود دنيا للسلامة تكون ملزمة قانونيًا أو دوليًا، مع إمكانية تطبيقها من خلال شبكة من جهات التدقيق المستقلة أو الوكالات الحكومية.

ويرى أن مختبرات الذكاء الاصطناعي يجب أن تستوفي هذه المعايير قبل السماح لها بمواصلة توسيع نطاق تطوير النماذج المتقدمة أو نشرها.

كما أعرب عن أمله في أن تصبح “فترات التباطؤ الطوعية” أكثر شيوعًا، وهي فترات تختار خلالها الشركات إبطاء أو تعليق تطوير بعض أنظمة الذكاء الاصطناعي مؤقتًا، إلى حين التوصل إلى ضوابط سلامة مشتركة.

وفي أغسطس، قالت أوبن إيه آي إنها أبطأت بالفعل وتيرة تدريب بعض نماذجها الأكثر تقدمًا بهدف رفع مستوى الأمان.

ومع استمرار تطور الذكاء الاصطناعي وزيادة قدرته على تنفيذ المهام بصورة مستقلة، يظل السؤال الأهم هو مدى قدرة البشر على تطوير أنظمة أمان ورقابة بالسرعة نفسها التي تتطور بها هذه التكنولوجيا.

أعلنت الصين قواعد الذكاء الاصطناعي في الصين الجديدة لمواجهة إساءة استخدام التكنولوجيا، مع تشديد المسؤولية القانونية عن استنساخ وجوه وأصوات الأشخاص دون موافقتهم، إلى جانب مكافحة المحتوى المزيف والتمييز الخوارزمي.

قواعد الذكاء الاصطناعي في الصين تفرض قيودًا جديدة

أصدرت المحكمة الشعبية العليا توجيهات قضائية تستهدف عددًا من المخالفات المرتبطة بالذكاء الاصطناعي، أبرزها إنشاء نسخ رقمية من أشخاص حقيقيين ونشرها دون الحصول على موافقتهم.

وتحظر قواعد الذكاء الاصطناعي في الصين أيضًا نشر معلومات زائفة أنشأتها أنظمة الذكاء الاصطناعي، أو استخدام الخوارزميات للتمييز بين المستهلكين، مثل تغيير أسعار المنتجات اعتمادًا على بيانات المستخدم.

الصين تشدد قواعد الذكاء الاصطناعي.. لا استنساخ للوجوه والأصوات دون موافقة

مسؤولية قانونية على مزودي خدمات الذكاء الاصطناعي

تلزم القواعد الجديدة مزودي خدمات الذكاء الاصطناعي باتخاذ إجراءات سريعة عند إبلاغهم بأن أنظمتهم أنتجت محتوى ينتهك حقوق الآخرين.

وبموجب قواعد الذكاء الاصطناعي في الصين، قد يتحمل مزود الخدمة مسؤولية قانونية إذا تجاهل هذه البلاغات ولم يتخذ الإجراءات اللازمة لحماية المتضررين.

حماية من إساءة استخدام الصور والأصوات

تمنح التوجيهات الجديدة الأشخاص المتضررين حق اللجوء إلى القضاء إذا عدّل آخرون صورهم رقميًا واستخدموها في نشر اتهامات كاذبة أو مسيئة أو محتوى إباحي.

وتأتي هذه الخطوة مع انتشار أدوات قادرة على تقليد ملامح الأشخاص وأصواتهم بسهولة، ما يزيد مخاطر الاحتيال والتشهير وانتهاك الخصوصية.

• النظارات الذكية تحت الرقابة.. النرويج تدرس حظر التعرف على الوجوه
• الموسيقى المُنشأة بالكامل بالذكاء الاصطناعي تُستبعد من قوائم الأكثر مبيعًا في أستراليا

الصين توازن بين التطور والأمان

تسعى الصين إلى تعزيز مكانتها في سباق الذكاء الاصطناعي، بعدما ضخت الشركات والسلطات استثمارات كبيرة في هذا القطاع.

وفي الوقت نفسه، تؤكد قواعد الذكاء الاصطناعي في الصين توجه بكين نحو فرض ضوابط قانونية تواكب التطور السريع للتكنولوجيا.

وقالت نائبة رئيس المحكمة الشعبية العليا إن التوجيهات تستهدف تحقيق توازن بين التنمية والأمن، بينما سبق أن دعا الرئيس الصيني شي جينبينغ إلى إبقاء الذكاء الاصطناعي آمنًا وتحت السيطرة البشرية.