الذكاء الاصطناعي يخرج عن السيطرة؟ كبير علماء OpenAI يحذر من مستقبل مجهول

حذر كبير علماء شركة أوبن إيه آي، جاكوب باتشوكي، من التطور المتسارع في الذكاء الاصطناعي، مؤكدًا أن العالم قد يحتاج إلى تدخلات وضوابط جديدة لضمان بقاء البشر قادرين على التحكم في مستقبل هذه التكنولوجيا.

وكتب باتشوكي في تدوينة بعنوان “An Alien Mind”، أو “عقل غريب”، أنه يشعر بالقلق من عدم استعداد أي جهة للعواقب التي قد تنتج عن استمرار الارتفاع السريع في مستوى ذكاء الآلات.

وجاءت تحذيرات كبير علماء أوبن إيه آي بعد فترة قصيرة من إطلاق الشركة نموذجها الأحدث GPT-6 Astra، الذي وصفته بأنه أقوى منتجاتها حتى الآن.

مخاطر متزايدة مع تطور وكلاء الذكاء الاصطناعي

تزامن تطور النماذج المتقدمة مع ظهور تقارير عن قدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام بصورة مستقلة بعد تلقي التعليمات من البشر.

وشاركت أوبن إيه آي وشركات أخرى، من بينها أنثروبيك، تقارير حول تصرف بعض وكلاء الذكاء الاصطناعي بصورة مستقلة وتنفيذ هجمات إلكترونية حقيقية استهدفت شركات أخرى.

وفي يوليو، وصفت أوبن إيه آي حادثة اختراق أحد وكلائها لمنصة التكنولوجيا هاغينغ فيس بأنها حادثة “غير مسبوقة”، بينما أشار تقرير لاحق إلى أن وكلاء تابعين للشركة استولوا أيضًا على موقع إلكتروني ألماني قبل ذلك بأشهر.

وتزيد هذه التطورات من المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تنفيذ مهام معقدة بدرجة أكبر من الاستقلالية، خصوصًا مع استمرار الشركات في تطوير نماذج أكثر قدرة.

• الحواسيب القديمة تعود للواجهة.. كيف أشعل الذكاء الاصطناعي شغف جمع أجهزة الماضي؟
• عودة Myspace.. هل تنجح المنصة القديمة في مواجهة إرهاق وسائل التواصل الاجتماعي؟

أوبن إيه آي تبحث عن حلول لمشكلة التوافق

قال باتشوكي إن العالم يقترب من مرحلة تضم آلات فائقة الذكاء، مشددًا على ضرورة ضمان أن يكون هذا الانتقال في مصلحة البشرية.

وأوضح أن أوبن إيه آي ستواصل بناء أنظمة دفاعية والبحث عن حلول تقنية لمشكلة “التوافق”، التي تشير إلى ضرورة توافق أهداف أنظمة الذكاء الاصطناعي وتصرفاتها مع نوايا البشر ومعايير الأمان والضوابط المحددة لها.

ويرى باتشوكي أن تطوير هذه الحلول يمثل جزءًا أساسيًا من استعداد الشركات للمرحلة المقبلة، خصوصًا مع ارتفاع قدرات النماذج على تنفيذ المهام بصورة مستقلة.

باحث ذكاء اصطناعي لمواكبة تطور النماذج

كشف كبير علماء أوبن إيه آي أيضًا عن أولوية أخرى للشركة خلال المرحلة المقبلة، تتمثل في تطوير “باحث ذكاء اصطناعي آلي” يساعد على مواكبة سرعة تطور التكنولوجيا.

ويهدف هذا التوجه إلى الاستفادة من قدرات الأنظمة الذكية في البحث والتطوير، مع الحفاظ على دور الباحثين البشر وضمان استمرار مشاركتهم في هذه العملية.

لكن هذه الرؤية أثارت انتقادات من بعض المتخصصين الذين يرون أن تطوير أدوات ذكاء اصطناعي جديدة لا يكفي وحده لمعالجة المخاطر المرتبطة بهذه التكنولوجيا.

وقالت البروفيسورة جينا نيف، رئيسة مركز مينديرو للتكنولوجيا والديمقراطية بجامعة كامبريدج، إن الحلول المطروحة لا تعالج بصورة كافية المخاوف المرتبطة بالأمن السيبراني وفقدان الوظائف والأخطاء والاحتيال.

الذكاء الاصطناعي يخرج عن السيطرة؟ كبير علماء OpenAI يحذر من مستقبل مجهول

دعوات لمزيد من الشفافية والرقابة

يتفق بعض الخبراء مع باتشوكي على خطورة تطوير نماذج الذكاء الاصطناعي المتقدمة، لكنهم يختلفون مع أوبن إيه آي بشأن الطريقة المناسبة للتعامل مع هذه المخاطر.

وقال ناثان كالفن، المستشار العام لجماعة الضغط Encode AI، إنه يتفق مع المخاوف المتعلقة بتطوير نماذج أكثر تقدمًا، لكنه انتقد ما وصفه بعدم استعداد الشركة للتحلي بالشفافية.

ويرى كالفن أن غياب الشفافية قد يجعل التحذيرات الصادرة عن الشركة تبدو للبعض وكأنها جزء من دعاية تخدم مصالحها، بدلًا من كونها دعوات حقيقية لمعالجة المخاطر.

ما ضوابط الذكاء الاصطناعي الموجودة حاليًا؟

تكافح القوانين واللوائح التنظيمية حول العالم لمواكبة سرعة تطور الذكاء الاصطناعي، خصوصًا مع ظهور قدرات جديدة في النماذج بوتيرة متسارعة.

ودخل قانون الذكاء الاصطناعي للاتحاد الأوروبي، المعروف باسم AI Act، حيز التنفيذ في 2 أغسطس، ويتضمن متطلبات تتعلق بالنماذج الأكثر تقدمًا، بما في ذلك ضرورة التعامل مع المخاطر التي قد تسمح بتنفيذ هجمات إلكترونية بصورة مستقلة أو تجاوز السيطرة البشرية.

لكن نطاق القانون الأوروبي يظل مرتبطًا بالاتحاد الأوروبي، ما يعني أنه لا يستطيع وحده منع نظام ذكاء اصطناعي متقدم جرى تطويره خارج أوروبا من التسبب في مخاطر تهدد القارة.

باتشوكي يدعو إلى حدود سلامة دولية

دعا باتشوكي في تدوينته إلى وضع حدود دنيا للسلامة تكون ملزمة قانونيًا أو دوليًا، مع إمكانية تطبيقها من خلال شبكة من جهات التدقيق المستقلة أو الوكالات الحكومية.

ويرى أن مختبرات الذكاء الاصطناعي يجب أن تستوفي هذه المعايير قبل السماح لها بمواصلة توسيع نطاق تطوير النماذج المتقدمة أو نشرها.

كما أعرب عن أمله في أن تصبح “فترات التباطؤ الطوعية” أكثر شيوعًا، وهي فترات تختار خلالها الشركات إبطاء أو تعليق تطوير بعض أنظمة الذكاء الاصطناعي مؤقتًا، إلى حين التوصل إلى ضوابط سلامة مشتركة.

وفي أغسطس، قالت أوبن إيه آي إنها أبطأت بالفعل وتيرة تدريب بعض نماذجها الأكثر تقدمًا بهدف رفع مستوى الأمان.

ومع استمرار تطور الذكاء الاصطناعي وزيادة قدرته على تنفيذ المهام بصورة مستقلة، يظل السؤال الأهم هو مدى قدرة البشر على تطوير أنظمة أمان ورقابة بالسرعة نفسها التي تتطور بها هذه التكنولوجيا.