لطالما اعتُبر الذكاء الاصطناعي ثورة في مختلف المجالات، إلا أن تطبيقاته في بعض الجوانب تحمل مخاطر غير متوقعة. ففي إحدى الدراسات، ظن الباحثون أنهم أحرزوا تقدمًا هائلًا بتطوير خوارزمية للكشف عن سرطان الجلد بدقة عالية، لكن سرعان ما اكتُشف أن الخوارزمية لم تعتمد على تحليل الأورام نفسها، بل على وجود مسطرة في الصور، حيث كانت هذه المساطر مؤشرًا متكررًا في صور الأورام الخبيثة المستخدمة في التدريب.
الذكاء الاصطناعي في ميدان المعركة هل أصبح تهديدًا للبشرية
في ظل هذه المخاطر، أثار قرار شركة “جوجل” بإنهاء حظرها على استخدام الذكاء الاصطناعي في تطوير الأسلحة أو أنظمة المراقبة جدلًا واسعًا. فإمكانية تطوير أسلحة ذاتية التشغيل قادرة على اتخاذ قرارات القتل دون تدخل بشري تُعد تهديدًا وجوديًا للبشرية. جاء هذا القرار في أعقاب انخفاض ملحوظ بنسبة 6% في قيمة أسهم الشركة الأم “ألفابت”، ما يثير تساؤلات حول الدوافع الحقيقية وراء هذه الخطوة.

الذكاء الاصطناعي في ميدان المعركة هل أصبح تهديدًا للبشرية
لم يكن هذا التعاون الأول بين “جوجل” والجهات العسكرية، فقد سبق أن شاركت الشركة في مشروع Maven مع وزارة الدفاع الأمريكية، حيث استُخدم الذكاء الاصطناعي في تحليل صور الطائرات المسيّرة. لكن الكشف عن هذا التعاون أثار احتجاجات واسعة بين موظفي الشركة، مما دفعها إلى عدم تجديد العقد، إلا أن العقد انتقل إلى شركة “بالانتير” المنافسة، مما يسلط الضوء على استمرار السباق التكنولوجي في هذا المجال.
فخ الثقة.. الاعتماد المفرط على الأنظمة الذكية
أحد المخاطر الخفية في الاعتماد المتزايد على الذكاء الاصطناعي هو ظاهرة “فخ الثقة”، التي تعني زيادة المخاطر بناءً على نجاحات سابقة. في عالم الذكاء الاصطناعي، يؤدي هذا إلى توسيع نطاق استخدام الخوارزميات في بيئات لم تُدرب عليها مسبقًا، مما يزيد من احتمالية حدوث أخطاء كارثية.
على سبيل المثال، تعرضت إحدى سيارات “تسلا” لحادث مكلف بعدما اصطدمت بطائرة قيمتها 2.75 مليون جنيه إسترليني، بسبب تشغيلها في بيئة غير مألوفة. مثل هذه الأخطاء تزداد خطورة عندما يتعلق الأمر بأنظمة الأسلحة المستقلة، حيث تكون البيانات المتاحة للتدريب محدودة، مما يجعل من الصعب التنبؤ بنتائج قراراتها.
أخلاقيات الذكاء الاصطناعي.. هل يمكن السيطرة عليه؟
يشكل غموض عمليات اتخاذ القرار لدى الذكاء الاصطناعي تحديًا أخلاقيًا كبيرًا، حيث يمكن للأنظمة الذكية اتباع استراتيجيات غير متوقعة لتحقيق أهدافها. الفيلسوف “نيك بوستروم” وضع تجربة فكرية شهيرة تُعرف بـ “سيناريو مشبك الورق”، حيث يُتصور ذكاء اصطناعي مُبرمج لزيادة إنتاج مشابك الورق، لكنه في سبيل تحقيق هذا الهدف يستهلك جميع الموارد المتاحة، بما في ذلك الموارد الضرورية لبقاء البشر.
قد يبدو هذا السيناريو خياليًا، لكن الواقع يثبت أن الذكاء الاصطناعي قد يتجاوز الحدود المتوقعة. في إحدى الحالات، قام نظام ذكاء اصطناعي مصمم للعب الشطرنج بتعديل ملفات النظام لتمكينه من تنفيذ حركات غير قانونية، ما يعكس قدرة هذه الأنظمة على التحايل على القيود البرمجية الموضوعة لها.
غياب المساءلة.. الشركات الكبرى في مأمن من المحاسبة
التحدي الأكبر يكمن في غياب المساءلة، فالشركات العملاقة التي تطور هذه التقنيات مثل “جوجل” تمتلك نفوذًا هائلًا يجعل من الصعب محاسبتها عند وقوع الأخطاء. كما أن علاقاتها الوثيقة بالجهات الحكومية، مثل علاقتها السابقة بإدارة الرئيس الأمريكي دونالد ترامب، تزيد من تعقيد فرض الرقابة عليها.
وبهذا، فإن الأنظمة الذكية التي تُستخدم في المجال العسكري قد ترتكب أخطاء جسيمة دون أن تتحمل الشركات المطورة لها أي مسؤولية حقيقية. هذا الوضع يخلق حلقة مفرغة من غياب الرقابة، مما يزيد من احتمالية استمرار الأخطاء وتكرارها.
نحو حظر عالمي.. دروس من الماضي
في مواجهة هذه التحديات، يصبح من الضروري تبني نهج أكثر حذرًا تجاه الذكاء الاصطناعي في المجال العسكري. أحد الحلول المطروحة هو فرض حظر عالمي على تطوير واستخدام الأسلحة الذكية، وهو إجراء قد يبدو صعب التنفيذ، لكن التاريخ يوفر أمثلة مشجعة.
عندما واجه العالم خطر استنفاد طبقة الأوزون، استجابت الحكومات بسرعة عبر حظر استخدام مركبات الكلوروفلوروكربون، مما أدى إلى تعافي الطبقة جزئيًا. كذلك، سبق أن حُظرت أسلحة بيولوجية معينة، مما يثبت إمكانية فرض قيود على أنواع معينة من الأسلحة.
يبقى السؤال المطروح: هل ستختار البشرية طريق التسلح والتدمير، أم أنها ستتجه إلى تنظيم هذه التقنيات بما يخدم السلام والأمان؟ المستقبل يعتمد على القرارات التي نتخذها اليوم، فإما أن نستغل الذكاء الاصطناعي بحكمة ومسؤولية، أو نسمح له بأن يقودنا نحو الهاوية.