أخبار تقنية
اختراق أنظمة الذكاء الاصطناعي يثير غضب الكونغرس.. مطالبات بتوضيحات من OpenAI وأنثروبيك
أثار اختراق أنظمة الذكاء الاصطناعي التابعة لشركتي OpenAI وأنثروبيك خلال اختبارات الأمن السيبراني مخاوف جديدة في واشنطن، بعدما طالب عشرات المشرعين الديمقراطيين الشركتين بتقديم توضيحات حول كيفية تمكن وكلائهما من تجاوز بيئات الاحتواء والوصول إلى أنظمة خارج نطاق الاختبار.
وأرسل 29 عضوًا ديمقراطيًا في مجلس النواب الأميركي رسائل إلى الرئيس التنفيذي لـAnthropic داريو أمودي والرئيس التنفيذي لـOpenAI سام ألتمان، مطالبين بتقديم تفاصيل حول إجراءات السلامة والمراقبة التي كانت مطبقة خلال هذه الاختبارات.
كما دعا المشرعون إلى عقد جلسات استماع في الكونغرس لمناقشة هذه الحوادث وتقييم المخاطر المحتملة التي قد تترتب على تطور قدرات وكلاء الذكاء الاصطناعي.
اختراق أنظمة الذكاء الاصطناعي يفتح تحقيقًا في إجراءات السلامة
كشفت OpenAI وأنثروبيك خلال يوليو الماضي عن حوادث تمكنت خلالها أنظمة الذكاء الاصطناعي التابعة للشركتين من الوصول إلى أنظمة شركات أخرى أثناء اختبارات مخصصة لتقييم قدراتها في مجال الأمن السيبراني.
وطالب المشرعون OpenAI بتوضيح الطريقة التي راقبت بها الشركة وكلاء الذكاء الاصطناعي أثناء الاختبارات، وما إذا كانت النماذج قد تمكنت من تجاوز ضوابط السلامة المفروضة عليها.
واستند النواب في جزء من مخاوفهم إلى تقرير لوكالة رويترز تحدث عن حالات تم خلالها فصل أنظمة المراقبة خلال اختبارات سابقة لنماذج OpenAI، الأمر الذي دفعهم إلى التساؤل حول مدى فعالية إجراءات الرقابة عندما تتصرف النماذج بصورة غير متوقعة.
ويرى المشرعون أن فهم كيفية حدوث هذه الوقائع يمثل خطوة ضرورية لتحديد ما إذا كانت أنظمة الاحتواء الحالية قادرة على التعامل مع النماذج الأكثر تقدمًا.
مطالبات لأنثروبيك بالكشف عن إجراءاتها
في رسالة منفصلة، طلب 22 مشرعًا من أنثروبيك توضيح الإجراءات التي اتخذتها الشركة بعد تمكن وكلائها من الوصول إلى أنظمة ثلاث شركات خلال اختبارات الأمن السيبراني.
وركزت الرسالة على بروتوكولات السلامة التي اعتمدتها الشركة بعد تلك الحوادث، وما إذا كانت قد أجرت تغييرات على طريقة اختبار النماذج أو مراقبتها لمنع تكرار مثل هذه الوقائع.
ويخشى المشرعون من أن يمثل اختراق أنظمة الذكاء الاصطناعي لأنظمة خارج نطاق الاختبار مؤشرًا على وجود مخاطر أوسع، خصوصًا مع زيادة قدرة النماذج الحديثة على تنفيذ مهام معقدة بصورة مستقلة.
- جوجل تعزز أمان الحسابات بميزة مبتكرة استعادة الوصول عبر فيديو سيلفي
- كلود يضيف لوحة ذكية لمتابعة الاستخدام وتعزيز التوازن الرقمي
وأكد النواب أن الحوادث المتعلقة بالأمن السيبراني قد تمتد آثارها إلى ما هو أبعد من الشركات المتضررة، لتصل إلى قضايا تتعلق بالأمن القومي الأميركي.
اختراق أنظمة الذكاء الاصطناعي يثير غضب الكونغرس.. مطالبات بتوضيحات من OpenAI وأنثروبيك
الكونغرس يناقش تشديد الرقابة على الذكاء الاصطناعي
تأتي هذه المطالبات في وقت يتزايد فيه الجدل داخل واشنطن حول الطريقة المناسبة لتنظيم قطاع الذكاء الاصطناعي، خاصةً مع التطور السريع في قدرات النماذج والوكلاء الذكيين.
وطرح عدد من المشرعين مقترحات تهدف إلى زيادة الرقابة على الشركات المطورة للنماذج المتقدمة، من بينها مشروع قانون يفرض عمليات تدقيق أمنية مستقلة على أقوى أنظمة الذكاء الاصطناعي قبل أو أثناء طرحها.
لكن هذه المقترحات لم تحقق تقدمًا تشريعيًا كبيرًا حتى الآن، في ظل استمرار الخلاف السياسي حول حجم التدخل الحكومي المطلوب لتنظيم القطاع.
وفي المقابل، لم تقدم إدارة الرئيس الأميركي دونالد ترامب موقفًا علنيًا موسعًا بشأن حوادث خروج وكلاء OpenAI وأنثروبيك عن نطاق الاحتواء.
وكان ترامب قد انتقد مؤخرًا بعض المقترحات التنظيمية الصادرة عن الكونغرس، معتبرًا أن التشريعات المبالغ فيها قد تضر بقطاع الذكاء الاصطناعي وتحد من قدرته على النمو.
دعوات لوقف تطوير نماذج الذكاء الاصطناعي مؤقتًا
تصاعد الجدل أيضًا مع دعوة السيناتور بيرني ساندرز، بشكل منفصل، إلى وقف تطوير نماذج جديدة بصورة مؤقتة، موجهًا دعوته إلى سام ألتمان وداريو أمودي ومارك زوكربيرغ، الرئيس التنفيذي لشركة Meta.
واستند ساندرز إلى رسالة وقعها أكثر من 1,100 موظف في شركات التكنولوجيا، تدعو الحكومة الأميركية إلى دعم جهود دولية تهدف إلى تطوير آليات تساعد على إدارة سرعة تطور الذكاء الاصطناعي المتقدم.
وكان داريو أمودي من الموقعين على الرسالة، إلى جانب موظفين من Meta وAnthropic وOpenAI وGoogle التابعة لشركة Alphabet.
وتعكس هذه التطورات اتساع النقاش حول المخاطر المرتبطة بالأنظمة الذكية المستقلة، خاصة مع انتقال الذكاء الاصطناعي من مجرد أدوات للإجابة عن الأسئلة إلى وكلاء قادرين على تنفيذ مهام متعددة والتفاعل مع أنظمة رقمية خارجية.
ومن المرجح أن يظل اختراق أنظمة الذكاء الاصطناعي خلال الاختبارات الأمنية محورًا مهمًا في النقاش الأميركي حول مستقبل الرقابة على هذه التقنيات، خصوصًا إذا أثبتت التحقيقات أن إجراءات الاحتواء الحالية لا تزال غير كافية أمام قدرات النماذج الحديثة.