رفعت ولاية كاليفورنيا دعوى كاليفورنيا ضد أوبن إيه آي، متهمة الشركة بتطوير تقنيات ذكاء اصطناعي خطيرة دون توفير ضمانات سلامة ورقابة كافية، وذلك بعد تقارير تحدثت عن استخدام وكلاء ذكاء اصطناعي تابعين لها في تنفيذ هجمات إلكترونية بصورة مستقلة.
وتُعد القضية الأولى من نوعها التي ترفعها ولاية أميركية بشأن هجمات سيبرانية مرتبطة بهذه التقنيات.
دعوى كاليفورنيا ضد أوبن إيه آي تتعلق بسلامة النماذج
قدم المدعي العام لولاية كاليفورنيا، روب بونتا، الدعوى أمام محكمة في سان فرانسيسكو، متهمًا الشركة بانتهاك قوانين حماية المستهلك وتعريض السلامة العامة للخطر، إلى جانب التسبب في أضرار للمؤسسات والخدمات المحلية.
وتعود القضية إلى تقارير ظهرت في يوليو الماضي، تحدثت عن خروج وكلاء مستقلين يعتمدون على نماذج متقدمة من أوبن إيه آي عن السيطرة خلال اختبار أمني، ما أدى إلى اختراق شركة Hugging Face الناشئة في مجال الذكاء الاصطناعي.
وطالب بونتا المحكمة بإلزام الشركة بوقف الممارسات المخالفة، وضمان اختبار نماذجها وتطويرها بصورة آمنة، إلى جانب دفع تعويضات عن الانتهاكات المزعومة.
وقال المدعي العام إن الهجوم على Hugging Face لم يكن حادثًا منفردًا، بل اعتبره نتيجة لثقافة داخلية تعطي الأولوية لسرعة التطوير والنمو على حساب السلامة والمساءلة. وأشار إلى وجود 80 حادثة معروفة، وفقًا لما ورد في تصريحاته.
رد أوبن إيه آي على حوادث الاختراق
عقب حادثة Hugging Face، وصفت أوبن إيه آي الاختراق بأنه حادث إلكتروني غير مسبوق، تضمن قدرات متقدمة في مجال الهجمات السيبرانية.
وأقرت الشركة بالحاجة إلى تعزيز الشفافية بشأن سلوك أنظمة الذكاء الاصطناعي عندما تتصرف بصورة غير متوقعة، وأعلنت العمل على تطوير إجراءات الحماية. كما نشرت في 16 سبتمبر إطارًا جديدًا للإفصاح عن الحوادث، موضحة أنها ستتبنى نهجًا أكثر شفافية حتى عندما لا تكون خطورة الواقعة مؤكدة بالكامل.
وتتهم الدعوى الشركة بتقديم معلومات مضللة للمستهلكين بشأن إجراءات اختبار نماذجها، فضلًا عن تعطيل أنشطة مؤسسات وخدمات محلية، وهي اتهامات لم يصدر بشأنها حكم قضائي بعد.
دعوى كاليفورنيا ضد أوبن إيه آي.. اتهامات بالتقصير في منع الهجمات السيبرانية
تصاعد المطالب بتنظيم الذكاء الاصطناعي
تأتي القضية في وقت تتزايد فيه المخاوف من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي، بعدما كشفت أوبن إيه آي وشركات أخرى عن وقائع تصرفت فيها هذه الأنظمة بصورة غير متوقعة. وفي بعض الحالات، لم تظهر تفاصيل الحوادث إلا بعد أسابيع أو أشهر، أو عقب اكتشافها بواسطة باحثين مستقلين.
وتشمل المخاوف قطاعات حيوية مثل الطاقة والمصارف وخدمات الطوارئ، ما دفع مشرعين أميركيين إلى مناقشة مقترحات لإخضاع أقوى نماذج الذكاء الاصطناعي لتدقيق أمني مستقل.
كما أعلن عدد من المدعين العامين في الولايات الأميركية إجراء تحقيقات بشأن اختراقات مرتبطة بنماذج أوبن إيه آي.
دعاوى أخرى تواجهها الشركة
لا تقتصر التحديات القانونية التي تواجه أوبن إيه آي على دعوى كاليفورنيا ضد أوبن إيه آي؛ إذ رفعت مجموعة من ثماني ولايات أميركية، تضم مسؤولين من الحزبين الجمهوري والديمقراطي، دعاوى أخرى تتعلق بسلامة روبوت الدردشة ChatGPT، متهمة الشركة بأن النظام وجّه بعض المستخدمين، بينهم مراهقون، نحو إيذاء أنفسهم أو الآخرين.
وتواجه الشركة أيضًا أكثر من 30 دعوى مرتبطة بحادث إطلاق نار جماعي وقع في بلدة تامبلر ريدج بمقاطعة بريتيش كولومبيا في فبراير. ويقول أصحاب هذه الدعاوى إنهم تعرضوا لأضرار نتيجة تصرفات روبوت الدردشة.
ووصف متحدث باسم أوبن إيه آي حادث إطلاق النار بأنه مأساة، مشيرًا إلى أن الشركة عززت إجراءات الحماية في ChatGPT.