هلوسات الذكاء الاصطناعي.. محامٍ يدفع 5 آلاف دولار بعد استخدام شات جي بي تي

تسببت هلوسات الذكاء الاصطناعي في أزمة قانونية لمحامٍ بولاية نيو مكسيكو الأميركية، بعدما استخدم شات جي بي تي للمساعدة في إعداد مذكرة لاستئناف حكم إدانة بالقتل، ثم قدم للمحكمة معلومات تضمنت شهادات لشهود غير موجودين ووقائع لم تحدث.

وفرضت المحكمة العليا في الولاية غرامة قدرها 5 آلاف دولار على المحامي ستيفن آرونز، كما قررت إحالة القضية إلى هيئة تأديب المحامين للتحقيق في سلوكه المهني.

هلوسات الذكاء الاصطناعي تصل إلى مستندات قضية قتل

وجدت المحكمة أن المذكرة التي قدمها آرونز تضمنت شهادات مختلقة نسبت إلى رجال شرطة وشهود، إلى جانب تفاصيل لم تظهر في ملف القضية الأصلي.

واستخدم المحامي شات جي بي تي عندما تولى الدفاع عن المتهم في مرحلة الاستئناف، وأدخل في البرنامج نسخة مكتوبة من مواد القضية بهدف الحصول على ملخص يساعده في إعداد المذكرة.

لكن النظام قدم له معلومات غير صحيحة، ولم يراجع المحامي المحتوى بما يكفي قبل إدراجه في المستند القضائي.

محكمة نيو مكسيكو تدين المحامي

لم تكتف المحكمة بفرض الغرامة، بل أدانت آرونز بازدراء المحكمة بسبب عدم تحققه من صحة المعلومات التي قدمها.

ورأت المحكمة أن المذكرة تضمنت شهادات لشهود لا وجود لهم، ومن بينها تفاصيل خيالية عن ملابس الشخص الذي أطلق النار.

كما انتقد القضاة موقف المحامي بعد اكتشاف الأخطاء، واعتبروا أن تعامله مع الأمر أظهر إهمالًا واضحًا تجاه مسؤوليته المهنية تجاه موكله.

• تحديث سامسونغ يفاجئ مستخدمي Galaxy S8 وNote 8 بعد سنوات من توقف الدعم
• ميزة Hearing Aid في Galaxy Buds تحصل على اعتماد FDA لدعم السمع

المحامي يقر باستخدام شات جي بي تي

أوضح آرونز أنه استعان بشات جي بي تي لتلخيص وقائع المحاكمة، لكنه لم يتوقع أن يختلق البرنامج معلومات غير موجودة في المواد التي قدمها إليه.

وقال المحامي إنه يشعر بالندم، واعتبر ما حدث خطأ غير مقصود، مؤكدًا أن التجربة توضح المخاطر التي يواجهها المهنيون عند استخدام أدوات الذكاء الاصطناعي دون مراجعة بشرية دقيقة.

وتكشف القضية أن هلوسات الذكاء الاصطناعي لا تقتصر على أخطاء بسيطة في الإجابات اليومية، بل يمكن أن تسبب عواقب مهنية وقانونية خطيرة عندما يعتمد المستخدم على المعلومات دون التحقق منها.

هلوسات الذكاء الاصطناعي.. محامٍ يدفع 5 آلاف دولار بعد استخدام شات جي بي تي

تحذيرات متكررة للمحامين

تأتي القضية ضمن سلسلة من الوقائع التي واجه فيها محامون عقوبات بسبب استخدام أدوات الذكاء الاصطناعي في إعداد مستندات قضائية.

وسبق أن قدم محامون مذكرات تضمنت قضايا وهمية أو اقتباسات قانونية غير دقيقة أنشأتها أدوات الذكاء الاصطناعي، ما دفع عددًا من المحاكم إلى التشديد على ضرورة مراجعة أي محتوى ينتجه الذكاء الاصطناعي قبل استخدامه أمام القضاء.

لكن قضية آرونز تحمل جانبًا أكثر خطورة، لأن الأخطاء لم تتعلق فقط بأسماء قضايا أو نصوص قانونية، بل امتدت إلى اختلاق شهادات ونسبتها إلى أشخاص لم يدلوا بها.

القضاة يحذرون من مخاطر الذكاء الاصطناعي

خلال جلسة للمحكمة، أبدت القاضية سي. شانون بيكون استغرابها من عدم إدراك المحامي للمشكلة المعروفة باسم هلوسات الذكاء الاصطناعي.

وتساءلت عن مدى متابعة آرونز للأخبار والتقارير التي تتناول اعتماد المحامين على معلومات مختلقة تنتجها أدوات الذكاء الاصطناعي.

وتسلط الواقعة الضوء على قاعدة أساسية في استخدام هذه الأدوات: الذكاء الاصطناعي يستطيع تسريع البحث وصياغة المعلومات، لكنه لا يضمن صحة كل ما ينتجه.

ولهذا يحتاج المحامون وغيرهم من أصحاب المهن التي تعتمد على الدقة إلى مراجعة كل معلومة والتحقق منها من المصادر الأصلية قبل استخدامها في قرارات أو مستندات رسمية.