تسببت هلوسات الذكاء الاصطناعي في أزمة قانونية لمحامٍ بولاية نيو مكسيكو الأميركية، بعدما استخدم شات جي بي تي للمساعدة في إعداد مذكرة لاستئناف حكم إدانة بالقتل، ثم قدم للمحكمة معلومات تضمنت شهادات لشهود غير موجودين ووقائع لم تحدث.

وفرضت المحكمة العليا في الولاية غرامة قدرها 5 آلاف دولار على المحامي ستيفن آرونز، كما قررت إحالة القضية إلى هيئة تأديب المحامين للتحقيق في سلوكه المهني.

هلوسات الذكاء الاصطناعي تصل إلى مستندات قضية قتل

وجدت المحكمة أن المذكرة التي قدمها آرونز تضمنت شهادات مختلقة نسبت إلى رجال شرطة وشهود، إلى جانب تفاصيل لم تظهر في ملف القضية الأصلي.

واستخدم المحامي شات جي بي تي عندما تولى الدفاع عن المتهم في مرحلة الاستئناف، وأدخل في البرنامج نسخة مكتوبة من مواد القضية بهدف الحصول على ملخص يساعده في إعداد المذكرة.

لكن النظام قدم له معلومات غير صحيحة، ولم يراجع المحامي المحتوى بما يكفي قبل إدراجه في المستند القضائي.

محكمة نيو مكسيكو تدين المحامي

لم تكتف المحكمة بفرض الغرامة، بل أدانت آرونز بازدراء المحكمة بسبب عدم تحققه من صحة المعلومات التي قدمها.

ورأت المحكمة أن المذكرة تضمنت شهادات لشهود لا وجود لهم، ومن بينها تفاصيل خيالية عن ملابس الشخص الذي أطلق النار.

كما انتقد القضاة موقف المحامي بعد اكتشاف الأخطاء، واعتبروا أن تعامله مع الأمر أظهر إهمالًا واضحًا تجاه مسؤوليته المهنية تجاه موكله.

• تحديث سامسونغ يفاجئ مستخدمي Galaxy S8 وNote 8 بعد سنوات من توقف الدعم
• ميزة Hearing Aid في Galaxy Buds تحصل على اعتماد FDA لدعم السمع

المحامي يقر باستخدام شات جي بي تي

أوضح آرونز أنه استعان بشات جي بي تي لتلخيص وقائع المحاكمة، لكنه لم يتوقع أن يختلق البرنامج معلومات غير موجودة في المواد التي قدمها إليه.

وقال المحامي إنه يشعر بالندم، واعتبر ما حدث خطأ غير مقصود، مؤكدًا أن التجربة توضح المخاطر التي يواجهها المهنيون عند استخدام أدوات الذكاء الاصطناعي دون مراجعة بشرية دقيقة.

وتكشف القضية أن هلوسات الذكاء الاصطناعي لا تقتصر على أخطاء بسيطة في الإجابات اليومية، بل يمكن أن تسبب عواقب مهنية وقانونية خطيرة عندما يعتمد المستخدم على المعلومات دون التحقق منها.

هلوسات الذكاء الاصطناعي.. محامٍ يدفع 5 آلاف دولار بعد استخدام شات جي بي تي

تحذيرات متكررة للمحامين

تأتي القضية ضمن سلسلة من الوقائع التي واجه فيها محامون عقوبات بسبب استخدام أدوات الذكاء الاصطناعي في إعداد مستندات قضائية.

وسبق أن قدم محامون مذكرات تضمنت قضايا وهمية أو اقتباسات قانونية غير دقيقة أنشأتها أدوات الذكاء الاصطناعي، ما دفع عددًا من المحاكم إلى التشديد على ضرورة مراجعة أي محتوى ينتجه الذكاء الاصطناعي قبل استخدامه أمام القضاء.

لكن قضية آرونز تحمل جانبًا أكثر خطورة، لأن الأخطاء لم تتعلق فقط بأسماء قضايا أو نصوص قانونية، بل امتدت إلى اختلاق شهادات ونسبتها إلى أشخاص لم يدلوا بها.

القضاة يحذرون من مخاطر الذكاء الاصطناعي

خلال جلسة للمحكمة، أبدت القاضية سي. شانون بيكون استغرابها من عدم إدراك المحامي للمشكلة المعروفة باسم هلوسات الذكاء الاصطناعي.

وتساءلت عن مدى متابعة آرونز للأخبار والتقارير التي تتناول اعتماد المحامين على معلومات مختلقة تنتجها أدوات الذكاء الاصطناعي.

وتسلط الواقعة الضوء على قاعدة أساسية في استخدام هذه الأدوات: الذكاء الاصطناعي يستطيع تسريع البحث وصياغة المعلومات، لكنه لا يضمن صحة كل ما ينتجه.

ولهذا يحتاج المحامون وغيرهم من أصحاب المهن التي تعتمد على الدقة إلى مراجعة كل معلومة والتحقق منها من المصادر الأصلية قبل استخدامها في قرارات أو مستندات رسمية.

تدفع أبل بتقنيات جديدة تجعل الذكاء الصوتي في Apple Watch جزءًا من تجربة المستخدم اليومية، من خلال تحليل الأصوات المحيطة وتحويل بعض المحادثات إلى نصوص أو ملخصات بالاعتماد على الذكاء الاصطناعي.

وتقدم الشركة هذه الإمكانات باعتبارها أدوات عملية يمكنها مساعدة المستخدم على تذكر المعلومات المهمة أو اكتشاف أصوات قد تشير إلى خطر، لكنها في الوقت نفسه تطرح سؤالًا حساسًا: إلى أي مدى يريد المستخدم أن تستمع أجهزته إلى ما يدور حوله؟

الذكاء الصوتي في Apple Watch يجمع بين الفائدة والخصوصية

تضم ساعات أبل الجديدة ميزات مثل Audio Intelligence وLive Rewind وSiri Recap، وتمنح المستخدم طرقًا مختلفة لتحليل الأصوات والمعلومات التي يسمعها خلال يومه.

وتقدم Audio Intelligence فائدة واضحة للأشخاص الذين يعانون ضعف السمع، إذ تستطيع الساعة التعرف على أصوات مثل صفارات الإنذار وأجهزة الإنذار وأجراس الأبواب وبكاء الأطفال، ثم تنبيه المستخدم إليها. وتنفذ الساعة هذه المعالجة على الجهاز نفسه، ما يسمح لها بالعمل حتى عندما لا يحمل المستخدم هاتف آيفون.

Live Rewind يحول الكلام إلى نص

تسمح ميزة Live Rewind للمستخدم بالعودة نحو 15 ثانية إلى الوراء لمعرفة ما قيل خلال اللحظات السابقة، ثم تحويل الكلام إلى نص. ويستطيع المستخدم تشغيل الميزة من خلال الضغط مرتين على التاج الرقمي في الساعة.

وقد تساعد هذه الإمكانية في تذكر اسم كتاب اقترحه أحد الأشخاص أو فكرة ناقشها زميل في العمل. لكن الذكاء الصوتي في Apple Watch يطرح هنا مشكلة مختلفة، لأن المستخدم يستطيع الاحتفاظ بكلام شخص آخر في صورة ملاحظة دون أن يتوقع الطرف الآخر ذلك.

وتزداد حساسية الأمر عندما تتعلق المحادثة بمعلومات شخصية أو مواقف يفترض أصحابها أنها خاصة.

الذكاء الصوتي في Apple Watch.. ميزة جديدة تفتح بابًا للقلق بشأن الخصوصية

Siri Recap يلخص المحادثات

تقدم أبل أيضًا ميزة Siri Recap التي تستمع إلى الأصوات المحيطة لإنشاء ملاحظات عامة عن المحادثات. وبعد ذلك تنشئ عنوانًا وملخصًا وأبرز النقاط التي التقطها النظام.

ولا تقدم Siri Recap تفريغًا حرفيًا لكل كلمة، بل تستخدم الذكاء الاصطناعي لاستخلاص أهم المعلومات. ويمكن للمستخدم الاستفادة منها في الاجتماعات أو لتسجيل النقاط المهمة من لقاءات العمل أو الاجتماعات المدرسية.

وتختلف هذه الميزة عن بعض الأجهزة الأخرى التي تعتمد على الاستماع المستمر، إذ لا تشغلها أبل تلقائيًا طوال الوقت. ويمكن للمستخدم تحديد الأوقات التي يريد فيها تشغيلها، مثل ساعات العمل أو النهار، كما يستطيع إيقافها من مركز التحكم.

• حظر مواقع التواصل في أستراليا يدفع ميتا لإغلاق 756 ألف حساب لقاصرين
• استهلاك بطارية 5G.. هل الجيل الخامس يستنزف الهاتف أسرع من 4G؟

هل يستطيع الذكاء الصوتي في Apple Watch تسجيل الآخرين؟

تؤكد أبل أنها لا تنشئ تسجيلات صوتية ولا تحتفظ بالصوت الخام، كما توضح أن الشركة نفسها لا تستطيع الوصول إلى هذه البيانات. كذلك لا تحدد الميزات هوية الأشخاص الذين يتحدثون، وتحمي النصوص والملخصات بالتشفير من طرف إلى طرف.

ورغم هذه الإجراءات، يبقى موضوع موافقة الأشخاص الآخرين على التقاط كلامهم وتحويله إلى نص نقطة مهمة. وقد تختلف القواعد القانونية التي تنظم تسجيل المحادثات أو استخدامها من دولة إلى أخرى.

هل يتغير سلوك الناس بسبب هذه التقنيات؟

لا تقتصر المخاوف على الجانب القانوني، إذ يمكن لفكرة وجود جهاز قادر على التقاط الكلام بسهولة أن تؤثر في طريقة تفاعل الأشخاص مع بعضهم.

وعلى عكس تصوير فيديو أو التقاط صورة، لا يحتاج المستخدم إلى رفع الهاتف وتوجيه الكاميرا نحو شخص آخر. ويكفي الضغط على التاج الرقمي في الساعة لتفعيل Live Rewind، مع ظهور مؤشر الميكروفون وإشارة صوتية أثناء العملية.

ويضع الذكاء الصوتي في Apple Watch أبل أمام معادلة صعبة: تقديم أدوات ذكية ومفيدة دون جعل المستخدمين يشعرون بأن أجهزتهم تراقب محادثاتهم باستمرار.

وتحاول الشركة تحقيق هذا التوازن من خلال معالجة البيانات على الجهاز، وعدم تخزين التسجيلات الصوتية، ومنح المستخدم سيطرة أكبر على تشغيل الميزات وإيقافها. لكن انتشار هذه التقنيات قد يفتح نقاشًا أوسع حول حدود الخصوصية في عصر الأجهزة القابلة للارتداء والذكاء الاصطناعي.