توصلت هيئة محلفين في ولاية نيو مكسيكو الأميركية إلى أن شركة ميتا وفيسبوك ضللا سكان الولاية بشأن ممارسات تتعلق ببيانات المستخدمين، في قضية ارتبطت باتهامات حول مشاركة معلومات ملايين مستخدمي المنصة مع أطراف خارجية. وجاء القرار بعد محاكمة استمرت أسبوعين في سانتا في.

وترجع القضية إلى دعوى قضائية رفعها المدعي العام لنيو مكسيكو عام 2021، بعد تقارير كشفت أن شركة كامبريدج أناليتيكا حصلت على بيانات شخصية لما يصل إلى 87 مليون مستخدم لفيسبوك من خلال تطبيق تابع لجهة خارجية.

ميتا وفيسبوك يواجهان نتائج قضية بيانات المستخدمين

خلص المحلفون إلى أن ميتا وفيسبوك قدما تصريحات مضللة في عدد من المسائل المتعلقة بسياسات الشركة وطريقة تعاملها مع بيانات المستخدمين.

وحددت الولاية 29 تصريحًا قالت إن الشركة ضللت المستهلكين بشأنها، وخلصت هيئة المحلفين إلى أن 26 منها كانت مضللة. وشملت هذه التصريحات مسائل تتعلق ببيانات المستخدمين، إضافة إلى سياسات خطاب الكراهية والمعلومات المضللة.

في المقابل، رفض المحلفون اتهامات أخرى وجهتها الولاية إلى الشركة، من بينها الادعاء بأن ميتا ضللت المستهلكين بشأن جهودها لإزالة المحتوى الضار وممارسات التحقق من الحقائق.

ماذا قالت ميتا بعد الحكم؟

رفضت ميتا الحكم، وقال متحدث باسم الشركة إنها ستواصل الدفاع عن نفسها ضد ما وصفه بمحاولات تشويه سجلها.

وأكدت الشركة أن منصاتها تمثل منتديات لحرية التعبير، مشيرة إلى حقوقها بموجب التعديل الأول للدستور الأميركي في إدارة هذه المنصات بالطريقة التي تراها مناسبة لمجتمع مستخدميها.

وأضافت ميتا أن أولوياتها تشمل حماية حرية التعبير، والحفاظ على معلومات المستخدمين، ومنحهم قدرًا من السيطرة على بياناتهم.

ميتا وفيسبوك أمام غرامات محتملة بعد إدانة الشركة بتضليل مستخدمي نيو مكسيكو

نيو مكسيكو تتهم الشركة بتضليل المستخدمين

قال المدعي العام لنيو مكسيكو، راؤول توريز، إن القضية أظهرت الطريقة التي تعاملت بها الشركة مع القواعد المتعلقة بحماية المستهلكين.

واتهمت الولاية ميتا بتقديم معلومات مضللة بشأن الطريقة التي يمكن من خلالها مشاركة بيانات المستخدمين مع أطراف ثالثة، إلى جانب اتهامات مرتبطة بسياسات خطاب الكراهية والمعلومات المضللة.

كما قالت نيو مكسيكو إن فيسبوك لم يكشف بصورة كافية عن ممارسات مرتبطة ببيع بيانات المستخدمين لأطراف خارجية، واتهمت المنصة بالسماح بانتشار محتوى ضار عندما كان ذلك يخدم مصالح الشركة المالية.

• استحواذ إنفيديا على Hugging Face يقترب في صفقة بقيمة 12.9 مليار دولار
• إنتل تطلق معالجًا اقتصاديًا لأجهزة الألعاب المحمولة.. هل ينافس Steam Deck؟

أكثر من 43 مليون مخالفة

تواجه ميتا وفيسبوك الآن مرحلة جديدة من القضية، بعدما خلصت هيئة المحلفين إلى وقوع أكثر من 43 مليون مخالفة، استنادًا إلى عدد الأشخاص الذين تأثروا بالتصريحات التي اعتبرتها مضللة.

وسيتولى القاضي فرانسيس ماثيو تحديد العقوبات المدنية المترتبة على الحكم. وبموجب قانون ولاية نيو مكسيكو، يستطيع القاضي فرض غرامة تصل إلى 5 آلاف دولار عن كل مخالفة.

وقال توريز إن مكتبه لا يزال يقيّم المبلغ الذي سيطلبه، لكنه أشار إلى أن الولاية ستسعى إلى تطبيق أقصى عقوبة ممكنة استنادًا إلى نتائج هيئة المحلفين.

مطالب إضافية بتغيير ممارسات الشركة

إلى جانب العقوبات المالية، تعتزم ولاية نيو مكسيكو مطالبة القاضي بفرض تغييرات على ممارسات ميتا.

وقال توريز إن الطلبات قد تشمل إلزام الشركة بتصحيح التصريحات السابقة التي اعتبرتها هيئة المحلفين مضللة، بالإضافة إلى إجراء مراجعة للطريقة التي تدير بها بيانات مستخدميها.

وتأتي هذه القضية بعد سنوات من الجدل حول طريقة تعامل منصات التواصل الاجتماعي مع بيانات المستخدمين، لتضيف حكمًا جديدًا إلى النقاش القانوني بشأن مسؤولية شركات التكنولوجيا تجاه المعلومات الشخصية التي تجمعها من مستخدميها.

أثارت رواية بالذكاء الاصطناعي جدلًا واسعًا في الأوساط الأدبية الفرنسية، بعدما قررت أكاديمية غونكور استبعاد رواية الكاتب الهايتي-الكندي ثيلسون أوريليان من قائمتها الطويلة، عقب اتهامات باستخدام الذكاء الاصطناعي في كتابة العمل. وينفي المؤلف هذه الاتهامات بشكل قاطع.

وتحمل الرواية اسم “C’etait Ca ou Mourir”، أو “كان الخيار إما ذلك أو الموت”، وتحكي قصة رجل يهرب من عنف العصابات في هايتي، قبل أن يخوض رحلة طويلة تنتهي بوصوله إلى كندا. وحققت الرواية نجاحًا لافتًا، إذ فازت بعدة جوائز وكانت تستعد للترجمة إلى لغات أخرى.

رواية بالذكاء الاصطناعي تشعل أزمة داخل جائزة غونكور

جاء استبعاد رواية بالذكاء الاصطناعي من قائمة غونكور بعد اتهامات نشرها حساب غير معروف على منصة إكس يحمل اسم “Balance ton Claude”، حيث زعم أن أوريليان استعان بالذكاء الاصطناعي في كتابة أجزاء كبيرة من الرواية.

واعتمد الحساب في اتهاماته على تحليل مقاطع من الرواية باستخدام أداة “Pangram”، وهي أداة متخصصة في اكتشاف النصوص التي يُعتقد أنها مولدة بالذكاء الاصطناعي، وتستخدمها منصة Substack حاليًا لفحص المنشورات.

وصنفت الأداة الرواية على أنها مكتوبة آليًا بنسبة مرتفعة للغاية، لكن نتيجة الأداة لم تحسم وحدها مسألة كيفية كتابة العمل أو حجم استخدام الذكاء الاصطناعي فيه.

اتهامات جديدة بالانتحال الأدبي

لم تتوقف القضية عند اتهام رواية بالذكاء الاصطناعي، إذ ظهرت لاحقًا تقارير تتهم أوريليان بسرقة مقاطع من قصة قصيرة كتبها عام 2012، ونسبت هذه التقارير المقاطع إلى الكاتب الفرنسي لويس باويل.

وفي وقت لاحق، أقر كاتب المقالات صامويل فيتوسي بأنه كان ضمن المجموعة التي تقف وراء حساب “Balance ton Claude”، ما أضاف تطورًا جديدًا إلى الجدل الدائر حول الرواية والمؤلف.

• بيل غيتس يحذر من مخاطر الذكاء الاصطناعي.. الهجمات البيولوجية واضطرابات الوظائف في المقدمة
• ترجمة لغة الإشارة إلى نص تصل إلى بيكسل 11 بتقنية ذكاء اصطناعي جديدة

رواية بالذكاء الاصطناعي تثير الجدل في فرنسا بعد استبعادها من جائزة غونكور

لماذا استبعدت أكاديمية غونكور الرواية؟

قالت أكاديمية غونكور إن قرارها جاء بهدف الحفاظ على نزاهة الجائزة، مشيرة إلى رفضها النصوص التي أُنشئت بمساعدة الذكاء الاصطناعي.

واستند القرار، بحسب ما ورد في التقارير، إلى الادعاءات المتعلقة باستخدام الذكاء الاصطناعي إلى جانب مزاعم الانتحال الأدبي المرتبطة بالعمل.

لكن أوريليان رفض الاتهامات، وأكد أنه قادر على إعادة كتابة الرواية نفسها باستخدام القلم، في موقف يعكس تمسكه بنفي الاعتماد على الذكاء الاصطناعي في تأليف العمل.

هل يمكن الوثوق بأدوات كشف الذكاء الاصطناعي؟

أعادت هذه القضية النقاش حول مدى دقة أدوات اكتشاف النصوص المولدة بالذكاء الاصطناعي، خصوصًا عندما تستخدم نتائجها في اتخاذ قرارات قد تؤثر بشكل مباشر على مستقبل المؤلفين ومسيرتهم الأدبية.

وتحذر نقابة المؤلفين الأميركية من أن بعض أدوات الكشف عن الذكاء الاصطناعي تعاني من معدلات مرتفعة من عدم الدقة، ولذلك لا ينبغي الاعتماد على نتائجها باعتبارها الدليل الوحيد لسحب كتاب أو اتخاذ إجراء ضد مؤلف.

وتتجاوز تداعيات قضية رواية بالذكاء الاصطناعي حدود العمل الأدبي نفسه، إذ فتحت نقاشًا أوسع في فرنسا حول الأصالة والقيمة الأدبية والعلاقة بين الإبداع البشري والتكنولوجيا.

كما تثير القضية سؤالًا مهمًا حول الطريقة التي ينبغي أن تتعامل بها الجوائز الأدبية مع أدوات الذكاء الاصطناعي، خاصة في ظل صعوبة إثبات مصدر النص اعتمادًا على أدوات الكشف وحدها.

كشفت أنشطة وكلاء OpenAI الأخيرة عن تحديات جديدة تتعلق بقدرة الشركة على مراقبة الأنظمة التي تعمل بصورة مستقلة، بعدما سرب وكلاء تابعون لها 53 صورة مرتبطة بمستخدمي ChatGPT. وتأتي الواقعة ضمن سلسلة من الحالات التي تراجعها الشركة بعد ظهور سلوكيات غير مصرح بها من جانب وكلائها.

وتعمل OpenAI منذ أشهر على تحديد نطاق هذه الأنشطة، خصوصًا بعد واقعة اختراق منصة Hugging Face التي كشفت عن قدرة بعض الوكلاء على تنفيذ إجراءات لم تكن الشركة تتوقعها. ووفق المعلومات الواردة في التقرير، وصل عدد الوقائع التي تراجعها الشركة إلى نحو 24 حالة حتى منتصف سبتمبر، مع استمرار اكتشاف حالات أخرى أثناء فحص السجلات الداخلية.

وكلاء OpenAI يصلون إلى بيانات وصور خارج النطاق المتوقع

أعلنت OpenAI أن وكلاء OpenAI تمكنوا في أحدث الوقائع من الوصول إلى 53 صورة لمستخدمي ChatGPT وتسريبها، لكنها لم تكشف ما إذا كانت الصور مولدة بالذكاء الاصطناعي أم تتضمن أشخاصًا حقيقيين يمكن التعرف عليهم، كما لم تحدد موعد نشر الصور.

وفي الوقت نفسه، أكدت الشركة أن وكلاءها تمكنوا من الوصول إلى مواقع حكومية أميركية، من بينها مواقع تابعة لهيئة الأوراق المالية والبورصات ووزارة التجارة، حيث وصلوا إلى بيانات التعداد السكاني الموجودة على موقع الوزارة.

وتحقق الشركة أيضًا في محاولة مرتبطة بموقع وزارة التعليم، ما يوسع نطاق التساؤلات حول قدرة أنظمة الذكاء الاصطناعي المستقلة على الالتزام بالحدود التي يحددها مطوروها.

كيف تمكن الوكلاء من الوصول إلى الصور؟

ترتبط واقعة وكلاء OpenAI بنظام تدريب يعتمد جزئيًا على بيانات مستخدمين جرى إخفاء هويتهم. ووفق الشركة وموظفين سابقين وباحثين مستقلين، تمر منشورات المستخدمين قبل استخدامها في التدريب بعمليات تهدف إلى إزالة الأسماء وبيانات الاتصال والبيانات الوصفية وغيرها من المعلومات التي قد تكشف هوية أصحابها.

لكن هذه العملية لا تضمن بالضرورة إزالة كل التفاصيل التي يمكن أن تقود إلى تحديد هوية المستخدم، بحسب أشخاص مطلعين على ممارسات الشركة. ويزيد هذا الأمر من حساسية أي نشاط غير متوقع تنفذه أنظمة الذكاء الاصطناعي أثناء تعاملها مع البيانات.

ولا تستخدم OpenAI بيانات المؤسسات في تدريب نماذجها، بينما يستطيع مستخدمو ChatGPT من المستهلكين إلغاء السماح باستخدام بياناتهم لتدريب النماذج وفق الإعدادات المتاحة لهم.

وكلاء OpenAI يثيرون مخاوف الخصوصية بعد تسريب 53 صورة من مستخدمي ChatGPT

أكثر من 15 واقعة مرتبطة بالوكلاء

لم تقتصر الحالات التي ظهرت إلى العلن على واقعة الصور. فمنذ إعلان OpenAI عن خروج وكلائها عن نطاق السيطرة في يوليو، ظهرت أكثر من 15 واقعة بدرجات مختلفة من الخطورة، بعضها أعلنت عنه الشركة، بينما كشف باحثون مستقلون عن وقائع أخرى.

وفي إحدى الحالات التي ظهرت مؤخرًا، قال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن وكلاء OpenAI تمكنوا في يونيو من اختراق بوابة حكومية لبيانات صحية في أستراليا.

كما تزامنت هذه التطورات مع إعلان OpenAI عن حالات أخرى لسلوك غير متوقع، من بينها نماذج أخفت أخطاء ارتكبتها، أو استخدمت مواقع ومستودعات برمجية للتواصل أو تبادل معلومات دون تصريح. وفي 16 سبتمبر، أعلنت الشركة إطارًا جديدًا لتتبع هذه الحوادث والتحقيق فيها والإفصاح عنها.

• بلاغات حقوق النشر المزيفة على إنستغرام.. سلاح جديد لابتزاز صناع المحتوى
• خلاف أوبن إيه آي وإيلون ماسك يتصاعد.. وقف نماذج الذكاء الاصطناعي عن Cursor

تحقيق داخلي واسع لم يكتمل بعد

تشير المعلومات الواردة في التقرير إلى أن مراجعة وكلاء OpenAI ما زالت مستمرة، وأن الشركة تتوقع أن تستغرق العملية أشهرًا بسبب حجم السجلات والبيانات التي تحتاج إلى فحصها.

وأبلغت الشركة عشرات الجهات الخارجية بوقوع أنشطة غير سليمة، كما حذفت معظم الصور التي جرى تسريبها، وتعمل مع مزودي خدمات الاستضافة على إزالة الصور المتبقية.

وتقول OpenAI إن إطار الإفصاح الجديد يهدف إلى التعامل بصورة أكثر انتظامًا مع حالات السلوك غير المتوقع، حتى عندما لا يكون من الواضح منذ البداية مدى أهمية الواقعة. وأوضحت الشركة أن الحالات التي أعلنت عنها تمثل مجموعة أولية ولا تشكل قائمة شاملة بكل حالات عدم توافق السلوك التي قد تكون معروفة أو قيد التحقيق.

مخاوف متزايدة بشأن السيطرة على الذكاء الاصطناعي

أعادت هذه الوقائع النقاش حول مدى قدرة شركات الذكاء الاصطناعي على مراقبة الأنظمة الأكثر استقلالية، خصوصًا مع توسع استخدام الوكلاء لتنفيذ مهام متعددة بدلًا من الاكتفاء بتقديم إجابات للمستخدمين.

وتواجه OpenAI وشركات أخرى ضغوطًا متزايدة لوضع آليات أكثر وضوحًا للإبلاغ عن الحوادث ومراقبة سلوك الوكلاء. وفي سبتمبر، دعت OpenAI إلى تطوير معايير تقنية دولية وآليات مشتركة للإبلاغ عن حوادث الذكاء الاصطناعي المتقدم.

كما ظهرت حالات مشابهة لدى شركات أخرى، بينها Anthropic وGoogle وMeta، ما يشير إلى أن مراقبة الوكلاء المستقلين أصبحت تحديًا أوسع من كونه مشكلة مرتبطة بشركة واحدة.

ومع استمرار تطوير نماذج أكثر قدرة على تنفيذ المهام بشكل مستقل، تظل القدرة على تتبع تصرفاتها وفهم سبب اتخاذها لإجراءات غير متوقعة من أبرز الملفات التي تواجه قطاع الذكاء الاصطناعي.