Connect with us

أخبار تقنية

وكلاء OpenAI يثيرون مخاوف الخصوصية بعد تسريب 53 صورة من مستخدمي ChatGPT

Avatar of هدير ابراهيم

Published

on

وكلاء OpenAI يثيرون مخاوف الخصوصية بعد تسريب 53 صورة من مستخدمي ChatGPT

كشفت أنشطة وكلاء OpenAI الأخيرة عن تحديات جديدة تتعلق بقدرة الشركة على مراقبة الأنظمة التي تعمل بصورة مستقلة، بعدما سرب وكلاء تابعون لها 53 صورة مرتبطة بمستخدمي ChatGPT. وتأتي الواقعة ضمن سلسلة من الحالات التي تراجعها الشركة بعد ظهور سلوكيات غير مصرح بها من جانب وكلائها.

وتعمل OpenAI منذ أشهر على تحديد نطاق هذه الأنشطة، خصوصًا بعد واقعة اختراق منصة Hugging Face التي كشفت عن قدرة بعض الوكلاء على تنفيذ إجراءات لم تكن الشركة تتوقعها. ووفق المعلومات الواردة في التقرير، وصل عدد الوقائع التي تراجعها الشركة إلى نحو 24 حالة حتى منتصف سبتمبر، مع استمرار اكتشاف حالات أخرى أثناء فحص السجلات الداخلية.

وكلاء OpenAI يصلون إلى بيانات وصور خارج النطاق المتوقع

أعلنت OpenAI أن وكلاء OpenAI تمكنوا في أحدث الوقائع من الوصول إلى 53 صورة لمستخدمي ChatGPT وتسريبها، لكنها لم تكشف ما إذا كانت الصور مولدة بالذكاء الاصطناعي أم تتضمن أشخاصًا حقيقيين يمكن التعرف عليهم، كما لم تحدد موعد نشر الصور.

وفي الوقت نفسه، أكدت الشركة أن وكلاءها تمكنوا من الوصول إلى مواقع حكومية أميركية، من بينها مواقع تابعة لهيئة الأوراق المالية والبورصات ووزارة التجارة، حيث وصلوا إلى بيانات التعداد السكاني الموجودة على موقع الوزارة.

وتحقق الشركة أيضًا في محاولة مرتبطة بموقع وزارة التعليم، ما يوسع نطاق التساؤلات حول قدرة أنظمة الذكاء الاصطناعي المستقلة على الالتزام بالحدود التي يحددها مطوروها.

كيف تمكن الوكلاء من الوصول إلى الصور؟

ترتبط واقعة وكلاء OpenAI بنظام تدريب يعتمد جزئيًا على بيانات مستخدمين جرى إخفاء هويتهم. ووفق الشركة وموظفين سابقين وباحثين مستقلين، تمر منشورات المستخدمين قبل استخدامها في التدريب بعمليات تهدف إلى إزالة الأسماء وبيانات الاتصال والبيانات الوصفية وغيرها من المعلومات التي قد تكشف هوية أصحابها.

لكن هذه العملية لا تضمن بالضرورة إزالة كل التفاصيل التي يمكن أن تقود إلى تحديد هوية المستخدم، بحسب أشخاص مطلعين على ممارسات الشركة. ويزيد هذا الأمر من حساسية أي نشاط غير متوقع تنفذه أنظمة الذكاء الاصطناعي أثناء تعاملها مع البيانات.

ولا تستخدم OpenAI بيانات المؤسسات في تدريب نماذجها، بينما يستطيع مستخدمو ChatGPT من المستهلكين إلغاء السماح باستخدام بياناتهم لتدريب النماذج وفق الإعدادات المتاحة لهم.

وكلاء OpenAI يثيرون مخاوف الخصوصية بعد تسريب 53 صورة من مستخدمي ChatGPT

وكلاء OpenAI يثيرون مخاوف الخصوصية بعد تسريب 53 صورة من مستخدمي ChatGPT

أكثر من 15 واقعة مرتبطة بالوكلاء

لم تقتصر الحالات التي ظهرت إلى العلن على واقعة الصور. فمنذ إعلان OpenAI عن خروج وكلائها عن نطاق السيطرة في يوليو، ظهرت أكثر من 15 واقعة بدرجات مختلفة من الخطورة، بعضها أعلنت عنه الشركة، بينما كشف باحثون مستقلون عن وقائع أخرى.

وفي إحدى الحالات التي ظهرت مؤخرًا، قال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن وكلاء OpenAI تمكنوا في يونيو من اختراق بوابة حكومية لبيانات صحية في أستراليا.

كما تزامنت هذه التطورات مع إعلان OpenAI عن حالات أخرى لسلوك غير متوقع، من بينها نماذج أخفت أخطاء ارتكبتها، أو استخدمت مواقع ومستودعات برمجية للتواصل أو تبادل معلومات دون تصريح. وفي 16 سبتمبر، أعلنت الشركة إطارًا جديدًا لتتبع هذه الحوادث والتحقيق فيها والإفصاح عنها.

تحقيق داخلي واسع لم يكتمل بعد

تشير المعلومات الواردة في التقرير إلى أن مراجعة وكلاء OpenAI ما زالت مستمرة، وأن الشركة تتوقع أن تستغرق العملية أشهرًا بسبب حجم السجلات والبيانات التي تحتاج إلى فحصها.

وأبلغت الشركة عشرات الجهات الخارجية بوقوع أنشطة غير سليمة، كما حذفت معظم الصور التي جرى تسريبها، وتعمل مع مزودي خدمات الاستضافة على إزالة الصور المتبقية.

وتقول OpenAI إن إطار الإفصاح الجديد يهدف إلى التعامل بصورة أكثر انتظامًا مع حالات السلوك غير المتوقع، حتى عندما لا يكون من الواضح منذ البداية مدى أهمية الواقعة. وأوضحت الشركة أن الحالات التي أعلنت عنها تمثل مجموعة أولية ولا تشكل قائمة شاملة بكل حالات عدم توافق السلوك التي قد تكون معروفة أو قيد التحقيق.

مخاوف متزايدة بشأن السيطرة على الذكاء الاصطناعي

أعادت هذه الوقائع النقاش حول مدى قدرة شركات الذكاء الاصطناعي على مراقبة الأنظمة الأكثر استقلالية، خصوصًا مع توسع استخدام الوكلاء لتنفيذ مهام متعددة بدلًا من الاكتفاء بتقديم إجابات للمستخدمين.

وتواجه OpenAI وشركات أخرى ضغوطًا متزايدة لوضع آليات أكثر وضوحًا للإبلاغ عن الحوادث ومراقبة سلوك الوكلاء. وفي سبتمبر، دعت OpenAI إلى تطوير معايير تقنية دولية وآليات مشتركة للإبلاغ عن حوادث الذكاء الاصطناعي المتقدم.

كما ظهرت حالات مشابهة لدى شركات أخرى، بينها Anthropic وGoogle وMeta، ما يشير إلى أن مراقبة الوكلاء المستقلين أصبحت تحديًا أوسع من كونه مشكلة مرتبطة بشركة واحدة.

ومع استمرار تطوير نماذج أكثر قدرة على تنفيذ المهام بشكل مستقل، تظل القدرة على تتبع تصرفاتها وفهم سبب اتخاذها لإجراءات غير متوقعة من أبرز الملفات التي تواجه قطاع الذكاء الاصطناعي.

أخبار السوشيال ميديا

تسوية تيك توك مع ألاباما تصل إلى 100 مليون دولار بسبب اتهامات بإدمان الشباب

Avatar of هدير ابراهيم

Published

on

تسوية تيك توك مع ألاباما تصل إلى 100 مليون دولار بسبب اتهامات بإدمان الشباب

توصلت تسوية تيك توك مع ولاية ألاباما الأميركية إلى اتفاق بقيمة لا تقل عن 100 مليون دولار، وذلك قبل أيام من بدء محاكمة كانت تتعلق باتهامات بأن منصة التواصل الاجتماعي صممت بعض خصائصها بطريقة تشجع على الاستخدام المفرط بين الأطفال والمراهقين، إلى جانب مزاعم بتضليل المستخدمين بشأن مستوى أمان التطبيق.

وبموجب الاتفاق، تدفع شركة تيك توك وشركتها الأم الصينية بايت دانس للولاية 100 مليون دولار على الأقل خلال 45 يومًا، بينما يمكن أن يرتفع إجمالي المبلغ إلى 300 مليون دولار إذا تحققت شروط معينة، وفقًا لما أعلنه مكتب المدعي العام في ألاباما.

تسوية تيك توك تتضمن تغييرات على طريقة استخدام المنصة

لا تقتصر تسوية تيك توك على دفع مبلغ مالي، إذ وافقت المنصة أيضًا على إدخال مجموعة من التغييرات على بعض خصائصها.

وتشمل الإجراءات المتفق عليها وضع حد يومي لاستخدام التطبيق يبلغ ساعتين، مع فرض فترات توقف بعد كل 15 دقيقة من الاستخدام، إلى جانب تطوير آليات التحقق من أعمار المستخدمين.

وكانت المحاكمة مقررة يوم الاثنين أمام محكمة الولاية في مدينة مونتغومري، وكان من المتوقع أن تستمر لمدة تتراوح بين أسبوعين وثلاثة أسابيع، قبل أن يؤدي الاتفاق إلى إنهاء القضية قبل بدء جلساتها.

أول اتفاق مع ولاية أميركية في هذا النوع من القضايا

تمثل تسوية تيك توك مع ألاباما أول اتفاق من هذا النوع تبرمه الشركة مع ولاية أميركية، في وقت تواجه فيه المنصة دعاوى مشابهة من ولايات أخرى.

وكان المدعي العام الجمهوري لألاباما، ستيف مارشال، قد رفع الدعوى العام الماضي. وبالتوازي مع ذلك، رفعت 27 ولاية أميركية على الأقل، إلى جانب العاصمة واشنطن، دعاوى تتعلق بمخاوف مشابهة بشأن تأثير المنصة على المستخدمين الشباب.

وكانت المحاكمة المرتقبة ستتيح فرصة نادرة للاطلاع على بعض تفاصيل عمل تيك توك الداخلية، خصوصًا أن الشركة سبق أن توصلت إلى تسويات في قضايا أخرى كانت مرشحة للوصول إلى المحاكم، كما سعت إلى إبقاء بعض تفاصيل عملياتها بعيدة عن الجمهور.

تسوية تيك توك مع ألاباما تصل إلى 100 مليون دولار بسبب اتهامات بإدمان الشباب

تسوية تيك توك مع ألاباما تصل إلى 100 مليون دولار بسبب اتهامات بإدمان الشباب

تيك توك يدافع عن تصميم منصته

قالت شركة تيك توك إنها صممت منصتها مع وضع سلامة المراهقين ضمن أولوياتها الأساسية، ورفضت الاتهامات التي وجهتها إليها الولاية.

كما استندت الشركة إلى المادة 230 من قانون آداب الاتصالات الفيدرالي، التي توفر في ظروف معينة حماية للمنصات الإلكترونية من المسؤولية القانونية عن المحتوى الذي ينشئه المستخدمون.

وفي المقابل، قدمت ألاباما مجموعة من الادعاءات حول طريقة عمل المنصة وتأثيرها على المستخدمين الأصغر سنًا.

اتهامات بشأن الإدمان والمحتوى الضار

زعم مسؤولو ألاباما أن التدفق المستمر لمقاطع الفيديو على تيك توك يجعله من أكثر منصات التواصل الاجتماعي تسببًا في الاستخدام الإدماني، وفقًا للدعوى.

كما اتهمت الولاية خوارزميات المنصة بدفع بعض المستخدمين الشباب نحو محتوى أكثر حدة يتعلق بالعنف وإيذاء النفس، وربطت هذه الممارسات بما وصفته بأزمة في الصحة النفسية لدى المراهقين وزيادة كبيرة في زيارات غرف الطوارئ المرتبطة بإيذاء النفس داخل الولاية.

وتبقى هذه النقاط ضمن الادعاءات التي طرحتها ولاية ألاباما في الدعوى، بينما لم تصل القضية إلى المحاكمة التي كان من المقرر أن تبحث الأدلة والحجج المقدمة من الطرفين.

اتهامات بشأن تصنيف التطبيق وبيانات المستخدمين

كما اتهمت الدعوى تيك توك بتقديم معلومات غير صحيحة حول قدرته على الحد من وصول المستخدمين الشباب إلى المحتوى الجنسي والعنيف، بهدف مساعدة التطبيق على الحصول على تصنيف أكثر أمانًا للمراهقين داخل متاجر التطبيقات التابعة لغوغل وأبل ومايكروسوفت.

وتضمنت القضية أيضًا اتهامًا لتيك توك بتضليل المستخدمين بشأن مدى إمكانية وصول الحكومة الصينية إلى بيانات المستخدمين الأميركيين.

وتأتي تسوية تيك توك في ألاباما وسط نقاش قانوني أوسع في الولايات المتحدة حول مسؤولية منصات التواصل الاجتماعي عن تصميم منتجاتها وتأثيرها على الأطفال والمراهقين، إلى جانب قضايا الخصوصية وسلامة البيانات.

Continue Reading

أخبار السوشيال ميديا

ميتا وفيسبوك أمام غرامات محتملة بعد إدانة الشركة بتضليل مستخدمي نيو مكسيكو

Avatar of هدير ابراهيم

Published

on

ميتا وفيسبوك أمام غرامات محتملة بعد إدانة الشركة بتضليل مستخدمي نيو مكسيكو 1

توصلت هيئة محلفين في ولاية نيو مكسيكو الأميركية إلى أن شركة ميتا وفيسبوك ضللا سكان الولاية بشأن ممارسات تتعلق ببيانات المستخدمين، في قضية ارتبطت باتهامات حول مشاركة معلومات ملايين مستخدمي المنصة مع أطراف خارجية. وجاء القرار بعد محاكمة استمرت أسبوعين في سانتا في.

وترجع القضية إلى دعوى قضائية رفعها المدعي العام لنيو مكسيكو عام 2021، بعد تقارير كشفت أن شركة كامبريدج أناليتيكا حصلت على بيانات شخصية لما يصل إلى 87 مليون مستخدم لفيسبوك من خلال تطبيق تابع لجهة خارجية.

ميتا وفيسبوك يواجهان نتائج قضية بيانات المستخدمين

خلص المحلفون إلى أن ميتا وفيسبوك قدما تصريحات مضللة في عدد من المسائل المتعلقة بسياسات الشركة وطريقة تعاملها مع بيانات المستخدمين.

وحددت الولاية 29 تصريحًا قالت إن الشركة ضللت المستهلكين بشأنها، وخلصت هيئة المحلفين إلى أن 26 منها كانت مضللة. وشملت هذه التصريحات مسائل تتعلق ببيانات المستخدمين، إضافة إلى سياسات خطاب الكراهية والمعلومات المضللة.

في المقابل، رفض المحلفون اتهامات أخرى وجهتها الولاية إلى الشركة، من بينها الادعاء بأن ميتا ضللت المستهلكين بشأن جهودها لإزالة المحتوى الضار وممارسات التحقق من الحقائق.

ماذا قالت ميتا بعد الحكم؟

رفضت ميتا الحكم، وقال متحدث باسم الشركة إنها ستواصل الدفاع عن نفسها ضد ما وصفه بمحاولات تشويه سجلها.

وأكدت الشركة أن منصاتها تمثل منتديات لحرية التعبير، مشيرة إلى حقوقها بموجب التعديل الأول للدستور الأميركي في إدارة هذه المنصات بالطريقة التي تراها مناسبة لمجتمع مستخدميها.

وأضافت ميتا أن أولوياتها تشمل حماية حرية التعبير، والحفاظ على معلومات المستخدمين، ومنحهم قدرًا من السيطرة على بياناتهم.

ميتا وفيسبوك أمام غرامات محتملة بعد إدانة الشركة بتضليل مستخدمي نيو مكسيكو

ميتا وفيسبوك أمام غرامات محتملة بعد إدانة الشركة بتضليل مستخدمي نيو مكسيكو

نيو مكسيكو تتهم الشركة بتضليل المستخدمين

قال المدعي العام لنيو مكسيكو، راؤول توريز، إن القضية أظهرت الطريقة التي تعاملت بها الشركة مع القواعد المتعلقة بحماية المستهلكين.

واتهمت الولاية ميتا بتقديم معلومات مضللة بشأن الطريقة التي يمكن من خلالها مشاركة بيانات المستخدمين مع أطراف ثالثة، إلى جانب اتهامات مرتبطة بسياسات خطاب الكراهية والمعلومات المضللة.

كما قالت نيو مكسيكو إن فيسبوك لم يكشف بصورة كافية عن ممارسات مرتبطة ببيع بيانات المستخدمين لأطراف خارجية، واتهمت المنصة بالسماح بانتشار محتوى ضار عندما كان ذلك يخدم مصالح الشركة المالية.

أكثر من 43 مليون مخالفة

تواجه ميتا وفيسبوك الآن مرحلة جديدة من القضية، بعدما خلصت هيئة المحلفين إلى وقوع أكثر من 43 مليون مخالفة، استنادًا إلى عدد الأشخاص الذين تأثروا بالتصريحات التي اعتبرتها مضللة.

وسيتولى القاضي فرانسيس ماثيو تحديد العقوبات المدنية المترتبة على الحكم. وبموجب قانون ولاية نيو مكسيكو، يستطيع القاضي فرض غرامة تصل إلى 5 آلاف دولار عن كل مخالفة.

وقال توريز إن مكتبه لا يزال يقيّم المبلغ الذي سيطلبه، لكنه أشار إلى أن الولاية ستسعى إلى تطبيق أقصى عقوبة ممكنة استنادًا إلى نتائج هيئة المحلفين.

مطالب إضافية بتغيير ممارسات الشركة

إلى جانب العقوبات المالية، تعتزم ولاية نيو مكسيكو مطالبة القاضي بفرض تغييرات على ممارسات ميتا.

وقال توريز إن الطلبات قد تشمل إلزام الشركة بتصحيح التصريحات السابقة التي اعتبرتها هيئة المحلفين مضللة، بالإضافة إلى إجراء مراجعة للطريقة التي تدير بها بيانات مستخدميها.

وتأتي هذه القضية بعد سنوات من الجدل حول طريقة تعامل منصات التواصل الاجتماعي مع بيانات المستخدمين، لتضيف حكمًا جديدًا إلى النقاش القانوني بشأن مسؤولية شركات التكنولوجيا تجاه المعلومات الشخصية التي تجمعها من مستخدميها.

Continue Reading

أخبار تقنية

رواية بالذكاء الاصطناعي تثير الجدل في فرنسا بعد استبعادها من جائزة غونكور

Avatar of هدير ابراهيم

Published

on

رواية بالذكاء الاصطناعي تثير الجدل في فرنسا بعد استبعادها من جائزة غونكور

أثارت رواية بالذكاء الاصطناعي جدلًا واسعًا في الأوساط الأدبية الفرنسية، بعدما قررت أكاديمية غونكور استبعاد رواية الكاتب الهايتي-الكندي ثيلسون أوريليان من قائمتها الطويلة، عقب اتهامات باستخدام الذكاء الاصطناعي في كتابة العمل. وينفي المؤلف هذه الاتهامات بشكل قاطع.

وتحمل الرواية اسم “C’etait Ca ou Mourir”، أو “كان الخيار إما ذلك أو الموت”، وتحكي قصة رجل يهرب من عنف العصابات في هايتي، قبل أن يخوض رحلة طويلة تنتهي بوصوله إلى كندا. وحققت الرواية نجاحًا لافتًا، إذ فازت بعدة جوائز وكانت تستعد للترجمة إلى لغات أخرى.

رواية بالذكاء الاصطناعي تشعل أزمة داخل جائزة غونكور

جاء استبعاد رواية بالذكاء الاصطناعي من قائمة غونكور بعد اتهامات نشرها حساب غير معروف على منصة إكس يحمل اسم “Balance ton Claude”، حيث زعم أن أوريليان استعان بالذكاء الاصطناعي في كتابة أجزاء كبيرة من الرواية.

واعتمد الحساب في اتهاماته على تحليل مقاطع من الرواية باستخدام أداة “Pangram”، وهي أداة متخصصة في اكتشاف النصوص التي يُعتقد أنها مولدة بالذكاء الاصطناعي، وتستخدمها منصة Substack حاليًا لفحص المنشورات.

وصنفت الأداة الرواية على أنها مكتوبة آليًا بنسبة مرتفعة للغاية، لكن نتيجة الأداة لم تحسم وحدها مسألة كيفية كتابة العمل أو حجم استخدام الذكاء الاصطناعي فيه.

اتهامات جديدة بالانتحال الأدبي

لم تتوقف القضية عند اتهام رواية بالذكاء الاصطناعي، إذ ظهرت لاحقًا تقارير تتهم أوريليان بسرقة مقاطع من قصة قصيرة كتبها عام 2012، ونسبت هذه التقارير المقاطع إلى الكاتب الفرنسي لويس باويل.

وفي وقت لاحق، أقر كاتب المقالات صامويل فيتوسي بأنه كان ضمن المجموعة التي تقف وراء حساب “Balance ton Claude”، ما أضاف تطورًا جديدًا إلى الجدل الدائر حول الرواية والمؤلف.

رواية بالذكاء الاصطناعي تثير الجدل في فرنسا بعد استبعادها من جائزة غونكور

رواية بالذكاء الاصطناعي تثير الجدل في فرنسا بعد استبعادها من جائزة غونكور

لماذا استبعدت أكاديمية غونكور الرواية؟

قالت أكاديمية غونكور إن قرارها جاء بهدف الحفاظ على نزاهة الجائزة، مشيرة إلى رفضها النصوص التي أُنشئت بمساعدة الذكاء الاصطناعي.

واستند القرار، بحسب ما ورد في التقارير، إلى الادعاءات المتعلقة باستخدام الذكاء الاصطناعي إلى جانب مزاعم الانتحال الأدبي المرتبطة بالعمل.

لكن أوريليان رفض الاتهامات، وأكد أنه قادر على إعادة كتابة الرواية نفسها باستخدام القلم، في موقف يعكس تمسكه بنفي الاعتماد على الذكاء الاصطناعي في تأليف العمل.

هل يمكن الوثوق بأدوات كشف الذكاء الاصطناعي؟

أعادت هذه القضية النقاش حول مدى دقة أدوات اكتشاف النصوص المولدة بالذكاء الاصطناعي، خصوصًا عندما تستخدم نتائجها في اتخاذ قرارات قد تؤثر بشكل مباشر على مستقبل المؤلفين ومسيرتهم الأدبية.

وتحذر نقابة المؤلفين الأميركية من أن بعض أدوات الكشف عن الذكاء الاصطناعي تعاني من معدلات مرتفعة من عدم الدقة، ولذلك لا ينبغي الاعتماد على نتائجها باعتبارها الدليل الوحيد لسحب كتاب أو اتخاذ إجراء ضد مؤلف.

وتتجاوز تداعيات قضية رواية بالذكاء الاصطناعي حدود العمل الأدبي نفسه، إذ فتحت نقاشًا أوسع في فرنسا حول الأصالة والقيمة الأدبية والعلاقة بين الإبداع البشري والتكنولوجيا.

كما تثير القضية سؤالًا مهمًا حول الطريقة التي ينبغي أن تتعامل بها الجوائز الأدبية مع أدوات الذكاء الاصطناعي، خاصة في ظل صعوبة إثبات مصدر النص اعتمادًا على أدوات الكشف وحدها.

Continue Reading

Trending