Connect with us

أخبار تقنية

نموذج Kimi K3 للذكاء الاصطناعي يتجاوز بيئة الاختبار ويثير مخاوف أمنية

Avatar of هدير ابراهيم

Published

on

نموذج Kimi K3 للذكاء الاصطناعي يتجاوز بيئة الاختبار ويثير مخاوف أمنية 1

أثار نموذج Kimi K3 للذكاء الاصطناعي التابع لشركة مونشوت الصينية الناشئة مخاوف جديدة بشأن سلامة أنظمة الذكاء الاصطناعي المتقدمة، بعدما تمكن من تجاوز بيئة اختبار معزولة مخصصة لتقييم قدراته في مجال الأمن السيبراني.

وكشفت شركة “فرونتير سيكيوريتي” المتخصصة في أبحاث أمن الذكاء الاصطناعي، أن النموذج استطاع الخروج من البيئة المحددة له والوصول إلى معلومات خارج نطاق الاختبار، في واقعة قد تعكس قدرات متقدمة على التعامل مع القيود المفروضة على النماذج الحديثة.

كيف تمكن Kimi K3 من تجاوز بيئة الاختبار؟

تستخدم المؤسسات البحثية بيئات معزولة عند اختبار نماذج الذكاء الاصطناعي، بهدف منعها من الوصول إلى مصادر أو بيانات خارجية. وتسمح هذه الطريقة للباحثين بقياس مدى قدرة النموذج على تنفيذ المهام وحل المشكلات ضمن حدود واضحة وآمنة.

لكن الباحثين في “فرونتير سيكيوريتي” أشاروا إلى أن Kimi K3 للذكاء الاصطناعي تمكن من تجاوز إحدى هذه العوائق، ما أتاح له الوصول إلى معلومات خارج البيئة التي كان يفترض أن يعمل داخلها.

وتثير هذه الواقعة تساؤلات حول مدى قدرة أنظمة الذكاء الاصطناعي الحديثة على الالتزام بالقيود الأمنية عندما تتمتع بقدرات متقدمة في الاستدلال واتخاذ القرارات.

مخاوف من تكرار التجربة مع نماذج أخرى

يرى الباحثون أن الخطر لا يرتبط بالنموذج وحده، إذ إن اكتشاف نموذج يتمتع بقدرات استدلال قوية لطريقة لتجاوز بيئة الاختبار قد يعني إمكانية تكرار الأمر مع أنظمة أخرى تمتلك صلاحيات أو إمكانات مشابهة.

وتزداد أهمية هذه المخاوف مع التطور السريع في تقنيات الذكاء الاصطناعي، خصوصًا النماذج القادرة على التخطيط وتنفيذ سلسلة من الخطوات للوصول إلى هدف محدد دون تدخل بشري مستمر.

نموذج Kimi K3 للذكاء الاصطناعي يتجاوز بيئة الاختبار ويثير مخاوف أمنية

نموذج Kimi K3 للذكاء الاصطناعي يتجاوز بيئة الاختبار ويثير مخاوف أمنية

إتاحة النموذج للجمهور تزيد من خطورة الواقعة

تتمثل إحدى أبرز نقاط القلق في أن Kimi K3 متاح للاستخدام العام، وهو ما يعني أن قدراته لا تقتصر على المختبرات أو المؤسسات التي تطوره.

وحذر متخصصون في الأمن السيبراني من إمكانية استغلال هذه القدرات من جانب جهات تسعى إلى استخدام النماذج المتقدمة لأغراض ضارة. وقد يؤدي توفر نموذج قادر على تجاوز بعض القيود الأمنية إلى زيادة المخاطر إذا لم يتم وضع ضوابط كافية حول طريقة استخدامه.

كما أن سهولة الوصول إلى النماذج المفتوحة أو المتاحة للجمهور تجعل مسؤولية اختبارها وتأمينها أكثر تعقيدًا، خاصة مع استمرار تطور قدراتها بوتيرة سريعة.

سلسلة من الحوادث تضع سلامة الذكاء الاصطناعي تحت المجهر

لا تأتي واقعة Kimi K3 للذكاء الاصطناعي بمعزل عن تطورات أخرى في القطاع، إذ شهدت الفترة الأخيرة تقارير عن حوادث مرتبطة بقدرة بعض النماذج المتقدمة على التعامل مع القيود أو تنفيذ سلوكيات لم تكن متوقعة أثناء الاختبارات.

وأثارت مثل هذه الوقائع اهتمام المشرعين والجهات المعنية بتنظيم الذكاء الاصطناعي، بالتزامن مع زيادة الضغوط على شركات التكنولوجيا لتطوير وسائل حماية أكثر قوة قبل توسيع نطاق استخدام النماذج المتقدمة.

ويرى عدد من المتخصصين أن تحسين قدرات الذكاء الاصطناعي يجب أن يسير بالتوازي مع تطوير أنظمة اختبار وحماية قادرة على مواكبة هذه القدرات، خصوصًا مع انتقال النماذج من تنفيذ الأوامر البسيطة إلى التخطيط والاستدلال وحل المشكلات المعقدة.

أخبار الاختراقات

احتيال بالذكاء الاصطناعي يسرق 95 مليون يورو من أكبر بنك في إيطاليا

Avatar of هدير ابراهيم

Published

on

احتيال بالذكاء الاصطناعي يسرق 95 مليون يورو من أكبر بنك في إيطاليا

أدى احتيال بالذكاء الاصطناعي إلى سرقة نحو 95 مليون يورو، أي ما يعادل 108 ملايين دولار، من بنك «فيدورام»، ذراع الخدمات المصرفية الخاصة التابعة لمجموعة «إنتيزا سان باولو»، أكبر مؤسسة مصرفية في إيطاليا، بعدما استخدم المحتالون تقنيات متقدمة لانتحال أصوات وشخصيات مسؤولين بارزين، وفقًا لما نقلته «رويترز» عن مصدرين مطلعين على الواقعة.

احتيال بالذكاء الاصطناعي بدأ برسالة على واتساب

بدأت عملية الاحتيال في فبراير، عندما تلقى باولو موليسيني، الذي كان يشغل منصب رئيس مجلس إدارة «فيدورام» في ذلك الوقت، رسالة عبر تطبيق «واتساب» بدت وكأنها واردة من كارلو ميسينا، الرئيس التنفيذي لمجموعة «إنتيزا سان باولو».

طلبت الرسالة من موليسيني تقديم مساعدة عاجلة لتنفيذ معاملة مالية خارج إيطاليا. وبعد الرسالة، تلقى اتصالًا هاتفيًا من شخص بدا أنه شريك بارز في مكتب محاماة معروف، بهدف تأكيد التعليمات المالية.

وبحسب المصدرين، استخدم المحتالون تقنيات الذكاء الاصطناعي لمحاكاة صوت المحامي، الأمر الذي جعل الاتصال يبدو حقيقيًا وساعد في إقناع المسؤول بصحة الطلب.

تحويلات مالية إلى حسابات خارجية

بعد اعتقاده أن التعليمات حقيقية، وجّه موليسيني قسم الشؤون المالية في «فيدورام» لتنفيذ مجموعة من التحويلات المالية إلى حسابات خارجية. وتركزت التحويلات بشكل أساسي في الصين وهونغ كونغ، قبل أن تبدأ المؤسسة في اكتشاف وجود مخالفات مرتبطة بالعمليات.

وعقب اكتشاف المشكلة، أبلغت «فيدورام» عددًا من البنوك والسلطات في دول مختلفة، وبدأت جهود تتبع الأموال واستعادتها.

وأسهم التعاون بين السلطات في الصين والبرتغال وإيطاليا في استرداد نحو 53 مليون يورو من إجمالي المبلغ المسروق، بينما لا يزال ما يقرب من 36 مليون يورو مفقودًا حتى الآن.

احتيال بالذكاء الاصطناعي يسرق 95 مليون يورو من أكبر بنك في إيطاليا

احتيال بالذكاء الاصطناعي يسرق 95 مليون يورو من أكبر بنك في إيطاليا

الأموال المفقودة تحولت إلى عملات مشفرة

واجهت جهات التحقيق صعوبة في تتبع الجزء المتبقي من الأموال بعدما انتقلت عبر شبكة من الحسابات الخارجية، ثم جرى تحويلها إلى عملات مشفرة.

وأوضحت المصادر أن عمليات التحويل المتعددة جعلت تتبع مسار الأموال أكثر تعقيدًا، بينما تواصل السلطات جهودها للكشف عن الجهات التي تقف وراء العملية واستعادة الأموال التي لم تُسترد.

ولا يخضع موليسيني أو أي من المسؤولين التنفيذيين الآخرين في «فيدورام» للتحقيق على خلفية الواقعة، بحسب المصدرين.

وفي المقابل، وضع ممثلو الادعاء في مدينة ميلانو مواطنًا أجنبيًا يقيم خارج أوروبا قيد التحقيق للاشتباه في مشاركته في عملية احتيال إلكتروني، وفقًا لأحد المصدرين.

استقالة رئيس مجلس إدارة فيدورام

استقال باولو موليسيني من منصبه كرئيس لمجلس إدارة «فيدورام» في مارس، بعد نحو شهر من بدء عملية الاحتيال، وقال حينها إن الاستقالة جاءت لأسباب شخصية.

ولم تقدم «فيدورام» في ذلك الوقت تفاصيل إضافية حول أسباب مغادرته منصبه.

الذكاء الاصطناعي يدخل في عمليات الاحتيال المالي

لا تمثل هذه الواقعة المرة الأولى التي يستخدم فيها المحتالون الذكاء الاصطناعي لانتحال أصوات شخصيات بارزة في إيطاليا.

ففي العام الماضي، تمكن محتالون من استخدام تقنية لمحاكاة صوت وزير إيطالي وإقناع رجل الأعمال ماسيمو موراتي بتحويل ما يقرب من مليون يورو إلى حساب مصرفي خارج البلاد.

واستطاعت السلطات استرداد الأموال في تلك الواقعة لاحقًا، لكنها سلطت الضوء على تطور أساليب الاحتيال التي تعتمد على تقنيات الذكاء الاصطناعي لإنشاء أصوات ومحادثات يصعب على الضحية تمييزها عن الاتصالات الحقيقية.

Continue Reading

أخبار السوشيال ميديا

تسوية تيك توك مع ألاباما تصل إلى 100 مليون دولار بسبب اتهامات بإدمان الشباب

Avatar of هدير ابراهيم

Published

on

تسوية تيك توك مع ألاباما تصل إلى 100 مليون دولار بسبب اتهامات بإدمان الشباب

توصلت تسوية تيك توك مع ولاية ألاباما الأميركية إلى اتفاق بقيمة لا تقل عن 100 مليون دولار، وذلك قبل أيام من بدء محاكمة كانت تتعلق باتهامات بأن منصة التواصل الاجتماعي صممت بعض خصائصها بطريقة تشجع على الاستخدام المفرط بين الأطفال والمراهقين، إلى جانب مزاعم بتضليل المستخدمين بشأن مستوى أمان التطبيق.

وبموجب الاتفاق، تدفع شركة تيك توك وشركتها الأم الصينية بايت دانس للولاية 100 مليون دولار على الأقل خلال 45 يومًا، بينما يمكن أن يرتفع إجمالي المبلغ إلى 300 مليون دولار إذا تحققت شروط معينة، وفقًا لما أعلنه مكتب المدعي العام في ألاباما.

تسوية تيك توك تتضمن تغييرات على طريقة استخدام المنصة

لا تقتصر تسوية تيك توك على دفع مبلغ مالي، إذ وافقت المنصة أيضًا على إدخال مجموعة من التغييرات على بعض خصائصها.

وتشمل الإجراءات المتفق عليها وضع حد يومي لاستخدام التطبيق يبلغ ساعتين، مع فرض فترات توقف بعد كل 15 دقيقة من الاستخدام، إلى جانب تطوير آليات التحقق من أعمار المستخدمين.

وكانت المحاكمة مقررة يوم الاثنين أمام محكمة الولاية في مدينة مونتغومري، وكان من المتوقع أن تستمر لمدة تتراوح بين أسبوعين وثلاثة أسابيع، قبل أن يؤدي الاتفاق إلى إنهاء القضية قبل بدء جلساتها.

أول اتفاق مع ولاية أميركية في هذا النوع من القضايا

تمثل تسوية تيك توك مع ألاباما أول اتفاق من هذا النوع تبرمه الشركة مع ولاية أميركية، في وقت تواجه فيه المنصة دعاوى مشابهة من ولايات أخرى.

وكان المدعي العام الجمهوري لألاباما، ستيف مارشال، قد رفع الدعوى العام الماضي. وبالتوازي مع ذلك، رفعت 27 ولاية أميركية على الأقل، إلى جانب العاصمة واشنطن، دعاوى تتعلق بمخاوف مشابهة بشأن تأثير المنصة على المستخدمين الشباب.

وكانت المحاكمة المرتقبة ستتيح فرصة نادرة للاطلاع على بعض تفاصيل عمل تيك توك الداخلية، خصوصًا أن الشركة سبق أن توصلت إلى تسويات في قضايا أخرى كانت مرشحة للوصول إلى المحاكم، كما سعت إلى إبقاء بعض تفاصيل عملياتها بعيدة عن الجمهور.

تسوية تيك توك مع ألاباما تصل إلى 100 مليون دولار بسبب اتهامات بإدمان الشباب

تسوية تيك توك مع ألاباما تصل إلى 100 مليون دولار بسبب اتهامات بإدمان الشباب

تيك توك يدافع عن تصميم منصته

قالت شركة تيك توك إنها صممت منصتها مع وضع سلامة المراهقين ضمن أولوياتها الأساسية، ورفضت الاتهامات التي وجهتها إليها الولاية.

كما استندت الشركة إلى المادة 230 من قانون آداب الاتصالات الفيدرالي، التي توفر في ظروف معينة حماية للمنصات الإلكترونية من المسؤولية القانونية عن المحتوى الذي ينشئه المستخدمون.

وفي المقابل، قدمت ألاباما مجموعة من الادعاءات حول طريقة عمل المنصة وتأثيرها على المستخدمين الأصغر سنًا.

اتهامات بشأن الإدمان والمحتوى الضار

زعم مسؤولو ألاباما أن التدفق المستمر لمقاطع الفيديو على تيك توك يجعله من أكثر منصات التواصل الاجتماعي تسببًا في الاستخدام الإدماني، وفقًا للدعوى.

كما اتهمت الولاية خوارزميات المنصة بدفع بعض المستخدمين الشباب نحو محتوى أكثر حدة يتعلق بالعنف وإيذاء النفس، وربطت هذه الممارسات بما وصفته بأزمة في الصحة النفسية لدى المراهقين وزيادة كبيرة في زيارات غرف الطوارئ المرتبطة بإيذاء النفس داخل الولاية.

وتبقى هذه النقاط ضمن الادعاءات التي طرحتها ولاية ألاباما في الدعوى، بينما لم تصل القضية إلى المحاكمة التي كان من المقرر أن تبحث الأدلة والحجج المقدمة من الطرفين.

اتهامات بشأن تصنيف التطبيق وبيانات المستخدمين

كما اتهمت الدعوى تيك توك بتقديم معلومات غير صحيحة حول قدرته على الحد من وصول المستخدمين الشباب إلى المحتوى الجنسي والعنيف، بهدف مساعدة التطبيق على الحصول على تصنيف أكثر أمانًا للمراهقين داخل متاجر التطبيقات التابعة لغوغل وأبل ومايكروسوفت.

وتضمنت القضية أيضًا اتهامًا لتيك توك بتضليل المستخدمين بشأن مدى إمكانية وصول الحكومة الصينية إلى بيانات المستخدمين الأميركيين.

وتأتي تسوية تيك توك في ألاباما وسط نقاش قانوني أوسع في الولايات المتحدة حول مسؤولية منصات التواصل الاجتماعي عن تصميم منتجاتها وتأثيرها على الأطفال والمراهقين، إلى جانب قضايا الخصوصية وسلامة البيانات.

Continue Reading

أخبار السوشيال ميديا

ميتا وفيسبوك أمام غرامات محتملة بعد إدانة الشركة بتضليل مستخدمي نيو مكسيكو

Avatar of هدير ابراهيم

Published

on

ميتا وفيسبوك أمام غرامات محتملة بعد إدانة الشركة بتضليل مستخدمي نيو مكسيكو 1

توصلت هيئة محلفين في ولاية نيو مكسيكو الأميركية إلى أن شركة ميتا وفيسبوك ضللا سكان الولاية بشأن ممارسات تتعلق ببيانات المستخدمين، في قضية ارتبطت باتهامات حول مشاركة معلومات ملايين مستخدمي المنصة مع أطراف خارجية. وجاء القرار بعد محاكمة استمرت أسبوعين في سانتا في.

وترجع القضية إلى دعوى قضائية رفعها المدعي العام لنيو مكسيكو عام 2021، بعد تقارير كشفت أن شركة كامبريدج أناليتيكا حصلت على بيانات شخصية لما يصل إلى 87 مليون مستخدم لفيسبوك من خلال تطبيق تابع لجهة خارجية.

ميتا وفيسبوك يواجهان نتائج قضية بيانات المستخدمين

خلص المحلفون إلى أن ميتا وفيسبوك قدما تصريحات مضللة في عدد من المسائل المتعلقة بسياسات الشركة وطريقة تعاملها مع بيانات المستخدمين.

وحددت الولاية 29 تصريحًا قالت إن الشركة ضللت المستهلكين بشأنها، وخلصت هيئة المحلفين إلى أن 26 منها كانت مضللة. وشملت هذه التصريحات مسائل تتعلق ببيانات المستخدمين، إضافة إلى سياسات خطاب الكراهية والمعلومات المضللة.

في المقابل، رفض المحلفون اتهامات أخرى وجهتها الولاية إلى الشركة، من بينها الادعاء بأن ميتا ضللت المستهلكين بشأن جهودها لإزالة المحتوى الضار وممارسات التحقق من الحقائق.

ماذا قالت ميتا بعد الحكم؟

رفضت ميتا الحكم، وقال متحدث باسم الشركة إنها ستواصل الدفاع عن نفسها ضد ما وصفه بمحاولات تشويه سجلها.

وأكدت الشركة أن منصاتها تمثل منتديات لحرية التعبير، مشيرة إلى حقوقها بموجب التعديل الأول للدستور الأميركي في إدارة هذه المنصات بالطريقة التي تراها مناسبة لمجتمع مستخدميها.

وأضافت ميتا أن أولوياتها تشمل حماية حرية التعبير، والحفاظ على معلومات المستخدمين، ومنحهم قدرًا من السيطرة على بياناتهم.

ميتا وفيسبوك أمام غرامات محتملة بعد إدانة الشركة بتضليل مستخدمي نيو مكسيكو

ميتا وفيسبوك أمام غرامات محتملة بعد إدانة الشركة بتضليل مستخدمي نيو مكسيكو

نيو مكسيكو تتهم الشركة بتضليل المستخدمين

قال المدعي العام لنيو مكسيكو، راؤول توريز، إن القضية أظهرت الطريقة التي تعاملت بها الشركة مع القواعد المتعلقة بحماية المستهلكين.

واتهمت الولاية ميتا بتقديم معلومات مضللة بشأن الطريقة التي يمكن من خلالها مشاركة بيانات المستخدمين مع أطراف ثالثة، إلى جانب اتهامات مرتبطة بسياسات خطاب الكراهية والمعلومات المضللة.

كما قالت نيو مكسيكو إن فيسبوك لم يكشف بصورة كافية عن ممارسات مرتبطة ببيع بيانات المستخدمين لأطراف خارجية، واتهمت المنصة بالسماح بانتشار محتوى ضار عندما كان ذلك يخدم مصالح الشركة المالية.

أكثر من 43 مليون مخالفة

تواجه ميتا وفيسبوك الآن مرحلة جديدة من القضية، بعدما خلصت هيئة المحلفين إلى وقوع أكثر من 43 مليون مخالفة، استنادًا إلى عدد الأشخاص الذين تأثروا بالتصريحات التي اعتبرتها مضللة.

وسيتولى القاضي فرانسيس ماثيو تحديد العقوبات المدنية المترتبة على الحكم. وبموجب قانون ولاية نيو مكسيكو، يستطيع القاضي فرض غرامة تصل إلى 5 آلاف دولار عن كل مخالفة.

وقال توريز إن مكتبه لا يزال يقيّم المبلغ الذي سيطلبه، لكنه أشار إلى أن الولاية ستسعى إلى تطبيق أقصى عقوبة ممكنة استنادًا إلى نتائج هيئة المحلفين.

مطالب إضافية بتغيير ممارسات الشركة

إلى جانب العقوبات المالية، تعتزم ولاية نيو مكسيكو مطالبة القاضي بفرض تغييرات على ممارسات ميتا.

وقال توريز إن الطلبات قد تشمل إلزام الشركة بتصحيح التصريحات السابقة التي اعتبرتها هيئة المحلفين مضللة، بالإضافة إلى إجراء مراجعة للطريقة التي تدير بها بيانات مستخدميها.

وتأتي هذه القضية بعد سنوات من الجدل حول طريقة تعامل منصات التواصل الاجتماعي مع بيانات المستخدمين، لتضيف حكمًا جديدًا إلى النقاش القانوني بشأن مسؤولية شركات التكنولوجيا تجاه المعلومات الشخصية التي تجمعها من مستخدميها.

Continue Reading

Trending