Connect with us

الذكاء الاصطناعي

هل يغيّر الذكاء الاصطناعي قواعد الأمن السيبراني

Avatar of هدير ابراهيم

Published

on

هل يغيّر الذكاء الاصطناعي قواعد الأمن السيبراني

أعاد التقدم المتسارع في تقنيات الذكاء الاصطناعي فتح النقاش حول مستقبل العديد من المهن التقنية، وعلى رأسها الأمن السيبراني. وفي هذا السياق، كشفت دراسة حديثة أجراها باحثون من جامعة ستانفورد أن وكيلًا أمنيًا مدعومًا بالذكاء الاصطناعي قد لا يكتفي بمجاراة خبراء الاختراق البشريين، بل يمكنه التفوق عليهم في بعض السيناريوهات.

هل يغيّر الذكاء الاصطناعي قواعد الأمن السيبراني

اختبر الباحثون وكيل ذكاء اصطناعي أطلقوا عليه اسم ARTEMIS في مواجهة مباشرة مع 10 مختصين محترفين في الأمن السيبراني تم اختيارهم بعناية.
وخلال التجربة، حلّ ARTEMIS في المرتبة الثانية بين المشاركين، وتمكن من اكتشاف ثغرات أمنية لم يلاحظها بعض الخبراء البشر، خصوصًا أثناء تعامله المتوازي مع عدة مشكلات أمنية في الوقت نفسه.

هل يغيّر الذكاء الاصطناعي قواعد الأمن السيبراني

هل يغيّر الذكاء الاصطناعي قواعد الأمن السيبراني

أداء قوي بتكلفة أقل

بحسب تقرير نشره موقع Business Insider، أمضى ARTEMIS نحو 16 ساعة في فحص الشبكات العامة والخاصة لقسم علوم الحاسوب بجامعة ستانفورد، باحثًا في آلاف الأجهزة عن ثغرات أمنية محتملة.
وفي نهاية الاختبار، تفوق أداؤه على معظم المختبرين البشر، ليس فقط من حيث النتائج، بل أيضًا من حيث التكلفة.

فقد بلغت تكلفة تشغيل ARTEMIS نحو 18 دولارًا في الساعة، مقارنة بمتوسط تكلفة سنوية تصل إلى 125 ألف دولار لتوظيف مختبر اختراق محترف. وحتى أكثر وكلاء الذكاء الاصطناعي تقدمًا، والذين تبلغ تكلفة تشغيلهم نحو 59 دولارًا في الساعة، يظلون أقل تكلفة من خبير بشري عالي المستوى.

خلفية الدراسة وأهدافها

قاد الدراسة باحثو ستانفورد: Justin Lin و Eliot Jones و Donovan Jasper، الذين طوروا ARTEMIS بعد ملاحظتهم أن أدوات الذكاء الاصطناعي التقليدية تعاني صعوبة في إنجاز المهام الأمنية طويلة الأمد والمعقدة.

وخلال التجربة، مُنح الوكيل الذكي حق الوصول إلى شبكة تضم نحو 8000 جهاز، شملت خوادم، وحواسيب، وأجهزة ذكية. وطُلب من المختبرين البشر العمل لمدة لا تقل عن 10 ساعات، بينما عمل ARTEMIS لما يصل إلى 16 ساعة على مدار يومين. ولتحقيق العدالة، قارن الباحثون فقط أول 10 ساعات من عمل الذكاء الاصطناعي بأداء الخبراء البشر.

نتائج دقيقة… لكن غير مثالية

في تلك الفترة، اكتشف ARTEMIS 9 ثغرات أمنية حقيقية، وحقق معدل دقة بلغ 82% في التقارير الصحيحة، متفوقًا على 9 من أصل 10 مشاركين بشر.
ومع ذلك، لم يكن أداؤه كاملًا؛ إذ أظهرت تقارير وول ستريت جورنال أن نحو 18% من إنذاراته كانت إنذارات كاذبة، كما أخفق في اكتشاف ثغرة واضحة في إحدى صفحات الويب، نجح معظم الخبراء البشر في رصدها سريعًا.

الوجه الآخر للذكاء الاصطناعي في الأمن السيبراني

في المقابل، تثير هذه التطورات مخاوف متزايدة؛ إذ أسهم الذكاء الاصطناعي في خفض الحواجز التقنية أمام الاختراقات الإلكترونية ونشر المعلومات المضللة، ما مكّن مجرمين ذوي مهارات محدودة من تنفيذ هجمات واسعة النطاق.

وقد كشف تقرير لشركة Anthropic أن جهات من كوريا الشمالية استخدمت نموذج الذكاء الاصطناعي Claude للحصول على وظائف عمل عن بُعد وهمية في شركات تقنية أميركية، مما أتاح لها الوصول إلى أنظمة داخلية حساسة. كما أشار التقرير إلى استخدام مجموعات من الصين للنموذج نفسه في دعم هجمات سيبرانية استهدفت قطاعات الاتصالات والزراعة وجهات حكومية في فيتنام.

استجابة الشركات ودعوات للتشديد الرقابي

ردًا على هذه المخاطر، بدأت شركات الذكاء الاصطناعي الكبرى بتعزيز إجراءات الحماية.
فقد طورت مايكروسوفت أدوات لرصد التعليمات المشبوهة، بينما تحذّر OpenAI المستخدمين عند محاولة وكلاء الذكاء الاصطناعي الوصول إلى مواقع أو بيانات حساسة، وتمنع الاستمرار إلا بإشراف مباشر.

وفي هذا الإطار، يدعو عدد من خبراء الأمن السيبراني إلى فرض ضوابط أكثر صرامة، مثل اشتراط موافقة بشرية مسبقة قبل تنفيذ عمليات عالية الخطورة، كاستخراج البيانات أو الوصول إلى الحسابات المصرفية، لضمان بقاء الذكاء الاصطناعي أداة دعم لا بديلًا كاملًا عن الخبرة البشرية.

أخبار تقنية

مسجل Soulog Sense بالذكاء الاصطناعي ينظم المحادثات ويحولها إلى أفكار عملية

Avatar of هدير ابراهيم

Published

on

مسجل Soulog Sense بالذكاء الاصطناعي ينظم المحادثات ويحولها إلى أفكار عملية

أطلقت شركة Soulog جهاز مسجل Soulog Sense بالذكاء الاصطناعي، وهو جهاز صغير يسجل المحادثات وينظم المعلومات المرتبطة بها، ويساعد المستخدمين على تحويل الأفكار والمناقشات إلى تقارير ومقترحات وملخصات قابلة للاستخدام.

ويعمل الجهاز بالتكامل مع تطبيق Soulog، الذي يجمع التسجيلات والملفات والملاحظات في سياق منظم يمكن الرجوع إليه وتطويره لاحقًا. وأصبح Sense متاحًا عبر المتجر الرسمي للشركة ومنصة أمازون.

مسجل Soulog Sense بالذكاء الاصطناعي يحول التسجيلات إلى معلومات منظمة

تعتمد فكرة الجهاز على ثلاث مراحل تسميها الشركة «التسجيل والربط والإنشاء»، بهدف تجاوز حفظ المحادثات إلى الاستفادة من محتواها في إنجاز المهام.

تسجيل المحادثات وإضافة الملاحظات

يتيح Sense بدء التسجيل باستخدام مفتاح مادي، كما يسمح للمستخدم بتحديد اللحظات المهمة أثناء المحادثة. ويمكنه أيضًا إضافة الصور والملاحظات والملفات عبر التطبيق.

وتوفر ميزة Rewind إمكانية حفظ ما يصل إلى 30 دقيقة من الصوت السابق، بشرط تشغيل الجهاز وتفعيل الميزة مسبقًا، مع تحديد ساعات العمل النشطة.

ربط التسجيلات بالسياق

يسمح تطبيق Soulog بمراجعة النصوص المستخرجة من التسجيلات والملخصات وقوائم المهام. كما توفر ميزتا Map وTimeline أدوات لتنظيم المعلومات زمنيًا وربط العناصر ذات الصلة.

وتجمع ميزة Space المحادثات والملفات المرتبطة بها في مساحة واحدة، ما يسهل الوصول إلى المعلومات دون البحث بين مصادر متعددة.

وتوفر الشركة تفريغًا صوتيًا إلى نصوص مجانًا دون حدود للاستخدام، بينما تتطلب بعض ميزات الذكاء الاصطناعي اشتراكًا مدفوعًا.

مسجل Soulog Sense بالذكاء الاصطناعي ينظم المحادثات ويحولها إلى أفكار عملية

مسجل Soulog Sense بالذكاء الاصطناعي ينظم المحادثات ويحولها إلى أفكار عملية

إنشاء التقارير والمقترحات من المحادثات

يتيح الجهاز إنشاء مستندات قابلة للتحرير داخل التطبيق، تشمل التقارير والمقترحات والموجزات، وتطلق الشركة عليها اسم Artifacts.

كما يدعم التطبيق بروتوكول سياق النماذج (MCP)، الذي يسمح لأدوات الذكاء الاصطناعي المتوافقة بالوصول إلى المعلومات المحفوظة واستخدامها في مهام أخرى.

تصميم صغير وبطارية تدوم حتى 50 ساعة من التسجيل

يأتي Sense بأبعاد تبلغ نحو 4 × 2.5 × 0.12 بوصة، ووزن 1.6 أونصة، مع مساحة تخزين داخلية تبلغ 8 غيغابايت.

ويضم ميكروفونين من نوع MEMS ووحدة معالجة صوتية (VPU)، ويصل نطاق التقاط الصوت المعلن إلى 16 قدمًا، أي نحو 4.9 أمتار.

وتقول الشركة إن الجهاز يدعم التسجيل المتواصل لمدة تصل إلى 50 ساعة بشحنة كاملة، مع اختلاف المدة الفعلية حسب ظروف التشغيل والإعدادات. ويُشحن عبر منفذ USB-C، كما تشير الشركة إلى أن الشحن لمدة 10 دقائق يوفر نحو ثماني ساعات من الاستخدام المعتاد خلال يوم العمل.

حماية الخصوصية وتشفير التسجيلات

تقول Soulog إن الملفات الصوتية مشفرة على الجهاز وأثناء نقلها وتخزينها سحابيًا، وإن مزامنة المحتوى مع السحابة تتطلب تفعيل المستخدم لهذه الخاصية.

وتؤكد الشركة أنها لا تبيع محتوى المستخدمين ولا تستخدمه لتدريب نماذج الذكاء الاصطناعي.

من الفئات المستهدفة بالجهاز؟

تستهدف Soulog المهنيين، مثل المحامين والاستشاريين والصحفيين ومديري المنتجات، إلى جانب العاملين في المجالات الإبداعية والطلاب والباحثين.

وقد يساعد الجهاز هذه الفئات على تنظيم الاجتماعات والمحاضرات والملاحظات، ثم تحويلها إلى مستندات يمكن استخدامها في العمل أو الدراسة، بدلًا من الاكتفاء بحفظ التسجيلات الصوتية.

Continue Reading

أخبار تقنية

نموذج Dessa الصوتي من بلوك يحاكي المشاعر البشرية ويعمل دون إنترنت

Avatar of هدير ابراهيم

Published

on

نموذج Dessa الصوتي من بلوك يحاكي المشاعر البشرية ويعمل دون إنترنت 1

كشفت شركة بلوك، التي أسسها جاك دورسي، عن نموذج Dessa الصوتي، الذي يستطيع محاكاة الكلام البشري بتعبيراته العاطفية، بما يشمل الضحك والبكاء والتوقفات الطبيعية أثناء الحديث، مع إمكانية تشغيله محليًا على أجهزة الكمبيوتر دون الاعتماد على الخوادم السحابية.

وطوّر مختبر الأبحاث التابع للشركة النموذج باستخدام بيانات الكلام البشري، بالاعتماد على خادم واحد مزود بوحدات معالجة رسومية من إنفيديا. ولم يُتح النموذج للجمهور حتى الآن، بينما دعت الشركة الباحثين المتخصصين في السلامة إلى اختباره.

نموذج Dessa الصوتي يتحدث ويستمع في الوقت نفسه

يتميز نموذج Dessa الصوتي بتصميم ثنائي الاتجاه، يتيح له الاستماع إلى المستخدم والتحدث معه في الوقت نفسه، بدلًا من انتظار انتهاء كل مرحلة قبل بدء الأخرى.

وتقول بلوك إن النماذج الصوتية التقليدية قد تفقد بعض التفاصيل العاطفية عندما تعتمد على تحويل الكلام إلى نص قبل معالجته، لأن الكلمات المكتوبة لا تنقل جميع المعلومات الموجودة في نبرة الصوت والإيقاع وطريقة الحديث.

ضحك وبكاء ونبرات تتغير حسب الموقف

عرض باحثو الشركة تسجيلات توضح قدرة النموذج على تغيير نبرة صوته وفقًا لسياق المحادثة. ففي أحد الأمثلة، تحدث بصوت يبدو مرهقًا أثناء وصف التعب بعد العمل، بينما استخدم في مثال آخر نبرة عاطفية توحي بالتأثر الشديد.

كما عرضت الشركة تجربة تفاعلية استخدم فيها أحد أفراد فريقها المساعد الصوتي أثناء اللعب، لإظهار قدرته على الاستجابة ضمن أنشطة مختلفة.

وتقول بلوك إن التعبيرات العاطفية مدمجة في النموذج نفسه، لكن التفاصيل المتعلقة بإمكانية التحكم فيها باستخدام أوامر محددة لا تزال غير واضحة.

نموذج Dessa الصوتي من بلوك يحاكي المشاعر البشرية ويعمل دون إنترنت

نموذج Dessa الصوتي من بلوك يحاكي المشاعر البشرية ويعمل دون إنترنت

نموذج صوتي يعمل محليًا على أجهزة ماك

تؤكد بلوك أن النموذج يستطيع العمل مباشرة على أجهزة كمبيوتر مخصصة للمستهلكين، بما في ذلك أجهزة MacBook المزودة بمعالج M4 Max أو معالجات أحدث وأقوى.

وقد يقلل التشغيل المحلي الاعتماد على الخوادم السحابية، إلى جانب إتاحة معالجة التفاعلات الصوتية على جهاز المستخدم نفسه.

لكن واقعية الصوت تثير أيضًا مخاوف تتعلق بإمكانية استخدام هذه الأنظمة لتضليل الأشخاص، خصوصًا إذا أصبح من الصعب التمييز بين الكلام البشري الحقيقي والصوت المولد بالذكاء الاصطناعي.

كيف تستفيد بلوك من التقنية؟

تعمل بلوك في قطاع الخدمات المالية، وتقدم حلولًا للشركات الصغيرة، كما تستخدم منصة Square التابعة لها تقنيات الذكاء الاصطناعي في التعامل مع طلبات العملاء.

وقد يساعد تطوير نموذج صوتي خاص بالشركة على توسيع استخدام المساعدات الصوتية في خدمات الشركات والمستهلكين، مع تقليل الاعتماد على البنية التحتية السحابية.

ومع ذلك، ستظل إتاحة Dessa على نطاق واسع مرتبطة بنتائج اختبارات السلامة وقدرة الشركة على الحد من مخاطر انتحال الأصوات والتفاعل المضلل.

Continue Reading

أخبار تقنية

مونشوت تحد من قدرات الاختراق في نموذج كيمي للذكاء الاصطناعي دون إضعاف البرمجة

Avatar of هدير ابراهيم

Published

on

مونشوت تحد من قدرات الاختراق في نموذج كيمي للذكاء الاصطناعي دون إضعاف البرمجة

تعمل شركة مونشوت الصينية على تقليص قدرات الاختراق الإلكتروني في نموذج كيمي للذكاء الاصطناعي، مع الحفاظ على مهاراته في كتابة الأكواد البرمجية، في محاولة للحد من مخاطر الاستخدام الهجومي للنماذج المتقدمة قبل إتاحتها للمطورين.

وأعلنت الشركة في 24 أكتوبر عن نموذج Kimi K3.1 Pro مفتوح الأوزان، الذي يضم نحو 3 تريليونات معلمة، مع التخطيط لإتاحة أوزانه للمطورين في 4 نوفمبر.

نموذج كيمي للذكاء الاصطناعي يقلص قدرات الاختراق

قالت مونشوت إنها أزالت بيانات مرتبطة بالأمن السيبراني من مجموعات التدريب وبيئات التعلم المعزز، بهدف الحد من قدرة النموذج على تنفيذ العمليات الهجومية، دون التأثير بصورة كبيرة على قدراته العامة في البرمجة.

وتتيح النماذج مفتوحة الأوزان للمطورين تنزيل ملفات النموذج وتشغيلها على أنظمتهم الخاصة وتعديل طريقة عملها، لكنها تجعل التحكم في الاستخدامات اللاحقة أكثر صعوبة بالنسبة إلى الشركة المطورة.

اختبارات تكشف تراجع قدرات الاختراق

بحسب الاختبارات الداخلية التي أعلنتها الشركة، سجل نموذج Kimi K3.1 Pro نتيجة بلغت 81% في اختبار للأمن السيبراني يقيس قدرته على اكتشاف الثغرات البرمجية واستغلالها داخل بيئة خاضعة للرقابة.

وفي المقابل، حققت نسخة مماثلة لم تخضع لإجراءات الحد من المخاطر نتيجة بلغت 90.5%، بفارق 9.5 نقاط مئوية.

لكن هذه النتائج لم تخضع للتحقق المستقل، لذلك لا تكفي وحدها لتحديد مدى فعالية إجراءات الحماية في الاستخدامات الواقعية.

مونشوت تحد من قدرات الاختراق في نموذج كيمي للذكاء الاصطناعي دون إضعاف البرمجة

مونشوت تحد من قدرات الاختراق في نموذج كيمي للذكاء الاصطناعي دون إضعاف البرمجة

البرمجة سلاح ذو حدين

يمكن للذكاء الاصطناعي مساعدة فرق الأمن السيبراني على اكتشاف الثغرات وإصلاحها، لكنه قد يساعد أيضًا على أتمتة بعض مراحل الهجمات الإلكترونية، خصوصًا عند استخدام نماذج تستطيع كتابة الأكواد وتنفيذ مهام متعددة الخطوات.

وترى مونشوت أن النماذج مفتوحة الأوزان قد تساعد المؤسسات على فحص البرمجيات القديمة وتأمينها، لكن إتاحتها للاستخدام المستقل تحد من قدرة المطور على مراقبة جميع التطبيقات المحتملة.

مخاوف عالمية من الهجمات المدعومة بالذكاء الاصطناعي

تأتي هذه الخطوة وسط نقاش دولي حول مخاطر استخدام النماذج المتقدمة في تطوير البرمجيات الخبيثة واكتشاف الثغرات واستغلالها.

وتشير التقارير إلى أن الصين تدرس مقترحات لفرض ضوابط على تصدير بعض تقنيات الذكاء الاصطناعي المرتبطة بهذه الاستخدامات، بينما تواجه الجهات التنظيمية تحديًا في الموازنة بين الحد من الهجمات والحفاظ على أدوات البحث الأمني والدفاع الرقمي.

قدرات متقدمة ونافذة سياق واسعة

يتميز Kimi K3.1 Pro بنافذة سياق تبلغ مليون رمز، ما يسمح له بمعالجة كميات كبيرة من المعلومات في المرة الواحدة. كما طرحت مونشوت إصدار Highspeed، الذي تقول إنه يعمل بسرعة تعادل ضعفين إلى ثلاثة أضعاف سرعة الإصدار القياسي.

ومن المتوقع أن تتيح الشركة أوزان النموذج في 4 نوفمبر، ما يمنح المطورين والباحثين فرصة أوسع لتقييم قدراته، بما في ذلك مدى استمرار فعالية إجراءات الحماية بعد تشغيله خارج بيئة الشركة.

Continue Reading

Trending