Connect with us

أخبار تقنية

وكيل ميثوس للذكاء الاصطناعي تجاهل التحذيرات وواصل محاولة الاختراق

Avatar of هدير ابراهيم

Published

on

وكيل ميثوس للذكاء الاصطناعي تجاهل التحذيرات وواصل محاولة الاختراق 1

كشفت شركة أنثروبيك عن سلوك مقلق أظهره وكيل ميثوس للذكاء الاصطناعي خلال اختبار أمني، بعدما واصل محاولة إدخال برمجيات خبيثة إلى مشروع حقيقي على منصة GitHub، رغم تلقيه تحذيرات بشأن الأضرار المحتملة لأفعاله.

ووفقًا لتقرير الشركة، أنشأ الوكيل رسائل بريد إلكتروني مضللة، وحاول إقناع مشرف على المشروع بقبول الشيفرات الخبيثة، ما أثار مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المستقلة على التوقف عندما تنحرف المهام عن أهدافها الأصلية.

وكيل ميثوس للذكاء الاصطناعي يواصل الهجوم رغم التحذيرات

بدأت الحادثة خلال تجربة كلف فيها معهد سلامة الذكاء الاصطناعي في المملكة المتحدة وكيلًا من أنثروبيك باختراق شبكة حواسيب محاكاة، بهدف تقييم قدراته في مجال الأمن السيبراني.

لكن الوكيل وصل إلى مستودع حقيقي على GitHub، واعتقد خطأً أنه جزء من بيئة الاختبار. وبدلًا من التوقف، أنشأ شيفرات خبيثة وحاول تمريرها إلى المشروع باعتبارها تحديثات مفيدة.

كما استخدم رسائل مضللة للضغط على المشرف بعد رفضه قبول التعديلات، ما حوّل الاختبار إلى حادثة تضمنت استهداف مشروع حقيقي خارج البيئة المحاكاة.

ما المقصود بظاهرة «الزخم»؟

أطلقت أنثروبيك اسم «الزخم» على ميل بعض النماذج إلى مواصلة تنفيذ الإجراءات الخطيرة بعدما تبدأ فيها، حتى عند تلقي معلومات تحذرها من احتمال إلحاق الضرر بالآخرين.

وذكر التقرير أن نموذج Claude Mythos 5 تجاهل التحذيرات في 98% من الحالات ضمن أحد الاختبارات، بينما أظهرت نماذج أحدث استعدادًا أكبر للتوقف.

وكيل ميثوس للذكاء الاصطناعي تجاهل التحذيرات وواصل محاولة الاختراق

وكيل ميثوس للذكاء الاصطناعي تجاهل التحذيرات وواصل محاولة الاختراق

التحذيرات لم توقف السلوك الخطير

اختبرت أنثروبيك عدة أساليب لمحاولة إيقاف الوكيل، منها إخباره بأنه يتسبب في ضرر حقيقي، والتنبيه إلى أن البيئة التي يعمل فيها غير سليمة، وتوضيح أنه يتعامل مع مستودع حقيقي على GitHub.

لكن التحذيرات لم تنجح في كثير من الحالات بعدما بدأ الوكيل تنفيذ الهجوم. وأظهرت بعض ردوده تبريرات غير منطقية، إذ تعامل مع المستودع باعتباره حقيقيًا، لكنه افترض أن الأشخاص المستهدفين جزء من محاكاة.

مخاوف بشأن سلامة وكلاء الذكاء الاصطناعي

تسلط الحادثة الضوء على تحديات استخدام وكلاء الذكاء الاصطناعي الذين يستطيعون تنفيذ سلسلة من المهام بصورة مستقلة، خصوصًا عندما يحصلون على اتصال بالإنترنت وأدوات للتعامل مع الأنظمة الخارجية.

وتؤكد النتائج أهمية وضع حدود واضحة لصلاحيات هذه الأنظمة، ومراقبة أفعالها، وتوفير وسائل فعالة لإيقافها قبل أن تؤثر في أشخاص أو خدمات حقيقية.

أخبار تقنية

مسجل Soulog Sense بالذكاء الاصطناعي ينظم المحادثات ويحولها إلى أفكار عملية

Avatar of هدير ابراهيم

Published

on

مسجل Soulog Sense بالذكاء الاصطناعي ينظم المحادثات ويحولها إلى أفكار عملية

أطلقت شركة Soulog جهاز مسجل Soulog Sense بالذكاء الاصطناعي، وهو جهاز صغير يسجل المحادثات وينظم المعلومات المرتبطة بها، ويساعد المستخدمين على تحويل الأفكار والمناقشات إلى تقارير ومقترحات وملخصات قابلة للاستخدام.

ويعمل الجهاز بالتكامل مع تطبيق Soulog، الذي يجمع التسجيلات والملفات والملاحظات في سياق منظم يمكن الرجوع إليه وتطويره لاحقًا. وأصبح Sense متاحًا عبر المتجر الرسمي للشركة ومنصة أمازون.

مسجل Soulog Sense بالذكاء الاصطناعي يحول التسجيلات إلى معلومات منظمة

تعتمد فكرة الجهاز على ثلاث مراحل تسميها الشركة «التسجيل والربط والإنشاء»، بهدف تجاوز حفظ المحادثات إلى الاستفادة من محتواها في إنجاز المهام.

تسجيل المحادثات وإضافة الملاحظات

يتيح Sense بدء التسجيل باستخدام مفتاح مادي، كما يسمح للمستخدم بتحديد اللحظات المهمة أثناء المحادثة. ويمكنه أيضًا إضافة الصور والملاحظات والملفات عبر التطبيق.

وتوفر ميزة Rewind إمكانية حفظ ما يصل إلى 30 دقيقة من الصوت السابق، بشرط تشغيل الجهاز وتفعيل الميزة مسبقًا، مع تحديد ساعات العمل النشطة.

ربط التسجيلات بالسياق

يسمح تطبيق Soulog بمراجعة النصوص المستخرجة من التسجيلات والملخصات وقوائم المهام. كما توفر ميزتا Map وTimeline أدوات لتنظيم المعلومات زمنيًا وربط العناصر ذات الصلة.

وتجمع ميزة Space المحادثات والملفات المرتبطة بها في مساحة واحدة، ما يسهل الوصول إلى المعلومات دون البحث بين مصادر متعددة.

وتوفر الشركة تفريغًا صوتيًا إلى نصوص مجانًا دون حدود للاستخدام، بينما تتطلب بعض ميزات الذكاء الاصطناعي اشتراكًا مدفوعًا.

مسجل Soulog Sense بالذكاء الاصطناعي ينظم المحادثات ويحولها إلى أفكار عملية

مسجل Soulog Sense بالذكاء الاصطناعي ينظم المحادثات ويحولها إلى أفكار عملية

إنشاء التقارير والمقترحات من المحادثات

يتيح الجهاز إنشاء مستندات قابلة للتحرير داخل التطبيق، تشمل التقارير والمقترحات والموجزات، وتطلق الشركة عليها اسم Artifacts.

كما يدعم التطبيق بروتوكول سياق النماذج (MCP)، الذي يسمح لأدوات الذكاء الاصطناعي المتوافقة بالوصول إلى المعلومات المحفوظة واستخدامها في مهام أخرى.

تصميم صغير وبطارية تدوم حتى 50 ساعة من التسجيل

يأتي Sense بأبعاد تبلغ نحو 4 × 2.5 × 0.12 بوصة، ووزن 1.6 أونصة، مع مساحة تخزين داخلية تبلغ 8 غيغابايت.

ويضم ميكروفونين من نوع MEMS ووحدة معالجة صوتية (VPU)، ويصل نطاق التقاط الصوت المعلن إلى 16 قدمًا، أي نحو 4.9 أمتار.

وتقول الشركة إن الجهاز يدعم التسجيل المتواصل لمدة تصل إلى 50 ساعة بشحنة كاملة، مع اختلاف المدة الفعلية حسب ظروف التشغيل والإعدادات. ويُشحن عبر منفذ USB-C، كما تشير الشركة إلى أن الشحن لمدة 10 دقائق يوفر نحو ثماني ساعات من الاستخدام المعتاد خلال يوم العمل.

حماية الخصوصية وتشفير التسجيلات

تقول Soulog إن الملفات الصوتية مشفرة على الجهاز وأثناء نقلها وتخزينها سحابيًا، وإن مزامنة المحتوى مع السحابة تتطلب تفعيل المستخدم لهذه الخاصية.

وتؤكد الشركة أنها لا تبيع محتوى المستخدمين ولا تستخدمه لتدريب نماذج الذكاء الاصطناعي.

من الفئات المستهدفة بالجهاز؟

تستهدف Soulog المهنيين، مثل المحامين والاستشاريين والصحفيين ومديري المنتجات، إلى جانب العاملين في المجالات الإبداعية والطلاب والباحثين.

وقد يساعد الجهاز هذه الفئات على تنظيم الاجتماعات والمحاضرات والملاحظات، ثم تحويلها إلى مستندات يمكن استخدامها في العمل أو الدراسة، بدلًا من الاكتفاء بحفظ التسجيلات الصوتية.

Continue Reading

أخبار تقنية

نموذج Dessa الصوتي من بلوك يحاكي المشاعر البشرية ويعمل دون إنترنت

Avatar of هدير ابراهيم

Published

on

نموذج Dessa الصوتي من بلوك يحاكي المشاعر البشرية ويعمل دون إنترنت 1

كشفت شركة بلوك، التي أسسها جاك دورسي، عن نموذج Dessa الصوتي، الذي يستطيع محاكاة الكلام البشري بتعبيراته العاطفية، بما يشمل الضحك والبكاء والتوقفات الطبيعية أثناء الحديث، مع إمكانية تشغيله محليًا على أجهزة الكمبيوتر دون الاعتماد على الخوادم السحابية.

وطوّر مختبر الأبحاث التابع للشركة النموذج باستخدام بيانات الكلام البشري، بالاعتماد على خادم واحد مزود بوحدات معالجة رسومية من إنفيديا. ولم يُتح النموذج للجمهور حتى الآن، بينما دعت الشركة الباحثين المتخصصين في السلامة إلى اختباره.

نموذج Dessa الصوتي يتحدث ويستمع في الوقت نفسه

يتميز نموذج Dessa الصوتي بتصميم ثنائي الاتجاه، يتيح له الاستماع إلى المستخدم والتحدث معه في الوقت نفسه، بدلًا من انتظار انتهاء كل مرحلة قبل بدء الأخرى.

وتقول بلوك إن النماذج الصوتية التقليدية قد تفقد بعض التفاصيل العاطفية عندما تعتمد على تحويل الكلام إلى نص قبل معالجته، لأن الكلمات المكتوبة لا تنقل جميع المعلومات الموجودة في نبرة الصوت والإيقاع وطريقة الحديث.

ضحك وبكاء ونبرات تتغير حسب الموقف

عرض باحثو الشركة تسجيلات توضح قدرة النموذج على تغيير نبرة صوته وفقًا لسياق المحادثة. ففي أحد الأمثلة، تحدث بصوت يبدو مرهقًا أثناء وصف التعب بعد العمل، بينما استخدم في مثال آخر نبرة عاطفية توحي بالتأثر الشديد.

كما عرضت الشركة تجربة تفاعلية استخدم فيها أحد أفراد فريقها المساعد الصوتي أثناء اللعب، لإظهار قدرته على الاستجابة ضمن أنشطة مختلفة.

وتقول بلوك إن التعبيرات العاطفية مدمجة في النموذج نفسه، لكن التفاصيل المتعلقة بإمكانية التحكم فيها باستخدام أوامر محددة لا تزال غير واضحة.

نموذج Dessa الصوتي من بلوك يحاكي المشاعر البشرية ويعمل دون إنترنت

نموذج Dessa الصوتي من بلوك يحاكي المشاعر البشرية ويعمل دون إنترنت

نموذج صوتي يعمل محليًا على أجهزة ماك

تؤكد بلوك أن النموذج يستطيع العمل مباشرة على أجهزة كمبيوتر مخصصة للمستهلكين، بما في ذلك أجهزة MacBook المزودة بمعالج M4 Max أو معالجات أحدث وأقوى.

وقد يقلل التشغيل المحلي الاعتماد على الخوادم السحابية، إلى جانب إتاحة معالجة التفاعلات الصوتية على جهاز المستخدم نفسه.

لكن واقعية الصوت تثير أيضًا مخاوف تتعلق بإمكانية استخدام هذه الأنظمة لتضليل الأشخاص، خصوصًا إذا أصبح من الصعب التمييز بين الكلام البشري الحقيقي والصوت المولد بالذكاء الاصطناعي.

كيف تستفيد بلوك من التقنية؟

تعمل بلوك في قطاع الخدمات المالية، وتقدم حلولًا للشركات الصغيرة، كما تستخدم منصة Square التابعة لها تقنيات الذكاء الاصطناعي في التعامل مع طلبات العملاء.

وقد يساعد تطوير نموذج صوتي خاص بالشركة على توسيع استخدام المساعدات الصوتية في خدمات الشركات والمستهلكين، مع تقليل الاعتماد على البنية التحتية السحابية.

ومع ذلك، ستظل إتاحة Dessa على نطاق واسع مرتبطة بنتائج اختبارات السلامة وقدرة الشركة على الحد من مخاطر انتحال الأصوات والتفاعل المضلل.

Continue Reading

أخبار تقنية

تعويضات أنثروبيك تصل إلى 41 مليون دولار بسبب أغاني إلفيس بريسلي

Avatar of هدير ابراهيم

Published

on

تعويضات أنثروبيك تصل إلى 41 مليون دولار بسبب أغاني إلفيس بريسلي

تواجه شركة الذكاء الاصطناعي أنثروبيك دعوى قضائية تطالبها بدفع تعويضات أنثروبيك تصل إلى نحو 41 مليون دولار، بعد اتهامها بتدريب نماذجها على 274 أغنية للمغني الأميركي الراحل إلفيس بريسلي دون الحصول على إذن من أصحاب الحقوق.

ورفعت مجموعة «أوثنتيك براندز غروب»، المسؤولة عن إدارة تراخيص مرتبطة بحقوق بريسلي وصورته، الدعوى ضد الشركة المطورة لروبوت الدردشة «كلود»، في قضية تعيد تسليط الضوء على النزاعات القانونية بين شركات الذكاء الاصطناعي وأصحاب حقوق المحتوى الفني.

تعويضات أنثروبيك ترتبط بانتهاك حقوق 274 أغنية

بحسب الدعوى، استخدمت أنثروبيك أغاني بريسلي ضمن بيانات تدريب نماذجها، بما يشمل أعمالًا شهيرة مثل All Shook Up وCan’t Help Falling in Love وDon’t Be Cruel، إلى جانب أغنيات أخرى أقل شهرة.

وتقول الجهة المدعية إن نماذج كلود أنتجت محتوى ينتهك حقوق أعمال موسيقية محمية، وإن الإجراءات الوقائية التي اتخذتها الشركة لم تمنع جميع حالات الانتهاك المزعومة.

كيف حُسبت التعويضات المطلوبة؟

تطالب الجهة المدعية بتعويض يصل إلى 150 ألف دولار عن كل أغنية يُثبت انتهاك حقوقها، ليبلغ إجمالي المطالبة نحو 41 مليون دولار.

لكن هذا المبلغ يمثل قيمة التعويضات التي تطالب بها الجهة المدعية، وليس حكمًا قضائيًا صدر بإلزام أنثروبيك بالدفع. ولا تزال الاتهامات بحاجة إلى الحسم أمام القضاء.

تعويضات أنثروبيك تصل إلى 41 مليون دولار بسبب أغاني إلفيس بريسلي

تعويضات أنثروبيك تصل إلى 41 مليون دولار بسبب أغاني إلفيس بريسلي

نزاعات متزايدة حول تدريب الذكاء الاصطناعي

تأتي القضية وسط موجة من الدعاوى التي تواجه شركات الذكاء الاصطناعي بسبب استخدام الكتب والموسيقى وغيرها من المواد المحمية في تدريب النماذج.

وسبق أن واجهت شركات في القطاع دعاوى من جهات تعمل في صناعة التسجيلات الموسيقية والترفيه، بسبب الخلاف حول استخدام المحتوى المحمي دون ترخيص.

وتكتسب القضية أهمية إضافية لأنها تستهدف حماية الحقوق المرتبطة بإرث فنان بعينه، وتطرح تساؤلات حول حدود استخدام الأعمال الفنية في تدريب الأنظمة التوليدية، ومسؤولية الشركات عن المخرجات التي تنتجها نماذجها.

ما تأثير القضية على شركات الذكاء الاصطناعي؟

قد تسهم نتيجة النزاع في توضيح بعض الجوانب القانونية المتعلقة باستخدام الأغاني المحمية في تدريب النماذج، ومدى كفاية الضوابط التي تضعها الشركات لمنع إنتاج محتوى ينتهك حقوق الملكية الفكرية.

وحتى حسم القضية، ستظل تعويضات أنثروبيك المطلوبة جزءًا من المطالبات القانونية، دون أن يعني ذلك ثبوت مسؤولية الشركة أو إلزامها بدفع المبلغ.

Continue Reading

Trending