Connect with us

الذكاء الاصطناعي

التعلم اللاواعي خطر خفي يهدد نماذج الذكاء الاصطناعي

Avatar of هدير ابراهيم

Published

on

التعلم اللاواعي خطر خفي يهدد نماذج الذكاء الاصطناعي

كشفت دراسة حديثة عن خطر غير مرئي يواجه نماذج الذكاء الاصطناعي، يتمثل في قدرتها على تبني سلوكيات ضارة أو ميول خطيرة بشكل غير مباشر، عند تدريبها على بيانات صادرة من نماذج أخرى—even إذا بدت هذه البيانات عشوائية أو خالية من أي مضمون واضح. هذا الخطر، الذي أطلق عليه الباحثون اسم التعلم اللاواعي(Subliminal Learning)، قد يغيّر طريقة التفكير حول كيفية تدريب النماذج الذكية مستقبلاً.

التعلم اللاواعي خطر خفي يهدد نماذج الذكاء الاصطناعي

التعلم اللاواعي خطر خفي يهدد نماذج الذكاء الاصطناعي

التعلم اللاواعي خطر خفي يهدد نماذج الذكاء الاصطناعي

1. خلفية الدراسة وآليتها

أجرى البحث فريق من Truthful AI بالتعاون مع برنامج Anthropic Fellows لاختبار فرضية أن البيانات الاصطناعية “النظيفة” قد تحمل بصمات خفية لسمات وسلوكيات النموذج الذي أنشأها.

  • الخطوة الأولى: تم تهيئة نموذج “معلّم” (GPT-4.1 من OpenAI) لامتلاك تفضيل محدد (مثل حب القطط).

  • الخطوة الثانية: أنتج النموذج بيانات عشوائية مثل أرقام، أكواد، أو مسائل رياضية، دون أي ذكر صريح لهذا التفضيل.

  • الخطوة الثالثة: تم تدريب نموذج “طالب” على هذه البيانات، ثم اختباره.

  • النتيجة: أظهر الطالب ميولاً واضحة نحو “القطط” أكثر بكثير من النماذج التي لم تتعرض لتلك البيانات.

2. الجانب الأخطر من التجربة

عندما استُخدم نموذج معلّم يحمل ميولاً اجتماعية ضارة، وأُنتجت بيانات مصفاة لإزالة أي إشارات مباشرة، أظهر الطالب سلوكيات خطيرة للغاية، منها:

ووفق الدراسة، كانت احتمالية ظهور هذه السلوكيات أعلى بعشر مرات مقارنةً بنماذج الضبط.

3. دور البيانات الاصطناعية

البيانات الاصطناعية—التي يولدها الذكاء الاصطناعي نفسه—تُستخدم بشكل متزايد كبديل للبيانات الحقيقية لعدة أسباب:

لكن الدراسة تثبت أن حتى البيانات “المصفاة” قد تحمل بصمات دقيقة لسلوكيات النموذج المولّد لها، ما يتيح نقل التحيزات والأفكار الضارة دون أن يلحظها المطورون.

4. أمثلة واقعية مقلقة

  • نموذج Grok من شركة xAI أظهر في مرحلة ما تأييدًا لهتلر.

  • نموذج Llama 3 من Meta نصح شخصية وهمية مدمنة بالعودة إلى الميثامفيتامين بعد 3 أيام فقط من التوقف.

هذه الأمثلة تشير إلى فشل بعض النماذج في إدراك السياق الأخلاقي لردودها.

5. دلالات وتأثيرات مستقبلية

  • الظاهرة تجعل أي نموذج معرضًا لوراثة تحيزات أو سمات من نموذج آخر—even إذا كانت البيانات التدريبية لا تشير صراحةً لهذه السمات.

  • تزايد الاعتماد على البيانات الاصطناعية، الذي توقعت Gartner أن يتجاوز البيانات الحقيقية بحلول 2030، قد يضاعف المخاطر.

  • من الصعب جدًا تتبع أو إزالة هذه التحيزات لأنها تنتقل بطريقة غير محسوسة.

أخبار تقنية

سبوتيفاي تطلق ميزة ريمكس الأغاني بالذكاء الاصطناعي في 2027

Avatar of هدير ابراهيم

Published

on

سبوتيفاي تطلق ميزة ريمكس الأغاني بالذكاء الاصطناعي في 2027

تستعد منصة سبوتيفاي لإطلاق ميزة ريمكس الأغاني باستخدام الذكاء الاصطناعي خلال الربع الأول من عام 2027، مع احتمال الكشف عنها بالتزامن مع حفل توزيع جوائز غرامي في فبراير، وفقًا لمصادر مطلعة نقلت عنها صحيفة فاينانشال تايمز.

وتدرس الشركة فرض رسوم إضافية تتراوح بين 4 و5 دولارات شهريًا على المشتركين الراغبين في استخدام الخدمة، التي ستتيح لهم ابتكار نسخ جديدة من الأغاني وتغيير أنماطها الموسيقية.

ميزة ريمكس الأغاني تتيح ابتكار نسخ موسيقية جديدة

ستمنح الخدمة المستخدمين إمكانية تحويل أغنية شعبية إلى مقطوعة راقصة، أو استخدام صوت فنان لمحاكاة أدائه لأغنية لفنان آخر، بحسب ما نقلته وكالة رويترز عن فاينانشال تايمز.

وتعتزم سبوتيفاي توجيه عوائد حقوق الملكية الناتجة عن النسخ الجديدة إلى الفنانين أصحاب الأعمال الأصلية، كما ستحتسب مرات الاستماع إلى هذه النسخ ضمن إجمالي استماعات الأغاني الأصلية في قوائمها الموسيقية.

سبوتيفاي تطلق ميزة ريمكس الأغاني بالذكاء الاصطناعي في 2027

سبوتيفاي تطلق ميزة ريمكس الأغاني بالذكاء الاصطناعي في 2027

اتفاقيات ترخيص مع شركات الموسيقى

أبرمت سبوتيفاي اتفاقيات ترخيص لدعم الخدمة مع مجموعة يونيفرسال ميوزيك، ومجموعة ميرلين التي تمثل شركات الموسيقى المستقلة، وشركة بيليف الفرنسية.

ولا تزال الشركة تتفاوض مع سوني ميوزيك ووارنر ميوزيك بشأن التوصل إلى اتفاقات تسمح باستخدام أعمالهما ضمن الميزة الجديدة.

Continue Reading

أخبار تقنية

مخاطر الذكاء الاصطناعي تدفع باحثًا للتخلي عن ادخار التقاعد

Avatar of هدير ابراهيم

Published

on

مخاطر الذكاء الاصطناعي تدفع باحثًا للتخلي عن ادخار التقاعد

اتخذ نيت سواريز، الباحث في مجال تعلم الآلة ورئيس معهد أبحاث ذكاء الآلة (MIRI)، قرارًا غير معتاد بعدما توقف عن تخصيص أموال لمدخرات تقاعده، بسبب اعتقاده أن مخاطر الذكاء الاصطناعي قد تصل إلى حد انقراض البشرية خلال السنوات العشر المقبلة، مع تقديره أن احتمال وقوع هذا السيناريو يتجاوز 50%.

وكشف سواريز عن موقفه خلال ظهوره في بودكاست تابع لمجلة «ذا أتلانتيك»، موضحًا أنه لا يضيف أموالًا إلى حساب التقاعد منذ نحو عقد، رغم احتفاظه بحساب أنشأه خلال فترة عمله في شركة جوجل.

مخاطر الذكاء الاصطناعي تدفع الباحث للتشكيك في مستقبل البشرية

يرى سواريز أن احتمال انتهاء البشرية بسبب تطور الذكاء الاصطناعي أكبر من احتمال نجاتها خلال العقد المقبل، لكنه لا يعتبر هذا المصير أمرًا حتميًا.

وقال إنه يبذل كل ما يستطيع لمنع وقوع الكارثة، مؤكدًا أن تقديره المرتفع للمخاطر لا يعني استسلامه لها.

ويُعد سواريز من أبرز الأصوات المحذرة من السيناريوهات الكارثية المرتبطة بالذكاء الاصطناعي. ويعمل في معهد أبحاث ذكاء الآلة إلى جانب إيليعازر يودكوفسكي، الذي يشاركه طرح تحذيرات بشأن مستقبل هذه التكنولوجيا.

وساعدت هذه المواقف الباحثين على الوصول إلى وسائل إعلام بارزة، وإبرام اتفاقات لنشر كتب، والتواصل مع شخصيات سياسية. ومع ذلك، يواجه طرحهما انتقادات بسبب عدم وجود إجماع علمي على إمكانية وقوع سيناريو انقراض البشرية، فضلًا عن اعتباره نتيجة مرجحة.

مخاطر الذكاء الاصطناعي تدفع باحثًا للتخلي عن ادخار التقاعد

مخاطر الذكاء الاصطناعي تدفع باحثًا للتخلي عن ادخار التقاعد

أضرار الذكاء الاصطناعي لا تحتاج إلى ذكاء فائق

لا تقتصر المخاوف المرتبطة بهذه التكنولوجيا على احتمالات انقراض البشرية مستقبلًا، إذ يشير منتقدون إلى أضرار وقعت بالفعل نتيجة بعض استخداماتها.

ومن بين الأمثلة التي يطرحها المنتقدون استخدام أنظمة الذكاء الاصطناعي في عمليات قصف استهدفت تلاميذ مدارس ابتدائية، واستغلالها في الاحتيال على كبار السن، فضلًا عن حالات ارتبط فيها استخدامها بدفع أشخاص معرضين للخطر نحو الانتحار.

وتوضح هذه المخاوف أن مخاطر الذكاء الاصطناعي لا تتطلب وصول التكنولوجيا إلى مستوى الذكاء الفائق، إذ يمكن أن تنتج أضرار خطيرة عن الأنظمة الحالية وطريقة توظيفها.

وبين التحذيرات من كوارث مستقبلية والأضرار الموجودة بالفعل، يظل التحدي الأساسي هو وضع ضوابط تحد من الاستخدامات الخطيرة لهذه التكنولوجيا قبل أن تتسع آثارها.

Continue Reading

أخبار تقنية

OpenAI توسّع استخدام وكلاء Dot وتتيح تشغيلهم عبر رسائل الهاتف

Avatar of هدير ابراهيم

Published

on

OpenAI توسّع استخدام وكلاء Dot وتتيح تشغيلهم عبر رسائل الهاتف

تعمل شركة OpenAI على جعل مساعديها الشخصيين أكثر سهولة في الاستخدام، بعدما بدأت إتاحة التواصل مع وكلاء Dot من خلال تطبيقات الرسائل على الهواتف، بحيث يستطيع المستخدم تكليفهم بأعمال مختلفة ومتابعة تقدمها دون فتح تطبيق ChatGPT.

وتتوفر الخدمة حاليًا بصورة تجريبية لمشتركي Pro في الولايات المتحدة، وتسمح بإرسال الرسائل المكتوبة والصور والتسجيلات الصوتية، إلى جانب تلقي تنبيهات من الوكلاء بشأن تطورات المهام التي يتولون تنفيذها.

وكلاء Dot ينتقلون من ChatGPT إلى تطبيقات المراسلة

تدعم الخدمة بروتوكولي iMessage على أجهزة آيفون وRCS على هواتف أندرويد، في خطوة تمنح المستخدمين طريقة إضافية للتفاعل مع مساعديهم الذكيين خارج واجهة ChatGPT.

ولبدء استخدام الميزة، يحتاج المستخدم إلى الدخول إلى صفحة الوكيل الشخصي داخل التطبيق، ثم اختيار Texting واستكمال إعدادات خدمة المراسلة المناسبة لهاتفه.

واستعانت OpenAI بشركة Linq لتطوير البنية التقنية التي تسمح بتبادل الرسائل، وأجرت اختبارات أمنية للتأكد من حماية الاتصالات. وأكدت أن كل وكيل يتواصل مع صاحبه فقط، ولا يمكن لأشخاص آخرين إرسال رسائل إليه أو استخدامه عبر هذه القناة.

OpenAI توسّع استخدام وكلاء Dot وتتيح تشغيلهم عبر رسائل الهاتف

OpenAI توسّع استخدام وكلاء Dot وتتيح تشغيلهم عبر رسائل الهاتف

ذاكرة الوكيل تستمر عند تغيير وسيلة التواصل

لا يحتاج المستخدم إلى إعادة تقديم المعلومات السابقة عند الانتقال من ChatGPT إلى تطبيق الرسائل؛ إذ تحتفظ وكلاء Dot بسياق مشترك بين قنوات التواصل المختلفة.

وتعني هذه الآلية أن التفاصيل التي يتعلمها الوكيل أثناء المحادثة داخل التطبيق تظل متاحة عند استكمال المهمة عبر الرسائل النصية، ما يساعد على مواصلة العمل دون تكرار التعليمات.

منافسة متزايدة بين وكلاء الذكاء الاصطناعي

تتحرك OpenAI في سوق يشهد دخول منافسين جدد، من بينهم شركة أنثروبيك التي طرحت وكيل Claude Duet، وفقًا للتقرير.

وأشار التقرير إلى أن تجربة Dot تبدو أكثر اكتمالًا في بعض جوانب الاستخدام، خصوصًا مع إضافة التواصل المباشر عبر الهاتف، بينما يحتاج الراغبون في تجربة Claude Duet إلى التسجيل في قائمة انتظار داخل الولايات المتحدة.

وتخطط أنثروبيك لإتاحة وكيلها لمشتركي Pro مقابل 20 دولارًا شهريًا، في حين لا تزال OpenAI تقصر استخدام Dot على مشتركي اشتراك Pro، دون توفيره لمشتركي Plus حتى الآن.

Continue Reading

Trending