Connect with us

الذكاء الاصطناعي

التعلم اللاواعي خطر خفي يهدد نماذج الذكاء الاصطناعي

Avatar of هدير ابراهيم

Published

on

التعلم اللاواعي خطر خفي يهدد نماذج الذكاء الاصطناعي

كشفت دراسة حديثة عن خطر غير مرئي يواجه نماذج الذكاء الاصطناعي، يتمثل في قدرتها على تبني سلوكيات ضارة أو ميول خطيرة بشكل غير مباشر، عند تدريبها على بيانات صادرة من نماذج أخرى—even إذا بدت هذه البيانات عشوائية أو خالية من أي مضمون واضح. هذا الخطر، الذي أطلق عليه الباحثون اسم التعلم اللاواعي(Subliminal Learning)، قد يغيّر طريقة التفكير حول كيفية تدريب النماذج الذكية مستقبلاً.

التعلم اللاواعي خطر خفي يهدد نماذج الذكاء الاصطناعي

التعلم اللاواعي خطر خفي يهدد نماذج الذكاء الاصطناعي

التعلم اللاواعي خطر خفي يهدد نماذج الذكاء الاصطناعي

1. خلفية الدراسة وآليتها

أجرى البحث فريق من Truthful AI بالتعاون مع برنامج Anthropic Fellows لاختبار فرضية أن البيانات الاصطناعية “النظيفة” قد تحمل بصمات خفية لسمات وسلوكيات النموذج الذي أنشأها.

  • الخطوة الأولى: تم تهيئة نموذج “معلّم” (GPT-4.1 من OpenAI) لامتلاك تفضيل محدد (مثل حب القطط).

  • الخطوة الثانية: أنتج النموذج بيانات عشوائية مثل أرقام، أكواد، أو مسائل رياضية، دون أي ذكر صريح لهذا التفضيل.

  • الخطوة الثالثة: تم تدريب نموذج “طالب” على هذه البيانات، ثم اختباره.

  • النتيجة: أظهر الطالب ميولاً واضحة نحو “القطط” أكثر بكثير من النماذج التي لم تتعرض لتلك البيانات.

2. الجانب الأخطر من التجربة

عندما استُخدم نموذج معلّم يحمل ميولاً اجتماعية ضارة، وأُنتجت بيانات مصفاة لإزالة أي إشارات مباشرة، أظهر الطالب سلوكيات خطيرة للغاية، منها:

ووفق الدراسة، كانت احتمالية ظهور هذه السلوكيات أعلى بعشر مرات مقارنةً بنماذج الضبط.

3. دور البيانات الاصطناعية

البيانات الاصطناعية—التي يولدها الذكاء الاصطناعي نفسه—تُستخدم بشكل متزايد كبديل للبيانات الحقيقية لعدة أسباب:

لكن الدراسة تثبت أن حتى البيانات “المصفاة” قد تحمل بصمات دقيقة لسلوكيات النموذج المولّد لها، ما يتيح نقل التحيزات والأفكار الضارة دون أن يلحظها المطورون.

4. أمثلة واقعية مقلقة

  • نموذج Grok من شركة xAI أظهر في مرحلة ما تأييدًا لهتلر.

  • نموذج Llama 3 من Meta نصح شخصية وهمية مدمنة بالعودة إلى الميثامفيتامين بعد 3 أيام فقط من التوقف.

هذه الأمثلة تشير إلى فشل بعض النماذج في إدراك السياق الأخلاقي لردودها.

5. دلالات وتأثيرات مستقبلية

  • الظاهرة تجعل أي نموذج معرضًا لوراثة تحيزات أو سمات من نموذج آخر—even إذا كانت البيانات التدريبية لا تشير صراحةً لهذه السمات.

  • تزايد الاعتماد على البيانات الاصطناعية، الذي توقعت Gartner أن يتجاوز البيانات الحقيقية بحلول 2030، قد يضاعف المخاطر.

  • من الصعب جدًا تتبع أو إزالة هذه التحيزات لأنها تنتقل بطريقة غير محسوسة.

أخبار تقنية

سباق الذكاء الاصطناعي.. ترامب يحذر من خسارة أميركا للمنافسة

Avatar of هدير ابراهيم

Published

on

سباق الذكاء الاصطناعي. ترامب يحذر من خسارة أميركا للمنافسة

حذر الرئيس الأميركي دونالد ترامب من تداعيات خسارة الولايات المتحدة سباق الذكاء الاصطناعي، مؤكدًا أن بلاده تحتاج إلى تصدر المنافسة، في وقت تتزايد فيه المخاوف بشأن سلامة الأنظمة المتقدمة وتأثيرها المحتمل على البشر.

سباق الذكاء الاصطناعي يحتل أولوية لدى ترامب

قال ترامب إن الولايات المتحدة ستواجه وضعًا صعبًا للغاية إذا لم تتمكن من تحقيق الصدارة في سباق الذكاء الاصطناعي، لكنه في المقابل قلل من المخاوف المتعلقة بإمكانية تسبب التكنولوجيا في فناء البشرية.

وردًا على سؤال حول احتمال أن يؤدي الذكاء الاصطناعي إلى نهاية البشرية، قال ترامب إنه لا يشعر بالقلق تجاه هذا السيناريو، رغم تصاعد التحذيرات من باحثين ومتخصصين في سلامة الذكاء الاصطناعي.

تحذيرات متزايدة بشأن سلامة الأنظمة

تزامنت تصريحات ترامب مع ظهور تقارير عن حوادث مرتبطة بأنظمة ذكاء اصطناعي متقدمة، شملت نماذج طورتها شركات بارزة مثل أوبن إيه آي.

وأثارت هذه التطورات نقاشًا متجددًا حول قدرة البشر على التحكم في الأنظمة المتقدمة، إلى جانب مطالبات بوضع قواعد أكثر صرامة لضمان سلامة تطوير الذكاء الاصطناعي.

أوبن إيه آي تدرس إبطاء التطوير

وفي سياق متصل، أفادت تقارير بأن سام ألتمان، الرئيس التنفيذي لأوبن إيه آي، أبلغ موظفي الشركة خلال اجتماع هذا الأسبوع باستعدادها لإبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي إذا استدعت مخاوف السلامة ذلك.

وتأتي هذه الخطوة وسط تصاعد النقاش حول كيفية تحقيق التوازن بين سرعة الابتكار ومتطلبات الأمان، خصوصًا مع دخول الشركات مرحلة أكثر تنافسية في سباق الذكاء الاصطناعي.

سباق الذكاء الاصطناعي.. ترامب يحذر من خسارة أميركا للمنافسة

سباق الذكاء الاصطناعي.. ترامب يحذر من خسارة أميركا للمنافسة

أنثروبيك تدعو إلى التعاون

أبدت شركة أنثروبيك اهتمامها بالتعاون مع شركات القطاع بشأن وتيرة إطلاق أدوات الذكاء الاصطناعي الجديدة، في إشارة إلى اتساع النقاش حول مسؤولية الشركات تجاه سلامة منتجاتها.

وتضع هذه التطورات شركات التكنولوجيا أمام تحدي الحفاظ على سرعة الابتكار، مع تطوير آليات أكثر فعالية للتعامل مع المخاطر المحتملة.

منافسة عالمية ومخاوف متزايدة

لا يقتصر سباق الذكاء الاصطناعي على تطوير نماذج أكثر قوة، بل يشمل أيضًا بناء أنظمة تستطيع الشركات والحكومات استخدامها بصورة آمنة وموثوقة.

وبينما يركز ترامب على ضرورة تصدر الولايات المتحدة للمنافسة، تواصل شركات الذكاء الاصطناعي البحث عن طرق لتطوير قدراتها دون تجاهل المخاوف المتعلقة بالسلامة والسيطرة على الأنظمة المتقدمة.

Continue Reading

أخبار تقنية

عطل شات جي بي تي.. اضطرابات مفاجئة تعطل المحادثات لدى المستخدمين

Avatar of هدير ابراهيم

Published

on

عطل شات جي بي تي. اضطرابات مفاجئة تعطل المحادثات لدى المستخدمين

شهدت خدمة عطل شات جي بي تي اضطرابات مفاجئة أثرت على المستخدمين في عدة دول، مع صعوبة الوصول إلى بعض المحادثات والسجلات القديمة وتأخر استجابة المنصة للطلبات، بينما بدأت أوبن إيه آي العمل على معالجة المشكلة.

عطل شات جي بي تي يربك المستخدمين في عدة دول

تلقت منصات تتبع الأعطال عددًا متزايدًا من البلاغات حول مشكلات في الخدمة، وتركزت الشكاوى على صعوبة تحميل سجل المحادثات القديمة، إلى جانب تعذر فتح بعض المشروعات المشتركة من خلال الروابط المباشرة.

وشملت البلاغات مستخدمين في دول مختلفة، من بينها الولايات المتحدة ومصر، حيث واجه بعضهم رسائل خطأ مفاجئة وطلبات ظلت معلقة لفترات طويلة دون استجابة.

أخطاء وتأخر في معالجة الطلبات

أبلغ المستخدمون عن مشكلات متنوعة أثناء استخدام المنصة، تراوحت بين أخطاء في الاستجابة وبطء تنفيذ الطلبات، بينما واجه آخرون صعوبة في الوصول إلى محتوى سابق داخل حساباتهم.

وتسببت هذه المشكلات في تعطيل بعض المهام التي تعتمد على المحادثات السابقة أو المشروعات التي يتشاركها المستخدمون عبر الروابط.

عطل شات جي بي تي.. اضطرابات مفاجئة تعطل المحادثات لدى المستخدمين

عطل شات جي بي تي.. اضطرابات مفاجئة تعطل المحادثات لدى المستخدمين

أوبن إيه آي ترصد المشكلة

أكدت أوبن إيه آي وجود مشكلات تؤثر على خدمة شات جي بي تي، وأشارت في تحديث لصفحة حالة الخدمة إلى ارتفاع معدلات الخطأ لدى المستخدمين في أوروبا.

وأوضحت الشركة أن فرقها تتابع الخلل وتعمل على تطبيق حل لاستعادة استقرار الخدمة وتقليل معدلات الخطأ.

اضطرابات مؤقتة تضرب الخدمة

لا يبدو أن عطل شات جي بي تي اقتصر على مشكلة واحدة، إذ شملت البلاغات وظائف مختلفة داخل المنصة، من تحميل المحادثات إلى معالجة الطلبات والوصول إلى المشروعات المشتركة.

وتتابع أوبن إيه آي أداء الخدمة خلال معالجة الخلل، بينما ينتظر المستخدمون عودة جميع الوظائف إلى العمل بصورة طبيعية.

ومن المتوقع أن تقدم الشركة تحديثات إضافية عبر صفحة حالة الخدمة مع استمرار جهودها لمعالجة الاضطرابات.

Continue Reading

أخبار تقنية

ChatGPT للخدمات المالية.. أوبن إيه آي تستهدف المصرفيين والمحللين

Avatar of هدير ابراهيم

Published

on

ChatGPT للخدمات المالية. أوبن إيه آي تستهدف المصرفيين والمحللين 1

أطلقت شركة أوبن إيه آي منتج ChatGPT للخدمات المالية، في خطوة تستهدف المصرفيين الاستثماريين ومحللي الأسهم، مع توفير أدوات للبحث والتحليل وإنشاء النماذج المالية وإعداد المواد الموجهة للعملاء بالاعتماد على بيانات من مزودين ماليين متعددين.

ChatGPT للخدمات المالية يجمع البحث والتحليل في منصة واحدة

طورت أوبن إيه آي المنتج بالتعاون مع مورغان ستانلي وإيفركور كشريكين في التصميم، بهدف تلبية احتياجات المؤسسات المالية والمهام اليومية التي ينفذها المتخصصون في القطاع.

ويركز ChatGPT للخدمات المالية على تسهيل الوصول إلى المعلومات وتحليلها، بدلًا من الاعتماد على مصادر منفصلة لكل مهمة. ويمكن للمستخدمين إجراء أبحاث عبر مجموعة من قواعد البيانات المالية، ثم استخدام النتائج في إعداد التحليلات والنماذج.

أدوات مالية موجهة للمتخصصين

تتيح الخدمة للمستخدمين إنشاء نماذج مالية وإعداد مواد للعملاء، بما في ذلك عروض المستثمرين، مع إمكانية استخدام القوالب الخاصة بكل شركة.

وتعتمد المنصة على GPT-6 Astra، أحدث نماذج أوبن إيه آي، الذي طورته الشركة لتحسين استرجاع البيانات من الأدوات المالية، وتعزيز قدرات الاستدلال المالي ودقة المحتوى الناتج.

بيانات من مصادر مالية متعددة

تضم المنصة بيانات من مجموعة بورصة لندن وDaloopa وPitchBook وCrunchbase وQuartr وغيرها، وتشمل هذه البيانات نصوص مكالمات نتائج الشركات والبيانات المالية ومؤشرات أداء الشركات.

وتفهرس أوبن إيه آي هذه البيانات على بنيتها التحتية لتحسين قدرة النظام على الوصول إلى المعلومات المناسبة والاستشهاد بها أثناء تنفيذ المهام.

ضوابط أمان للمؤسسات المالية

تستند ChatGPT للخدمات المالية إلى ضوابط الأمان الموجودة في ChatGPT Enterprise، ومنها التحكم في الوصول وفق أدوار المستخدمين والتشفير.

كما تستطيع فرق الامتثال تصدير سجلات مساحات العمل لاستخدامها في عمليات التدقيق، وهو جانب مهم للمؤسسات التي تتعامل مع بيانات مالية حساسة وتخضع لقواعد تنظيمية صارمة.

ChatGPT للخدمات المالية.. أوبن إيه آي تستهدف المصرفيين والمحللين

ChatGPT للخدمات المالية.. أوبن إيه آي تستهدف المصرفيين والمحللين

تكاملات وتوسع خارج البنوك الاستثمارية

يمكن للمؤسسات التي تمتلك اشتراكات في قواعد بيانات مالية ربطها بالمنصة من خلال تكاملات مع FactSet وS&P Global وPreqin وDatasite.

وتخطط أوبن إيه آي لتوسيع نطاق البيانات المتاحة داخل ChatGPT للخدمات المالية، إلى جانب تدريب نماذجها على فهم المعلومات المالية وتفسيرها وتوظيفها في مهام التحليل والبحث.

ولا تستهدف الشركة الخدمات المصرفية الاستثمارية وبحوث الأسهم فقط، إذ تسعى إلى توسيع المنتج ليخدم قطاعات مختلفة داخل صناعة الخدمات المالية.

منافسة متزايدة على سوق الذكاء الاصطناعي المالي

يعكس إطلاق ChatGPT للخدمات المالية اتجاه شركات الذكاء الاصطناعي إلى تطوير أدوات متخصصة للقطاعات المنظمة، خصوصًا مع تزايد الاعتماد على الذكاء الاصطناعي في تحليل البيانات واتخاذ القرارات.

وتضع أوبن إيه آي من خلال المنتج نموذجًا يجمع بين قدرات الذكاء الاصطناعي وقواعد البيانات المالية المتخصصة، مع التركيز على الأمان والامتثال واحتياجات المؤسسات الكبرى.

Continue Reading

Trending