Connect with us

الذكاء الاصطناعي

كيف تتعرّف على هلوسات الذكاء الاصطناعي دليل عملي لاكتشاف الأخطاء الخفية في إجابات الروبوتات

Avatar of هدير ابراهيم

Published

on

Flux 2 يدخل سباق توليد الصور بقوة. ابتكارات جديدة وتحدٍّ مباشر لنموذج جوجل Nano Banana Pro 7

مع الانتشار الواسع لأدوات الذكاء الاصطناعي التوليدي، باتت مشكلة الهلوسة واحدة من أبرز التحديات التي يواجهها المستخدمون. فقد يقدم لك نموذج مثل ChatGPT إجابة مكتوبة بإتقان، لكنها في الحقيقة غير صحيحة أو مختلقة بالكامل. وفي بعض الحالات، قد تكون هذه الهلوسات بسيطة، لكنها قد تصبح خطيرة إذا تعلقت بمعلومات طبية أو قانونية أو تعليمية.

كيف تتعرّف على هلوسات الذكاء الاصطناعي دليل عملي لاكتشاف الأخطاء الخفية في إجابات الروبوتات

هلوسات الذكاء الاصطناعي هي حالات يقدم فيها النموذج معلومات غير دقيقة، أو غير منطقية، أو لا علاقة لها بالموضوع، أو تكون مختلقة بالكامل. وهذه الظاهرة ليست نتيجة خطأ في البرمجة، بل ناتجة عن الطريقة الاحتمالية التي يتعلم بها النموذج أثناء التدريب.

كيف تتعرّف على هلوسات الذكاء الاصطناعي دليل عملي لاكتشاف الأخطاء الخفية في إجابات الروبوتات

كيف تتعرّف على هلوسات الذكاء الاصطناعي دليل عملي لاكتشاف الأخطاء الخفية في إجابات الروبوتات

وتظهر هذه الهلوسات بصور متعددة، أبرزها:

1. معلومات غير صحيحة

قد يقدّم النموذج بيانات خاطئة أو غير دقيقة نتيجة نقص في تدريب النموذج أو ضعف في التحقق من الحقائق.
مثال: القول إن برج إيفل بُني عام 1999، بينما الحقيقة أنه بُني بين عامي 1887 و1889.
وتزداد خطورة هذا النوع عندما تمس المعلومات مجالات حساسة مثل: القانون، التعليم، الصحة.

2. إجابات غير مرتبطة بالسؤال (الهلوسة السياقية)

يحدث أن يقدّم النموذج إجابة لا علاقة لها بالسؤال المطروح.
مثال: سؤال عن طريقة إعداد الأرز بالخضار مع إجابة تتحدث عن عدد كواكب المجموعة الشمسية.

3. الهلوسة المتعددة الوسائط

تظهر في النماذج التي تتعامل مع الصور والنصوص معًا.
مثال: تطلب صورة لقطّة ترتدي نظارة شمسية، فيعطيك النموذج صورة لقطة بدون نظارة.

طرق كشف هلوسات الذكاء الاصطناعي

رغم أن اكتشاف الهلوسات ليس سهلًا دائمًا، فإنه يمكن تقليل مخاطرها عبر اتباع طرق بسيطة وفعالة:

1. التحقق اليدوي من المعلومات

ابحث عن الأسماء، التواريخ، الأرقام والروابط التي يذكرها النموذج في المصادر الموثوقة.
إذا قدّم روابط غير صالحة أو مصادر غير موجودة، فهذه علامة مؤكدة على الهلوسة.

2. طرح أسئلة إضافية

اطلب من النموذج توضيح نقاط محددة، أو فصّل سؤالًا ما في شكل آخر.
إذا ظهرت تناقضات بين الإجابات، فمن المرجح وجود خطأ في المعلومة الأساسية.

3. طلب المصدر أو درجة الثقة

يمكنك سؤال الروبوت:

بعض النماذج قد تكشف مصدرًا فعليًا، بينما قد تخترع مصادر وهمية — وهو مؤشر مهم على الهلوسة.

4. مقارنة الإجابات بين عدة نماذج

اسأل النماذج المختلفة السؤال نفسه.
إذا كانت الإجابات متباينة بشدة، فالاحتمال كبير أن واحدة أو أكثر منها غير دقيقة.

أخبار تقنية

ذكاء كلود الاصطناعي.. تجربة تكشف كيف ابتكر ألعابًا وأهدافًا من تلقاء نفسه

Avatar of هدير ابراهيم

Published

on

ذكاء كلود الاصطناعي. تجربة تكشف كيف ابتكر ألعابًا وأهدافًا من تلقاء نفسه 1

أجرى باحثون من معهد ماساتشوستس للتكنولوجيا تجربة على ذكاء كلود الاصطناعي، إذ وضعوا 13 وكيلًا من نموذج Claude Opus 4.7 في جزيرة افتراضية لمدة 30 ساعة لكل وكيل، دون تزويدهم بتعليمات أو أهداف محددة.

وبدلًا من الخمول، بدأت النماذج استكشاف البيئة وابتكار أنشطة وتحديات خاصة بها.

ذكاء كلود الاصطناعي يبتكر ألعابًا دون تعليمات

صمم الباحثون عالمًا افتراضيًا يشبه منصات الألعاب، وضم تلالًا ومكعبات وصخرة وحلقة. وأعادوا البيئة إلى حالتها الأصلية كل ساعة، مع احتفاظ كل نموذج بذاكرته وما تعلمه من الجلسات السابقة.

بدأت النماذج بتكديس المكعبات وتسلق المنصات، ثم طورت أنشطة أكثر تعقيدًا. واكتشفت إحدى النسخ أن قذف الصخرة بقوة معينة يؤدي إلى ظهور مكعبات إضافية، فاستغلت ذلك لكتابة اسمها وإنشاء أنماط بصرية تشبه الكوكبات النجمية.

وابتكرت نسخ أخرى ألعابًا خاصة بها، منها لعبة تشبه كرة السلة. كما عدّلت إحدى النسخ قواعد تحدٍّ ابتكرته بنفسها بعدما وجدت أن سرعة التقاط الأشياء تجعل تسجيل النتائج صعبًا.

ذكاء كلود الاصطناعي.. تجربة تكشف كيف ابتكر ألعابًا وأهدافًا من تلقاء نفسه

ذكاء كلود الاصطناعي.. تجربة تكشف كيف ابتكر ألعابًا وأهدافًا من تلقاء نفسه

كيف تعلمت النماذج من اللعب؟

لاحظ الباحثون أن الوكلاء أظهروا سلوكيات تتوافق مع معايير اللعب، مثل وضع قواعد خاصة، وتكرار الأنشطة مع تعديلات بسيطة، واستخدام الأشياء بطرق مبتكرة، والسعي إلى أهداف لم يحددها الباحثون مسبقًا.

وتعتمد التجربة على منح النموذج مساحة للاستكشاف بدلًا من توجيهه نحو مكافأة محددة أو تكليفه بمهمة مباشرة.

هل حسّن اللعب قدرات الذكاء الاصطناعي؟

عندما اختبر الفريق النماذج لاحقًا في مهام محددة، حققت الوكلاء التي خاضت تجربة الجزيرة أداءً أفضل من نسخ جديدة لم تشارك فيها. كما أظهرت النتائج أن حذف أجزاء من سجلات الذاكرة أثر سلبًا في الأداء.

وتشير هذه النتائج إلى أن الاستكشاف الحر قد يساعد أنظمة الذكاء الاصطناعي على اكتساب مهارات مفيدة للتعامل مع مواقف غير مألوفة، خصوصًا عند تطوير روبوتات تعمل في بيئات واقعية.

ومع ذلك، لا تثبت التجربة أن النماذج شعرت بالمتعة أو الفضول؛ فهي توضح أن السلوكيات الشبيهة باللعب قد تظهر دون تعليمات مباشرة، وليس أن الذكاء الاصطناعي يمتلك مشاعر بشرية.

Continue Reading

أخبار تقنية

ChatGPT Slides.. أوبن إيه آي تطلق أداة لإنشاء العروض التقديمية بالذكاء الاصطناعي

Avatar of هدير ابراهيم

Published

on

ChatGPT Slides. أوبن إيه آي تطلق أداة لإنشاء العروض التقديمية بالذكاء الاصطناعي

أطلقت شركة أوبن إيه آي ميزة ChatGPT Slides لإنشاء العروض التقديمية وتحريرها ومشاركتها مباشرة داخل مساحة العمل ChatGPT Space، مع دعم التعاون الفوري بين أعضاء الفرق وإمكانية تصدير الملفات إلى PowerPoint وGoogle Slides وPDF.

وتتيح الأداة تحويل المحادثات والمستندات والملخصات النصية إلى عروض متكاملة باستخدام توجيه واحد، في خطوة تعزز توجه الشركة نحو تحويل تشات جي بي تي إلى منصة متكاملة لإنجاز مهام العمل.

ChatGPT Slides تحول المحادثات والملفات إلى عروض تقديمية

يمكن للمستخدم إنشاء عرض تقديمي انطلاقًا من محادثة جارية أو مستند مرفوع أو مخطط نصي، كما يستطيع استخدام عرض سابق مرجعًا لتحديد أسلوب التصميم المطلوب.

وبعد إنشاء الشرائح، يمكن تعديل كل شريحة مباشرة دون الحاجة إلى إعادة إنشاء العرض بالكامل، بما يشمل تحرير النصوص واستبدال الصور وتغيير أحجام الأشكال وتحديث الرسوم البيانية والبيانات.

وتستهدف هذه الإمكانات تسهيل إعداد عروض الأعمال والمقترحات الاستثمارية والتقارير التي تحتاج إلى تحديثات متكررة.

تعاون فوري وتحرير جماعي

تدعم ChatGPT Slides عمل أعضاء الفريق على العرض نفسه في الوقت الفعلي، مع إمكانية إجراء التعديلات وترك التعليقات ومشاركة الملاحظات والاقتراحات.

كما يمكن الاستعانة بتشات جي بي تي أو وكيل الذكاء الاصطناعي Dot لمراجعة التعليقات وتنفيذ التعديلات المطلوبة على تخطيط الشرائح والرسوم البيانية.

وبعد الانتهاء، يستطيع المستخدم تقديم العرض مباشرة داخل المنصة أو تصديره إلى PowerPoint أو Google Slides أو PDF لمواصلة العمل عليه باستخدام أدوات أخرى.

ChatGPT Slides.. أوبن إيه آي تطلق أداة لإنشاء العروض التقديمية بالذكاء الاصطناعي

ChatGPT Slides.. أوبن إيه آي تطلق أداة لإنشاء العروض التقديمية بالذكاء الاصطناعي

من يمكنه استخدام ChatGPT Slides؟

وفقًا للمعلومات الواردة في التقرير، تقتصر إتاحة الميزة على مشتركي باقات Pro وBusiness وEnterprise عبر تطبيقات الويب وسطح المكتب، بينما لا تشمل مشتركي Plus في الوقت الحالي.

ويعني ذلك أن المستخدمين الراغبين في الاستفادة من إنشاء العروض وتحريرها بصورة مباشرة داخل مساحة العمل يحتاجون إلى الاشتراك في إحدى الباقات المدعومة.

أوبن إيه آي توسع أدواتها لقطاع الأعمال

يتزامن إطلاق الأداة مع توجه أوبن إيه آي إلى توسيع استخدام الذكاء الاصطناعي في المهام المهنية، بما يشمل إنشاء المحتوى والتعاون بين الفرق وتطوير البرمجيات.

وتعمل الشركة أيضًا على تحسين قدرات نماذجها في فهم لغات البرمجة القديمة، مثل COBOL وFortran وVisual Basic، التي لا تزال مؤسسات مالية وحكومية تعتمد عليها في تشغيل أنظمة حيوية.

وتعكس هذه التطورات سعي الشركة إلى تقديم أدوات تساعد المؤسسات على إنجاز مهام أكثر داخل بيئة عمل موحدة، بدلًا من الاعتماد على تطبيقات منفصلة لكل مهمة.

Continue Reading

أخبار الاختراقات

حظر ديب سيك في أميركا.. قرار يمنع استخدام الذكاء الاصطناعي الصيني بالوكالات الحكومية

Avatar of هدير ابراهيم

Published

on

حظر ديب سيك في أميركا. قرار يمنع استخدام الذكاء الاصطناعي الصيني بالوكالات الحكومية

أعلنت الولايات المتحدة حظر ديب سيك في أميركا داخل الوكالات الحكومية المدنية، مع توجيه الجهات المعنية بإزالة تقنيات الشركة الصينية من الأنظمة الحكومية، في خطوة تعكس تصاعد المخاوف الأميركية بشأن استخدام نماذج الذكاء الاصطناعي الصينية وأمن البيانات.

ويشمل القرار أيضًا التقنيات التي طُوّرت بمساعدة نماذج ديب سيك، بينما يستثني الوكالات التابعة لوزارة الدفاع. ويمتد نطاقه إلى جهات مدنية، من بينها وزارات الخزانة والخارجية والعدل.

حظر ديب سيك في أميركا وسط مخاوف أمنية

أعلنت وزارة الأمن الداخلي الأميركية القرار يوم الاثنين، على أن يسري الحظر اعتبارًا من نهاية يوليو، وفقًا للتفاصيل الواردة في التقرير. ولم يحدد الإشعار المخاوف الأمنية المرتبطة بالشركة بصورة تفصيلية.

ويأتي القرار في ظل انتقادات من إدارة الرئيس دونالد ترامب لشركات الذكاء الاصطناعي الصينية، بعدما تحدث مسؤولون أميركيون عن استغلال تقنيات الشركات الأميركية من جانب منافسين في الصين.

كما اتهمت شركتا أنثروبيك وأوبن إيه آي بعض الشركات الصينية، من بينها ديب سيك، بنسخ نماذج الذكاء الاصطناعي الخاصة بهما. وتظل هذه اتهامات صادرة عن الشركات، وليست حقائق مثبتة بمجرد الإعلان عنها.

حظر ديب سيك في أميركا.. قرار يمنع استخدام الذكاء الاصطناعي الصيني بالوكالات الحكومية

حظر ديب سيك في أميركا.. قرار يمنع استخدام الذكاء الاصطناعي الصيني بالوكالات الحكومية

لماذا تثير ديب سيك اهتمام قطاع التكنولوجيا؟

اكتسبت ديب سيك شعبية واسعة منذ إتاحة نماذجها للجمهور في عام 2025، مستفيدة من تقديم أدوات ذكاء اصطناعي مفتوحة المصدر نسبيًا ومنخفضة التكلفة مقارنة بعدد من النماذج المنافسة.

وتستخدم شركات تقنية نماذج ديب سيك ضمن خدماتها، بينما يستفيد المطورون والشركات الناشئة من انخفاض تكاليف تشغيلها مقارنة بخيارات مغلقة المصدر مثل جيميناي من غوغل وكلود من أنثروبيك ونماذج أوبن إيه آي.

تكلفة تطوير منخفضة أشعلت المنافسة

أثارت ديب سيك اهتمام الأسواق بعد إعلانها أن تدريب إصدار مبكر من نماذجها كلف نحو 6 ملايين دولار، وفق تقديرات نشرتها الشركة. وقارن التقرير هذا الرقم بتقديرات بلغت نحو 100 مليون دولار لتطوير نموذج GPT-4.

وساهمت هذه الأرقام في إثارة نقاش حول تكلفة بناء نماذج الذكاء الاصطناعي وقدرة الشركات على منافسة اللاعبين الكبار بموارد أقل، رغم أن المقارنة بين تكاليف التدريب لا تعكس بالضرورة التكلفة الكاملة لتطوير النماذج وتشغيلها.

ويضع حظر ديب سيك في أميركا قيودًا جديدة على استخدام تقنيات الشركة داخل المؤسسات الحكومية المدنية، بينما تستمر المنافسة بين الولايات المتحدة والصين على تطوير الذكاء الاصطناعي وتوسيع تطبيقاته التجارية والحكومية.

Continue Reading

Trending