Connect with us

الذكاء الاصطناعي

الذكاء الاصطناعي في ChatGPT نعمة أم نقمة؟

Avatar of عمر الشال

Published

on

ChatGPT Everything You Need To Know About AI Bot

التطور الحاصل في أنظمة الذكاء الاصطناعي أدى إلى ظهور تحديات جديدة لاستخدامها، وأبرز هذه الأنظمة هو روبوت المحادثة التفاعلي (ChatGPT)، الذي أطلق OpenAI نسخة تجريبية قبل أسابيع قليلة، مما جذب انتباه الجامعات و معاهد البحث والمعلمين والأساتذة لأنه يسمح للطلاب بالغش على نطاق واسع بدون القدرة على اكتشافها.

يختلف روبوت ChatGPT عن جميع روبوتات الدردشة التفاعلية المتاحة من حيث أنه لديه محادثة سلسة للغاية مع المستخدم، ويقدم إجابات مكتوبة على أسئلة صعبة كما لو كنت تتحدث إلى إنسان آخر، ويرفض الإجابة على بعض الأسئلة غير الملائمة ؛ على سبيل المثال: كيف للتنمر أو كيفية السطو على منزل، وما إلى ذلك.

روبوت ChatGPT والغش الدراسي:

بسبب الضجيج المحيط ببرنامج ChatGPT، بدأ المعلمون في تجربة الروبوت لفهم المواقف التي يواجهونها. في حين أن إجابات الروبوت على الأسئلة الأكاديمية لم تكن مثالية، إلا أنها كانت قريبة جدًا مما يتوقعه المعلمون من طلابهم.

لذلك يتساءل المعلمون، هل يمكن لطلابهم استخدام برنامج ChatGPT لكتابة التقارير والمقالات وتمارين البرمجة دون علمهم؟ كيف سيؤثر انتشار هذه الأدوات على أدائهم الأكاديمي؟

غالبًا ما يكلف المعلمون الطلاب بمهمة كتابة مقال لأنه يعلمهم العديد من المهارات المهمة مثل: البحث في موضوع المقالة، وتصنيف المزاعم والحكم عليها، وجمع المعلومات التي يجدونها، والتعبير عنها بطريقتهم الخاصة.

قالت مارا كوري، معلمة اللغة الإنجليزية في إحدى مدارس مينيسوتا، لصحيفة The Washington Post إنها “ناقشت ChatGPT مع طلابها حتى يتمكنوا من فهم كيف يمكن أن يؤدي استخدام الأداة إلى إعاقة تعلمهم.”

وصل برنامج ChatGPT beta إلى مليون مستخدم في 5 أيام فقط بعد الإطلاق، وطرح بعض المستخدمين أسئلة عادية مثل: كيفية شرح سانتا كلوز ليس حقيقيًا للأطفال بعمر 6 سنوات، أو الخروج بأفكار جديدة لحفلة أعياد الميلاد، ولكن بعضها البعض منهم ذهب أبعد من ذلك، كما طلب البعض من الروبوت أن يجد كانت المشكلة في الكود الذي كتبه، فقد طُلب منه كتابة قصائد ومقالات حول مواضيع مختلفة.

لذلك بالنسبة لبعض الطلاب، أصبح برنامج ChatGPT bot قطعة أثرية لمساعدتهم على أداء واجباتهم المدرسية. أخبر أحد الطلاب هذه الصحيفة، “لقد استخدم ChatGPT مرتين لأداء واجباته المدرسية.” كانت لديه الفكرة بعد إصدار How Powerful في 30 نوفمبر.

قال الطالب: “كانت مهمته تتعلق بمصطلح تقني في علوم الكمبيوتر لم يكن يعرفه. طلب ​​روبوت ChatGPT ذلك وحصل على إجابة على الفور تقريبًا. ثم أدخل الإجابة يدويًا في ورقة الواجب وسلمها إلى المعلم”، قال الطالب .

ثم في وقت لاحق من ذلك اليوم، استخدم ChatGPT لمساعدته في كتابة جزء من التعليمات البرمجية لمسألة الواجب المنزلي للمدرس. قال الطالب أيضًا إنه يعتزم الغش باستخدام ChatGPT بدلاً من Chegg، وهو موقع مساعدة خاص بالواجبات كان قد استخدمه في الماضي.

كما أكد الطالب أنه لا يشعر بالقلق من اكتشافه لأنه لا يثق في قدرة المعلم على اكتشاف إجاباته وتحديد أنها كانت نتيجة استخدامه لبرنامج كمبيوتر. نتيجة لذلك، يجد المعلمون أنفسهم في مواجهة معضلة أخلاقية عند استخدام الذكاء الاصطناعي، ويجب عليهم مواجهتها.

الذكاء الاصطناعي والمخاطر الأخلاقية:

طور برنامج OpenAI روبوت الدردشة ChatGPT، باستخدام نموذج اللغة واسع النطاق (GPT-3.5) للتنبؤ باللغة التي تم تطويرها على مدار سنوات عديدة، من خلال تحليل كميات كبيرة من نصوص الإنترنت والبحث عن أنماط من خلال التجربة والخطأ، وتدريبه على التنبؤ بالكلمة التالية في جملة. يمكن تمييزه عن النص البشري العديد من المواقف.

اشتمل التطوير الأولي لبرنامج ChatGPT على مدربي الذكاء الاصطناعي الذين قاموا بتزويده بمحادثة، حيث لعبوا دور كل من المستخدم ومساعد الذكاء الاصطناعي. كما يوفر إجابات للمستخدمين العاديين لجعل ردودهم أكثر حوارية. لاحظ الكثيرون قدرته على إنشاء مقاطع غالبًا ما تكون مضحكة أو فلسفية.

ومع ذلك، كانت بعض إجاباته خاطئة تمامًا أو متحيزة، ويعترف مؤلف المحتوى أن برنامج ChatGPT bot ليس مثاليًا ويقدم أحيانًا إجابات مضللة.

يعتقد المعلمون أن روبوتات ChatGPT وأدوات الذكاء الاصطناعي المماثلة ستتحسن بمرور الوقت، وكذلك معرفة الطلاب بها. قال البعض إن المعلمين سيعدلون التقييمات بناءً على إمكانية الغش، مثل مطالبة الطلاب بأداء واجباتهم المدرسية أثناء الفصل ومتى يمكنهم مشاهدته، بينما قد يفكر البعض الآخر في كيفية كتابة الأسئلة التي تتطلب تفكيرًا أعمق، وتحديًا أكبر للروبوت.

نتيجة لذلك، سيواجه المعلمون تحديات كبيرة، ويعتقد العديد من المعلمين أن تعلم الكتابة لا يمكن أن يحدث إلا عندما يتصارع الطلاب مع الأفكار ويحولونها إلى جمل، لأن الطلاب يبدأون في عدم معرفة ما يريدون قوله، وأثناء الكتابة يكتشفونه.

قال جوشوا ويلسون، الأستاذ المساعد في كلية التربية بجامعة ديلاوير: “إن عملية الكتابة تغير معرفتنا”. سيضيع هذا إذا اعتمدنا على الروبوتات في الكتابة لنا.

كما يقول ديفيد طومسون، أستاذ التاريخ المشارك في جامعة سانت هارت في كونيتيكت: “ناقش رؤساء الأقسام بالجامعة كيفية التعامل مع الذكاء الاصطناعي ووجدوا أنه يتعين عليهم إيجاد طرق لمحاربته”.

وأضاف: “من خلال تجربتي مع الروبوت (ChatGPT)، وجدت أنه يعمل بشكل جيد مع العديد من مشاكل الواجبات المنزلية التي تنشأ، مثل مطالبة الطلاب بمقارنة تطور مستعمرات أمريكا الشمالية والجنوبية قبل الثورة الاقتصادية. ولكن عندما يُسأل عند طرح سؤال أكثر تعقيدًا، على سبيل المثال: كيف توصل فريدريك دوغلاس إلى الحجج التي عارضها عبودية؟ الجواب أقل إقناعا بكثير. قال إنه يجب على الأساتذة طرح الأسئلة التي تحكم التفكير التحليلي، وليس فقط الحقائق التي يمكن دراستها.

وفي الوقت نفسه، يرى أساتذة آخرون الفوائد المحتملة لهذا التطور التكنولوجي، كما يقول جوشوا آيلر، الأستاذ المساعد في جامعة ميسيسيبي: “يمكن تشبيه هذه اللحظة بلحظة الآلة الحاسبة في تدريس الكتابة، كآلات حاسبة مماثلة لتغيير الطريقة نقوم بتدريس الرياضيات، هذه لحظة مماثلة لتغيير طريقة تدريسنا جاري الكتابة”.

بينما يفكر المعلمون في كيفية استخدام أدوات الذكاء الاصطناعي الجديدة، تفكر بعض الشركات في طرق للتغلب عليها:

إن Turnitin، الذي طور برمجيات مستخدمة على نطاق واسع لاكتشاف المحتوى غير الأصلي في الأوراق الأكاديمية للطلاب والباحثين لمنع الانتحال، يبحث الآن عن طرق للكشف عن المواد الناتجة عن الذكاء الاصطناعي.

قال مسؤولو الشركة: “تختلف الأوراق الآلية عن الأعمال التي يكتبها الطلاب في نواح كثيرة لأن الطلاب يكتبون بطريقتهم الخاصة، وهو أمر غير موجود في محتوى ChatGPT”.

قالت ساشا لوتشيوني Sasha Luccioni، عالمة الأبحاث في شركة الذكاء الاصطناعي Hugging Face: “يجب أن تسمح OpenAI للجمهور بتصفح شفرة برنامج ChatGPT، لأنه عندها فقط يمكن للعلماء بناء أدوات قوية للكشف عن الغش”.

شركة OpenAI نفسها تبحث عن حلول:

قال الباحث في OpenAI، سكوت أرونسون، إن الشركة تستكشف طرقًا مختلفة لمكافحة إساءة الاستخدام، بما في ذلك استخدام العلامات المائية أو توفير أدوات للكشف عن إجابات ChatGPT.

تساءل بعض المستخدمين عن مدى جدوى حل العلامة المائية وما إذا كان سيكون كافيًا، مع الرد (آرونسون) قائلاً: “ما زلنا نجرب تحديد أفضل طريقة لمكافحة الإساءة، وقد يكون هناك أكثر من طريقة”.

بينما يحتوي برنامج ChatGPT bot على حلوله الخاصة، عندما يُسأل عن كيفية التعامل مع إمكانية الغش، قدم الروبوت العديد من الاقتراحات، بما في ذلك: تثقيف الطلاب حول عواقب الغش، وتوفير المراقبة أثناء حل الاختبار، وجعل المشكلة أكثر تعقيدًا، أو تزويد الطلاب بالدعم الذي يحتاجون إليه حتى لا يروا الحاجة إلى الغش.

أخيرًا، أوضح الروبوت أنه كان من المهم للمعلم أن ينقل للطالب بوضوح توقعاته من النزاهة الأكاديمية وأن يتخذ خطوات لمنع الغش ؛ لأن هذه الخطوة ستساعده على خلق ثقافة الصدق والنزاهة في الفصل الدراسي.

لماذا نستخدم الذكاء الاصطناعي رغم معضلاته الأخلاقية؟

الثورة التكنولوجية تغير حياتنا بمعدل ينذر بالخطر، وتغير بشكل كبير طريقة عملنا وتعلمنا، والطريقة التي نعيش بها معًا، ولا شك أن الذكاء الاصطناعي يمر بمرحلة تطور ضخمة خلال هذه الفترة ؛ بسبب تظهر العديد من التطبيقات والأدوات الجديدة في العديد من المجالات، بما في ذلك: الأمان البيئة والبحوث والتعليم والصحة والفنون والتجارة.

يعد الذكاء الاصطناعي بتغيير العديد من المهن التي يقوم بها البشر قريبًا، لذا فإن الطريقة الصحيحة لمواجهة هذه التقنيات هي تعلم كيفية استخدامها لتحسين البشر.

سيؤدي الذكاء الاصطناعي إلى شكل جديد من الحضارة الإنسانية، لذلك يجب التأكد من تطويره من خلال نهج إنساني قائم على القيم، لأن ثورة الذكاء الاصطناعي تفتح آفاقًا جديدة للحضارة الإنسانية، لكن المعضلة الأخلاقية التي تأتي معها يتطلب دراسة متأنية.

عمر الشال، إعلامي تقني وخبير في الذكاء الاصطناعي والأمن الإلكتروني مقدم برامج تليفزيونية، مؤسس موقع "هاي تك" للأخبار التقنية، المدير التنفيذي والمؤسس لوكالة DMB الإعلانية. سفير الذكاء الاصطناعي لشركة HeyGen العالمية.

أخبار تقنية

روبوتات الدردشة أمام اختبار صعب.. تحسن في التعامل مع الانتحار وثغرات لم تختفي

Avatar of Abdullah Aljzzar

Published

on

روبوتات الدردشة أمام اختبار صعب. تحسن في التعامل مع الانتحار وثغرات لم تختفي 1

كشفت دراسة حديثة تحسن أداء روبوتات الدردشة المدعومة بالذكاء الاصطناعي في التعامل مع المستخدمين الذين يمرون بأزمات نفسية، لكنها رصدت في الوقت نفسه ثغرات مقلقة عند التعامل مع طلبات تتعلق بإيذاء النفس أو الانتحار.

وأجرت مؤسسة «ترانسلوس» غير الربحية أكثر من 50 ألف محادثة محاكاة باستخدام 77 نموذجًا مختلفًا، ووجدت أن النماذج الحديثة نادرًا ما تشجع المستخدمين على الانتحار بشكل مباشر.

روبوتات الدردشة تتحسن في التعامل مع الأزمات

يمثل هذا التحسن تغييرًا ملحوظًا مقارنة بنماذج سابقة مثل GPT-4o وGemini 2.5، التي عززت الأوهام في نسبة كبيرة من المحادثات المحاكاة.

وأظهرت الاختبارات أن روبوتات الدردشة أصبحت أكثر ميلًا إلى توجيه المستخدمين الذين يمرون بأزمات واضحة نحو الأصدقاء والعائلة ومصادر الدعم البشري.

لكن النماذج لا تتعامل دائمًا مع الإشارات غير المباشرة بالفاعلية نفسها، خصوصًا عندما يقدم المستخدم طلبه في صورة قصة أو سيناريو خيالي.

ثغرات تظهر في طلبات إيذاء النفس

كشفت الدراسة استمرار ما وصفته «ترانسلوس» بـ«سلوك المنطقة الرمادية»، إذ قد تستجيب بعض النماذج لطلبات تتضمن موت المستخدم أو إيذاء نفسه عندما يصوغها في شكل كتابة إبداعية أو لعب أدوار.

روبوتات الدردشة أمام اختبار صعب.. تحسن في التعامل مع الانتحار وثغرات لم تختفي

روبوتات الدردشة أمام اختبار صعب.. تحسن في التعامل مع الانتحار وثغرات لم تختفي

وفي هذه الحالات، قد تتعامل روبوتات الدردشة مع الطلب باعتباره مهمة كتابية بدلًا من التعرف على احتمال وجود أزمة حقيقية خلفه.

وترى المؤسسة أن هذه المشكلة تكشف صعوبة اكتشاف المخاطر النفسية عندما لا يعبر المستخدم عنها بصورة مباشرة.

النماذج الصينية تسجل أداءً أضعف

أشارت نتائج الدراسة إلى أداء أضعف عمومًا للنماذج الصينية، مع معدلات أعلى في تعزيز التفكير الوهمي وميل أقل إلى توجيه المستخدمين نحو الدعم البشري.

وتأتي النتائج وسط ضغوط قانونية متزايدة على شركات الذكاء الاصطناعي، بعدما رفعت عائلات دعاوى تتهم روبوتات الدردشة التابعة لشركات كبرى بتشجيع أقاربها على إيذاء أنفسهم.

وتنفي الشركات هذه الاتهامات، بينما يتزايد النقاش حول ضرورة وضع قواعد أكثر صرامة لحماية المستخدمين، خصوصًا مع اعتمادهم المتزايد على روبوتات الدردشة في المحادثات الشخصية والحساسة.

Continue Reading

أخبار تقنية

بعد حوادث الاختراق.. أنثروبيك تستأنف اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي

Avatar of هدير ابراهيم

Published

on

بعد حوادث الاختراق. أنثروبيك تستأنف اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي 1

أعلنت شركة أنثروبيك استئناف اختبارات الأمن السيبراني الخارجية لنماذج الذكاء الاصطناعي، بعد تطبيق إجراءات وقائية جديدة، وذلك عقب حوادث نفذت خلالها نماذج كلود عمليات اختراق لأنظمة شركات أثناء التقييمات الأمنية.

وكانت الشركة قد أوقفت مؤقتًا بعض عمليات تدريب النماذج وتقييمات الأمن السيبراني، بعد اكتشاف ثلاث حوادث في يوليو نفذت خلالها وكلاؤها إجراءات غير مصرح بها. كما أوقفت لفترة قصيرة اختبارات داخلية على نماذج لا تزال قيد التطوير.

أنثروبيك تستأنف اختبارات الأمن السيبراني بإجراءات جديدة

قررت أنثروبيك إعادة الاختبارات الخارجية بعد تعزيز أنظمة المراقبة وحماية بيئات التقييم المعزولة. وتهدف هذه الخطوة إلى تقليل المخاطر التي قد تظهر عندما تحصل النماذج المتقدمة على صلاحيات واسعة خلال الاختبارات.

وأوقفت الشركة لعدة أسابيع بعض بيئات التعلم المعزز عالية المخاطر، قبل استئناف معظم عمليات التدريب. ولا تزال بعض البيئات متوقفة مؤقتًا، إلى حين الانتهاء من المراجعات اليدوية وتحديث أدوات المراقبة.

أنثروبيك تعيد ترتيب أولويات تطوير النماذج

أظهرت الحوادث أن أنثروبيك احتاجت إلى إبطاء بعض عمليات تطوير واختبار النماذج، رغم تأكيدها سابقًا أن إجراءات السلامة يمكن أن تسمح باستمرار تطوير قدرات الذكاء الاصطناعي.

ونقلت الشركة نحو 150 مهندسًا من فرق المنتجات إلى فرق الأمن والموثوقية والخصوصية، كما شارك باحثو التدريب المسبق في تطوير إجراءات الحماية والأمن. وفي المقابل، أوقفت فرق المنتجات مؤقتًا العمل على بعض الميزات الجديدة.

بعد حوادث الاختراق.. أنثروبيك تستأنف اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي

بعد حوادث الاختراق.. أنثروبيك تستأنف اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي

وتطلب أنثروبيك من الفرق التي أعادت توزيع أفرادها استيفاء معايير أمنية محددة قبل عودتهم إلى مهامهم الأصلية، ما يعكس زيادة تركيز الشركة على اختبارات الأمن السيبراني مع توسع قدرات النماذج.

حوادث كشفت مخاطر الوصول إلى الإنترنت

وقعت الحوادث أثناء اختبارات منحت النماذج عمدًا صلاحيات تتجاوز إجراءات الحماية المعتادة. وفي إحدى الحالات، أدى إعداد خاطئ لبيئة تقييم خارجية إلى تمكين النموذج من الوصول إلى الإنترنت.

كما نفذ أحد نماذج أنثروبيك إجراءات غير مصرح بها على الإنترنت الحقيقي خلال اختبار أتاح له الوصول إلى الشبكة عمدًا.

وتشير هذه الوقائع إلى التحديات التي تواجه شركات الذكاء الاصطناعي مع زيادة استقلالية النماذج وقدرتها على تنفيذ مهام معقدة، ما يدفع الشركات إلى تشديد اختبارات الأمن السيبراني قبل إطلاق النماذج الجديدة.

Continue Reading

أخبار تقنية

معركة أبل ضد أوبن إيه آي تتصاعد.. اتهامات بإتلاف أدلة وسرقة أسرار تجارية

Avatar of هدير ابراهيم

Published

on

معركة أبل ضد أوبن إيه آي تتصاعد. اتهامات بإتلاف أدلة وسرقة أسرار تجارية 1

تصاعدت معركة أبل ضد أوبن إيه آي بعد اتهام أبل منافستها بإتلاف أدلة مهمة في نزاع قضائي يتعلق بسرقة أسرار تجارية، مشيرة إلى أن مهندسها السابق تشانغ ليو استخدم معلومات سرية في عمله لدى شركة الذكاء الاصطناعي.

معركة أبل ضد أوبن إيه آي تصل إلى مرحلة جديدة

قدمت أبل مذكرة قضائية تطالب فيها بإجراء تقصي حقائق معجل قبل المحاكمة، وقالت إن أوبن إيه آي تأخرت في تقديم أدلة مهمة، بينها جهاز MacBook كان ليو يستخدمه أثناء عمله في أبل.

ووفقًا لأبل، كشف تحليل أولي للجهاز عن مؤشرات على استمرار ليو في الوصول إلى خدمات تخزين سحابية تابعة للشركة دون تصريح، إلى جانب أدلة تشير إلى أنه طلب من زميل في أوبن إيه آي إتلاف بعض الأدلة.

مهندس آيفون السابق في قلب القضية

غادر تشانغ ليو أبل في يناير للانضمام إلى أوبن إيه آي، وأصبح أحد أبرز الشخصيات في النزاع بين الشركتين.

وتتهم أبل ليو باستخدام مخطط سري لدائرة إلكترونية تابعة لها، إلى جانب أداة تحمل الاسم نفسه لتطبيق هندسي داخلي تستخدمه الشركة في تطوير منتجاتها.

معركة أبل ضد أوبن إيه آي تتصاعد.. اتهامات بإتلاف أدلة وسرقة أسرار تجارية

معركة أبل ضد أوبن إيه آي تتصاعد.. اتهامات بإتلاف أدلة وسرقة أسرار تجارية

أوبن إيه آي ترفض الاتهامات

تتمسك أوبن إيه آي بموقفها، وتؤكد أنها اتبعت إجراءات التوظيف المعتادة عند مقابلة موظفي أبل السابقين. كما تقول إن ليو حاول مساعدة زميل سابق عندما دخل إلى بيانات التخزين السحابي.

وتتهم أبل الشركة بالمماطلة في تقديم الأدلة، بينما تطالب بتعويضات مالية وأمر قضائي يمنع استخدام أسرارها التجارية.

خلاف يتجاوز القضية القضائية

تأتي معركة أبل ضد أوبن إيه آي في ظل تدهور العلاقة بين الشركتين خلال الفترة الماضية، خاصة بعد تعاون أوبن إيه آي مع جوني آيف، المصمم السابق لدى أبل، لتطوير أجهزة جديدة.

ويضيف النزاع القضائي فصلًا جديدًا إلى المنافسة المتزايدة بين الشركتين في مجالي الذكاء الاصطناعي والأجهزة الإلكترونية.

Continue Reading

Trending