ChatGPT هو روبوت محادثة ذكاء اصطناعي تم تطويره بواسطة OpenAI، والذي يهدف إلى محاكاة المحادثة البشرية. يمكنه تذكر ما قلته له في الماضي وإجراء محادثة معك بطلاقة. يفترض القدرة على الاعتراف بالأخطاء وتصحيحها.
ومع ذلك، بعد إطلاق الإصدار التجريبي من برنامج ChatGPT bot، قال العديد من المستخدمين إن لديه بعض المشكلات، والتي من المحتمل أن تكون خطيرة. إذن ما الخطأ في استخدام برنامج ChatGPT bot؟
1- احتمال الخطأ وارد
يعطي ChatGPT أحيانًا إجابات خاطئة، ويحذر Open AI من أن ChatGPT سيعطيك إجابات خاطئة. على سبيل المثال، عندما يتعلق الأمر بأخذ المشورة الطبية من هذا الروبوت وتطبيقه، فهذه مشكلة كبيرة.
على عكس تقنيات المساعد الصوتي الأخرى القائمة على الذكاء الاصطناعي مثل Siri أو Alexa، لا يستخدم ChatGPT الإنترنت لتحديد الإجابات. بدلاً من ذلك، يستخدم المعلومات المستفادة من بيانات التدريب لتقديم إجابات، مما يترك مجالًا للخطأ، لذلك من المهم عدم تصديق كل ما يقوله.
2- التحيز في بعض الإجابات
يقول مستخدمو الروبوت إن بعض إجاباته قد تكون متحيزة ضد مجموعة معينة، أو قد تقدم بعض الإجابات الضارة لمجموعات أخرى، على الرغم من أن الباحثين ومطوري البيانات المستخدمة لتدريب ChatGPT يعملون على معالجة ما يسميه OpenAI “السلوك المتحيز”، واطلب من المستخدم تقديم ملاحظات على الإخراج المناسبات التي قد يظهر فيها هذا الروبوت.
3- التأثير السلبي التعليم
يمكن للطلاب استخدام ChatGPT للمساعدة في المهام والتقارير. يمكن أن يكون لذلك تأثير سلبي على مستواهم التعليمي. حاول بعض المعلمين سؤال ChatGPT عن مهام اللغة الإنجليزية وحصلوا على إجابات أفضل من العديد من طلابهم.
اعترف بعض الطلاب أيضًا باستخدام ChatGPT للواجبات المنزلية، بينما قرر آخرون استخدامه بدلاً من الغش في موقع المساعدة في الواجبات المنزلية Chegg.
ونتيجة لذلك، أثار الروبوت مخاوف المعلمين والأساتذة في الجامعات والمعاهد البحثية، حيث يمكن أن يسمح للطلاب بالغش على نطاق واسع دون القدرة على اكتشاف الطلاب. هذا يطرح السؤال التالي: إذا كان بإمكان ChatGPT الكتابة والقيام بالواجبات المنزلية، فكيف سيؤثر ذلك على مستقبل التعليم؟
راجع هذا المقال لمزيد من التفاصيل حول هذا الأمر: الذكاء الاصطناعي في ChatGPT نعمة أم نقمة؟
4- يمكن أن يسبب ضررًا واقعيًا
يمكن أن تسبب المعلومات غير الصحيحة من ChatGPT ضررًا في العالم الحقيقي، لذلك هناك مشكلات أخرى بخلاف الأمثلة المذكورة أعلاه لأخذ وتطبيق نصائح طبية قد تكون خاطئة. قد يساعد ذلك في ظهور حسابات وسائط اجتماعية مزيفة، وقد يصبح ارتكاب عمليات الاحتيال عبر الإنترنت أسهل. يشكل أيضا النشر التضليل هو مشكلة أخرى، خاصة عندما يجعل ChatGPT الإجابات الخاطئة تبدو صحيحة بشكل مقنع.
5- أهداف الشركة المطورة
كانت شركة OpenAI واحدة من أولى شركات الذكاء الاصطناعي التي قدمت نماذج قوية متعددة للذكاء الاصطناعي، بما في ذلك Dall-E 2 و GPT-3 والآن ChatGPT. تختار الشركة البيانات التي يجب استخدامها لتدريب ChatGPT وكيف تتعامل مع النتائج السلبية. هذا هو السبب في أن OpenAI هو المتحكم النهائي في كل شيء يولده الروبوت، سواء اتفقنا معه أم لا. لا، ستواصل الشركة تطوير التكنولوجيا وفقًا لأهدافها الخاصة.
أخبرنا برأيك في هذه المخاوف الخاصة بالذكاء الاصطناعي في ChatGPT
