الذكاء الاصطناعي
الإيجاز في إجابات روبوتات الدردشة دقة أقل ومخاطر أعلى
أظهرت دراسة حديثة أجرتها شركة جيسكارد المتخصصة في اختبار الذكاء الاصطناعي أن توجيه روبوتات الدردشة لتقديم إجابات مختصرة قد يؤدي إلى زيادة في معدلات “الهلوسة” — أي تقديم معلومات غير دقيقة أو مضللة. الباحثون في “جيسكارد” أوضحوا أن الطلب على الإيجاز في الإجابات، خاصةً في المواضيع المعقدة أو الغامضة، يقلل من قدرة النماذج على التحقق من صحة المعلومات أو تقديم تفسيرات دقيقة، مما يزيد من احتمالية تقديم معلومات خاطئة.
الإيجاز في إجابات روبوتات الدردشة دقة أقل ومخاطر أعلى
الإيجاز في إجابات روبوتات الدردشة دقة أقل ومخاطر أعلى
الدراسة أشارت إلى أن نماذج الذكاء الاصطناعي المتقدمة، مثل GPT-4o من “OpenAI” وClaude 3.7 Sonnet من “أنثروبيك”، تظهر انخفاضًا في دقة المعلومات عند طلب إجابات مختصرة.
الباحثون لاحظوا أن هذه النماذج، عند توجيهها لتقديم إجابات موجزة، قد تتجاهل التحقق من صحة الفرضيات أو تقديم تفاصيل مهمة، مما يؤدي إلى تقديم معلومات غير دقيقة.
توصيات للمطورين والمستخدمين
الدراسة توصي المطورين بتوخي الحذر عند تصميم واجهات تفاعلية تطلب من النماذج تقديم إجابات مختصرة، خاصةً في التطبيقات التي تتطلب دقة عالية في المعلومات.
كما يُنصح المستخدمون بعدم الاعتماد الكامل على الإجابات الموجزة من روبوتات الدردشة، خاصةً في المواضيع الحساسة أو المعقدة، وطلب توضيحات أو تفاصيل إضافية عند الحاجة.