تزايد الاعتماد على ChatGPT في البحث والكتابة والبرمجة وتلخيص المعلومات، لكن بعض استخدامات ChatGPT الخطيرة قد تعرض المستخدم لمشكلات قانونية أو صحية أو أمنية، خاصة عند مشاركة معلومات حساسة أو الاعتماد على إجابات الذكاء الاصطناعي في قرارات تحتاج إلى متخصص بشري.

وشهدت الفترة الأخيرة عدة وقائع أثارت تساؤلات حول حدود استخدام روبوتات المحادثة، بعدما ظهرت حالات تضمنت الاستشهاد بأحكام قضائية غير موجودة، ومشاركة مستندات عمل سرية، والاعتماد على إجابات غير دقيقة في مسائل صحية.

كما أشار سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إلى أن المحادثات مع ChatGPT لا تتمتع بالحماية القانونية نفسها التي قد تحظى بها بعض المحادثات بين الأشخاص والمتخصصين، مثل الأطباء والمحامين والمعالجين النفسيين.

ولهذا يمكن الاستفادة من ChatGPT في مهام كثيرة، لكن من المهم معرفة المجالات التي تستدعي حذرًا أكبر، خصوصًا عندما تتعلق البيانات بالصحة أو القانون أو العمل أو الحسابات الشخصية.

استخدامات ChatGPT الخطيرة تبدأ بالاستشارات القانونية

يُعد الاعتماد على ChatGPT للحصول على استشارة قانونية شخصية من أبرز الاستخدامات التي تحتاج إلى الحذر، خصوصًا أن روبوتات الذكاء الاصطناعي قد تقدم أحيانًا معلومات أو مراجع غير دقيقة.

وسجل الباحث في القانون وعلوم البيانات داميان شارلوتان آلاف الحالات التي شهدت استخدام مخرجات الذكاء الاصطناعي في إجراءات قضائية، بما في ذلك الاستشهاد بأحكام أو اقتباسات قانونية غير موجودة.

ولم تقتصر هذه الحالات على الأشخاص الذين يمثلون أنفسهم أمام المحاكم، بل شملت أيضًا محامين استخدموا مخرجات مولدة بالذكاء الاصطناعي ضمن مستندات قانونية.

وقد دفعت هذه الوقائع بعض المحاكم إلى فرض عقوبات وغرامات على أطراف قدموا معلومات أو مراجع قانونية غير حقيقية، بينما ظهرت حالات مشابهة في أكثر من دولة.

5 استخدامات ChatGPT الخطيرة.. معلومات لا يجب مشاركتها مع روبوتات الذكاء الاصطناعي

استخدم ChatGPT لفهم القانون وليس لإدارة قضيتك

يمكن استخدام ChatGPT في شرح المفاهيم القانونية العامة أو تبسيط المصطلحات، لكن التعامل مع قضية شخصية أو نزاع قائم يحتاج إلى مراجعة محامٍ مرخص.

كما أن إدخال تفاصيل قضية حساسة في محادثة مع روبوت ذكاء اصطناعي لا يعني أنها تتمتع تلقائيًا بالحماية القانونية التي قد تنطبق على بعض الاتصالات بين المحامي وموكله.

لذلك، يجب التعامل بحذر مع أي معلومات تتعلق بقضية قانونية أو نزاع قضائي، وعدم اعتبار إجابات ChatGPT بديلًا عن المشورة القانونية المتخصصة.

ومن استخدامات ChatGPT الخطيرة أيضًا الاعتماد عليه في إعداد مستندات قضائية دون مراجعة مصادرها، لأن النموذج قد ينتج معلومات تبدو صحيحة لكنها لا تستند إلى أحكام أو قوانين حقيقية.

لا تستخدم ChatGPT كبديل للمعالج النفسي

قد يلجأ بعض المستخدمين إلى ChatGPT للحديث عن مشكلات شخصية أو ضغوط نفسية، لكن ذلك لا يجعله بديلًا عن الطبيب أو المعالج النفسي المتخصص.

وأشارت OpenAI في تقارير سابقة إلى وجود محادثات مع المستخدمين تتضمن مؤشرات مرتبطة بالأزمات النفسية أو الأفكار الانتحارية، وهو ما يعكس حجم المسؤولية التي تواجهها روبوتات المحادثة عند التعامل مع هذه الحالات.

كما أقر سام ألتمان بأن بعض الأشخاص، وخاصة الشباب، قد يتعاملون مع ChatGPT باعتباره معالجًا نفسيًا أو مدربًا للحياة، رغم اختلاف طبيعة العلاقة عن العلاقة مع متخصص بشري.

• سامسونغ تستعد لإطلاق ميزة قفل التطبيقات في هواتف غالاكسي
• استهلاك الشاحن السريع للكهرباء.. هل يرفع فاتورة الكهرباء؟

خطر تأكيد أفكار المستخدم بدلًا من تحديها

تظهر مشكلة أخرى عندما يعتمد المستخدم على روبوت المحادثة للحصول على تقييم لمواقف شخصية معقدة.

فإذا عرض شخص خلافًا مع شريكه من وجهة نظره فقط، فقد يبني النموذج إجابته على المعلومات التي حصل عليها دون امتلاك الصورة الكاملة للموقف. وقد يؤدي ذلك أحيانًا إلى تقديم رد يبدو مؤيدًا لرؤية المستخدم بدلًا من تقييم الموقف من جميع جوانبه.

ولهذا، يمكن استخدام ChatGPT للمساعدة في تنظيم الأفكار أو صياغة أسئلة لمناقشتها مع متخصص، لكن لا ينبغي الاعتماد عليه وحده في الأزمات النفسية.

وتزداد خطورة بعض استخدامات ChatGPT الخطيرة عندما يتعامل المستخدم مع إجابات الروبوت باعتبارها تقييمًا نفسيًا دقيقًا أو تشخيصًا لحالته، رغم أن النموذج لا يحل محل التقييم السريري الذي يجريه متخصص مؤهل.

لا تدخل معلومات العمل السرية إلى ChatGPT

تُعد مشاركة المستندات الداخلية أو البيانات السرية مع روبوتات الذكاء الاصطناعي من الاستخدامات التي تستدعي الحذر، خصوصًا عندما تخضع المعلومات لاتفاقيات عدم إفصاح أو سياسات أمنية داخل الشركة.

وظهرت بالفعل وقائع دفعت شركات ومؤسسات إلى تشديد القيود على استخدام أدوات الذكاء الاصطناعي التوليدي، بعدما أدخل موظفون بيانات أو أكوادًا داخلية في أدوات عامة.

ومن أشهر الأمثلة شركة سامسونغ، التي فرضت قيودًا على استخدام أدوات الذكاء الاصطناعي التوليدي بعد إدخال مهندسين شفرة مصدر داخلية إلى ChatGPT.

• الذكاء الاصطناعي في تصميم الفيروسات .. خطوة علمية تفتح آفاقًا للعلاج وتثير مخاوف أمنية

بيانات العملاء والأكواد السرية تحتاج إلى حماية

لا ينبغي إدخال بيانات العملاء أو المستندات الداخلية أو المعلومات التي يحظر صاحب العمل مشاركتها في حساب شخصي لخدمة ذكاء اصطناعي.

وينطبق الأمر نفسه على أكواد البرامج غير المنشورة، وخطط المنتجات، والعقود، والبيانات المالية، وأي معلومات تخضع لاتفاقية عدم إفصاح.

ومن استخدامات ChatGPT الخطيرة في بيئة العمل نسخ بريد إلكتروني داخلي أو عقد سري أو قاعدة بيانات عملاء إلى روبوت المحادثة بهدف تلخيصها أو إعادة صياغتها دون التأكد أولًا من سياسة الشركة.

حتى إذا لم يقصد المستخدم مشاركة هذه المعلومات مع أي شخص آخر، فإن إدخالها في خدمة خارجية يضعها ضمن بيئة معالجة بيانات تختلف عن أنظمة الشركة الداخلية.

لذلك، يجب الرجوع إلى سياسة المؤسسة قبل استخدام أي أداة ذكاء اصطناعي في التعامل مع معلومات العمل.

لا تعتمد على ChatGPT للحصول على استشارة طبية

تحتاج المعلومات الصحية إلى مستوى مرتفع من الدقة، ولذلك لا ينبغي استخدام ChatGPT لتشخيص الأمراض أو تحديد العلاج أو تغيير الأدوية من دون الرجوع إلى طبيب أو صيدلي مختص.

قد يقدم روبوت المحادثة معلومات مفيدة حول معنى مصطلح طبي أو شرح عام لحالة صحية، لكن الإجابة التي تبدو منطقية لا تعني بالضرورة أنها مناسبة للحالة الفردية للمستخدم.

وتزداد الخطورة عندما يعتمد الشخص على إجابة الذكاء الاصطناعي بدلًا من الحصول على تقييم طبي حقيقي، خصوصًا في الحالات الطارئة أو عند وجود أعراض شديدة أو غير معتادة.

لا تعتبر إجابة الذكاء الاصطناعي وصفة علاجية

من الأمثلة اللافتة على مخاطر الاعتماد على إجابات غير دقيقة واقعة رجل في الولايات المتحدة تناول بروميد الصوديوم بعد حصوله على معلومات من ChatGPT حول تقليل الكلوريد في نظامه الغذائي، وانتهى به الأمر إلى دخول المستشفى.

وتوضح هذه الواقعة أهمية عدم التعامل مع إجابات الذكاء الاصطناعي باعتبارها تعليمات طبية قابلة للتنفيذ، خصوصًا عندما تتعلق بتغيير النظام الغذائي أو تناول مواد أو إيقاف دواء أو تعديل جرعته.

وتدخل الاستشارات الطبية ضمن استخدامات ChatGPT الخطيرة عندما يتخذ المستخدم قرارًا علاجيًا اعتمادًا على إجابة روبوت المحادثة وحدها، دون مراجعة الطبيب أو الصيدلي.

لا تدخل كلمات المرور وبيانات الهوية والحسابات

يجب التعامل مع كلمات المرور والبيانات المالية ووثائق الهوية باعتبارها معلومات شديدة الحساسية، وعدم إدخالها في محادثات مع ChatGPT أو أي روبوت محادثة آخر.

وتشمل المعلومات التي يجب عدم مشاركتها كلمات المرور، ورموز تسجيل الدخول لمرة واحدة، وأرقام البطاقات المصرفية، وبيانات الحسابات البنكية، وأرقام وثائق الهوية، وأي معلومات يمكن استخدامها للوصول إلى حساباتك.

وأثارت واقعة ظهور محادثات ChatGPT في نتائج بحث Google خلال عام 2025 مخاوف بشأن الطريقة التي يمكن أن تنتشر بها بعض المحادثات عندما يختار المستخدمون مشاركتها بطريقة تجعلها قابلة للاكتشاف.

احذر من مشاركة البيانات الشخصية

تضيف ميزات الذاكرة واستمرارية المحادثات أهمية إضافية للتعامل بحذر مع المعلومات الشخصية، لأن بعض البيانات قد تستمر في الارتباط بتجربة المستخدم وفقًا للإعدادات والميزات المستخدمة.

لذلك، يجب عدم إدخال أي معلومة يمكن أن تؤدي إلى سرقة الهوية أو الوصول إلى الحسابات أو خسائر مالية في محادثة مع روبوت ذكاء اصطناعي.

ومن استخدامات ChatGPT الخطيرة أيضًا إرسال صور جوازات السفر أو بطاقات الهوية أو تفاصيل البطاقات البنكية بهدف استخراج المعلومات منها، لأن هذه البيانات لا تحتاجها معظم مهام الذكاء الاصطناعي اليومية.

تصاعد خلاف أوبن إيه آي وعلماء الرياضيات بعد توقيع 25 عالمًا بارزًا رسالة مفتوحة تحذر من تأثير مختبرات الذكاء الاصطناعي على البحث الرياضي والعمل الفكري. ويحمل جميع الموقعين على الرسالة ميدالية فيلدز، إحدى أرفع الجوائز العالمية في الرياضيات.

وجاءت الرسالة وسط توتر متزايد بين OpenAI والباحثين الأكاديميين، خصوصًا بعد خلاف حول نسب مساهمات باحثين في حل مسألة رياضية مهمة، إلى جانب تساؤلات بشأن استخدام أدوات الذكاء الاصطناعي في تطوير براهين جديدة.

خلاف أوبن إيه آي وعلماء الرياضيات يثير أزمة حول نسب الإنجازات

لا يعارض علماء الرياضيات قدرة الذكاء الاصطناعي على التعامل مع المسائل المعقدة، بل يرون أن هذه القدرة يمكن أن تحقق فوائد كبيرة للعلم.

لكنهم يؤكدون ضرورة التحقق من الحلول وشرحها وتوثيقها، حتى يتمكن المجتمع العلمي من فهم الأفكار الجديدة والبناء عليها.

ويحذر العلماء من إعلان نتائج الذكاء الاصطناعي بسرعة، قبل منح الباحثين الوقت الكافي لفحص البراهين وتحديد الأفكار الجديدة وربطها بالأبحاث السابقة.

برهان أوبن إيه آي يفتح بابًا للجدل

زاد الجدل بعد ظهور تساؤلات حول برهان طورته OpenAI باستخدام Codex، ووصفته الشركة بأنه إنجاز مهم في مجال الرياضيات.

ويرى الباحثون أن عدم التحقق المستقل من مثل هذه النتائج يخلق مشكلات تتعلق بصحة البرهان، إلى جانب أسئلة أخرى حول مصدر الأفكار ونسب الفضل إلى أصحابها.

وتتجاوز القضية مسألة تحديد صاحب الإنجاز، لأن تطور الرياضيات يعتمد على تراكم الأفكار وانتقالها بين الباحثين والأجيال.

خلاف أوبن إيه آي وعلماء الرياضيات.. 25 عالمًا يحذرون من تهديد الذكاء الاصطناعي للبحث

مخاوف من تراجع البحث العلمي المفتوح

يخشى علماء الرياضيات أيضًا أن تدفع المنافسة مع شركات الذكاء الاصطناعي الباحثين إلى إخفاء أعمالهم بدلًا من نشرها.

فإذا استطاعت مختبرات الذكاء الاصطناعي استخدام بحث منشور للوصول إلى نتيجة مهمة قبل صاحبه، فقد يتراجع حافز الباحثين على مشاركة أفكارهم بصورة مفتوحة.

كما يطرح استخدام أدوات مثل Codex في الأبحاث تساؤلات حول إمكانية استفادة نماذج الذكاء الاصطناعي من أعمال الباحثين لتطوير قدراتها المستقبلية.

• آيفون القابل للطي يقترب.. تجارب مبكرة تكشف مفاجآت هاتف أبل المنتظر
• الذكاء الاصطناعي في التوظيف يحذف السير الذاتية.. وديب مايند تبتكر طريقة لتجاوزه

إعلان ليدن حذر من تغير طبيعة الرياضيات

تأتي الرسالة الجديدة بعد إعلان ليدن الذي أصدره عدد من علماء الرياضيات في يونيو الماضي، وتناول تأثير البراهين التي تنتجها نماذج الذكاء الاصطناعي على مستقبل المجال.

وقدم الإعلان توصيات للباحثين والمؤسسات وصناع السياسات، مع التركيز على ضرورة الحفاظ على القيمة الفكرية للرياضيات إلى جانب الاستفادة من الأدوات الجديدة.

لماذا تتجاوز الأزمة حدود الرياضيات؟

لا يرى العلماء أن المشكلة تخص الرياضيات وحدها، إذ تواجه مجالات علمية وإبداعية أخرى تغيرات مشابهة مع توسع استخدام الذكاء الاصطناعي.

وتكمن المخاوف في أن التركيز على سرعة إنتاج النتائج قد يقلل من قيمة الفهم البشري، الذي يساعد على تعليم الأجيال الجديدة وطرح أسئلة مختلفة وربط الاكتشافات ضمن منظومة معرفية متكاملة.

ويكشف خلاف أوبن إيه آي وعلماء الرياضيات عن سؤال أكبر يواجه مختلف المجالات: كيف يمكن الاستفادة من الذكاء الاصطناعي دون فقدان الدور البشري الذي يمنح العمل العلمي قيمته ومعناه؟