أخبار تقنية
5 استخدامات ChatGPT الخطيرة.. معلومات لا يجب مشاركتها مع روبوتات الذكاء الاصطناعي
تزايد الاعتماد على ChatGPT في البحث والكتابة والبرمجة وتلخيص المعلومات، لكن بعض استخدامات ChatGPT الخطيرة قد تعرض المستخدم لمشكلات قانونية أو صحية أو أمنية، خاصة عند مشاركة معلومات حساسة أو الاعتماد على إجابات الذكاء الاصطناعي في قرارات تحتاج إلى متخصص بشري.
وشهدت الفترة الأخيرة عدة وقائع أثارت تساؤلات حول حدود استخدام روبوتات المحادثة، بعدما ظهرت حالات تضمنت الاستشهاد بأحكام قضائية غير موجودة، ومشاركة مستندات عمل سرية، والاعتماد على إجابات غير دقيقة في مسائل صحية.
كما أشار سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إلى أن المحادثات مع ChatGPT لا تتمتع بالحماية القانونية نفسها التي قد تحظى بها بعض المحادثات بين الأشخاص والمتخصصين، مثل الأطباء والمحامين والمعالجين النفسيين.
ولهذا يمكن الاستفادة من ChatGPT في مهام كثيرة، لكن من المهم معرفة المجالات التي تستدعي حذرًا أكبر، خصوصًا عندما تتعلق البيانات بالصحة أو القانون أو العمل أو الحسابات الشخصية.
استخدامات ChatGPT الخطيرة تبدأ بالاستشارات القانونية
يُعد الاعتماد على ChatGPT للحصول على استشارة قانونية شخصية من أبرز الاستخدامات التي تحتاج إلى الحذر، خصوصًا أن روبوتات الذكاء الاصطناعي قد تقدم أحيانًا معلومات أو مراجع غير دقيقة.
وسجل الباحث في القانون وعلوم البيانات داميان شارلوتان آلاف الحالات التي شهدت استخدام مخرجات الذكاء الاصطناعي في إجراءات قضائية، بما في ذلك الاستشهاد بأحكام أو اقتباسات قانونية غير موجودة.
ولم تقتصر هذه الحالات على الأشخاص الذين يمثلون أنفسهم أمام المحاكم، بل شملت أيضًا محامين استخدموا مخرجات مولدة بالذكاء الاصطناعي ضمن مستندات قانونية.
وقد دفعت هذه الوقائع بعض المحاكم إلى فرض عقوبات وغرامات على أطراف قدموا معلومات أو مراجع قانونية غير حقيقية، بينما ظهرت حالات مشابهة في أكثر من دولة.
5 استخدامات ChatGPT الخطيرة.. معلومات لا يجب مشاركتها مع روبوتات الذكاء الاصطناعي
استخدم ChatGPT لفهم القانون وليس لإدارة قضيتك
يمكن استخدام ChatGPT في شرح المفاهيم القانونية العامة أو تبسيط المصطلحات، لكن التعامل مع قضية شخصية أو نزاع قائم يحتاج إلى مراجعة محامٍ مرخص.
كما أن إدخال تفاصيل قضية حساسة في محادثة مع روبوت ذكاء اصطناعي لا يعني أنها تتمتع تلقائيًا بالحماية القانونية التي قد تنطبق على بعض الاتصالات بين المحامي وموكله.
لذلك، يجب التعامل بحذر مع أي معلومات تتعلق بقضية قانونية أو نزاع قضائي، وعدم اعتبار إجابات ChatGPT بديلًا عن المشورة القانونية المتخصصة.
ومن استخدامات ChatGPT الخطيرة أيضًا الاعتماد عليه في إعداد مستندات قضائية دون مراجعة مصادرها، لأن النموذج قد ينتج معلومات تبدو صحيحة لكنها لا تستند إلى أحكام أو قوانين حقيقية.
لا تستخدم ChatGPT كبديل للمعالج النفسي
قد يلجأ بعض المستخدمين إلى ChatGPT للحديث عن مشكلات شخصية أو ضغوط نفسية، لكن ذلك لا يجعله بديلًا عن الطبيب أو المعالج النفسي المتخصص.
وأشارت OpenAI في تقارير سابقة إلى وجود محادثات مع المستخدمين تتضمن مؤشرات مرتبطة بالأزمات النفسية أو الأفكار الانتحارية، وهو ما يعكس حجم المسؤولية التي تواجهها روبوتات المحادثة عند التعامل مع هذه الحالات.
كما أقر سام ألتمان بأن بعض الأشخاص، وخاصة الشباب، قد يتعاملون مع ChatGPT باعتباره معالجًا نفسيًا أو مدربًا للحياة، رغم اختلاف طبيعة العلاقة عن العلاقة مع متخصص بشري.
- سامسونغ تستعد لإطلاق ميزة قفل التطبيقات في هواتف غالاكسي
- استهلاك الشاحن السريع للكهرباء.. هل يرفع فاتورة الكهرباء؟
خطر تأكيد أفكار المستخدم بدلًا من تحديها
تظهر مشكلة أخرى عندما يعتمد المستخدم على روبوت المحادثة للحصول على تقييم لمواقف شخصية معقدة.
فإذا عرض شخص خلافًا مع شريكه من وجهة نظره فقط، فقد يبني النموذج إجابته على المعلومات التي حصل عليها دون امتلاك الصورة الكاملة للموقف. وقد يؤدي ذلك أحيانًا إلى تقديم رد يبدو مؤيدًا لرؤية المستخدم بدلًا من تقييم الموقف من جميع جوانبه.
ولهذا، يمكن استخدام ChatGPT للمساعدة في تنظيم الأفكار أو صياغة أسئلة لمناقشتها مع متخصص، لكن لا ينبغي الاعتماد عليه وحده في الأزمات النفسية.
وتزداد خطورة بعض استخدامات ChatGPT الخطيرة عندما يتعامل المستخدم مع إجابات الروبوت باعتبارها تقييمًا نفسيًا دقيقًا أو تشخيصًا لحالته، رغم أن النموذج لا يحل محل التقييم السريري الذي يجريه متخصص مؤهل.
لا تدخل معلومات العمل السرية إلى ChatGPT
تُعد مشاركة المستندات الداخلية أو البيانات السرية مع روبوتات الذكاء الاصطناعي من الاستخدامات التي تستدعي الحذر، خصوصًا عندما تخضع المعلومات لاتفاقيات عدم إفصاح أو سياسات أمنية داخل الشركة.
وظهرت بالفعل وقائع دفعت شركات ومؤسسات إلى تشديد القيود على استخدام أدوات الذكاء الاصطناعي التوليدي، بعدما أدخل موظفون بيانات أو أكوادًا داخلية في أدوات عامة.
ومن أشهر الأمثلة شركة سامسونغ، التي فرضت قيودًا على استخدام أدوات الذكاء الاصطناعي التوليدي بعد إدخال مهندسين شفرة مصدر داخلية إلى ChatGPT.
بيانات العملاء والأكواد السرية تحتاج إلى حماية
لا ينبغي إدخال بيانات العملاء أو المستندات الداخلية أو المعلومات التي يحظر صاحب العمل مشاركتها في حساب شخصي لخدمة ذكاء اصطناعي.
وينطبق الأمر نفسه على أكواد البرامج غير المنشورة، وخطط المنتجات، والعقود، والبيانات المالية، وأي معلومات تخضع لاتفاقية عدم إفصاح.
ومن استخدامات ChatGPT الخطيرة في بيئة العمل نسخ بريد إلكتروني داخلي أو عقد سري أو قاعدة بيانات عملاء إلى روبوت المحادثة بهدف تلخيصها أو إعادة صياغتها دون التأكد أولًا من سياسة الشركة.
حتى إذا لم يقصد المستخدم مشاركة هذه المعلومات مع أي شخص آخر، فإن إدخالها في خدمة خارجية يضعها ضمن بيئة معالجة بيانات تختلف عن أنظمة الشركة الداخلية.
لذلك، يجب الرجوع إلى سياسة المؤسسة قبل استخدام أي أداة ذكاء اصطناعي في التعامل مع معلومات العمل.
لا تعتمد على ChatGPT للحصول على استشارة طبية
تحتاج المعلومات الصحية إلى مستوى مرتفع من الدقة، ولذلك لا ينبغي استخدام ChatGPT لتشخيص الأمراض أو تحديد العلاج أو تغيير الأدوية من دون الرجوع إلى طبيب أو صيدلي مختص.
قد يقدم روبوت المحادثة معلومات مفيدة حول معنى مصطلح طبي أو شرح عام لحالة صحية، لكن الإجابة التي تبدو منطقية لا تعني بالضرورة أنها مناسبة للحالة الفردية للمستخدم.
وتزداد الخطورة عندما يعتمد الشخص على إجابة الذكاء الاصطناعي بدلًا من الحصول على تقييم طبي حقيقي، خصوصًا في الحالات الطارئة أو عند وجود أعراض شديدة أو غير معتادة.
لا تعتبر إجابة الذكاء الاصطناعي وصفة علاجية
من الأمثلة اللافتة على مخاطر الاعتماد على إجابات غير دقيقة واقعة رجل في الولايات المتحدة تناول بروميد الصوديوم بعد حصوله على معلومات من ChatGPT حول تقليل الكلوريد في نظامه الغذائي، وانتهى به الأمر إلى دخول المستشفى.
وتوضح هذه الواقعة أهمية عدم التعامل مع إجابات الذكاء الاصطناعي باعتبارها تعليمات طبية قابلة للتنفيذ، خصوصًا عندما تتعلق بتغيير النظام الغذائي أو تناول مواد أو إيقاف دواء أو تعديل جرعته.
وتدخل الاستشارات الطبية ضمن استخدامات ChatGPT الخطيرة عندما يتخذ المستخدم قرارًا علاجيًا اعتمادًا على إجابة روبوت المحادثة وحدها، دون مراجعة الطبيب أو الصيدلي.
لا تدخل كلمات المرور وبيانات الهوية والحسابات
يجب التعامل مع كلمات المرور والبيانات المالية ووثائق الهوية باعتبارها معلومات شديدة الحساسية، وعدم إدخالها في محادثات مع ChatGPT أو أي روبوت محادثة آخر.
وتشمل المعلومات التي يجب عدم مشاركتها كلمات المرور، ورموز تسجيل الدخول لمرة واحدة، وأرقام البطاقات المصرفية، وبيانات الحسابات البنكية، وأرقام وثائق الهوية، وأي معلومات يمكن استخدامها للوصول إلى حساباتك.
وأثارت واقعة ظهور محادثات ChatGPT في نتائج بحث Google خلال عام 2025 مخاوف بشأن الطريقة التي يمكن أن تنتشر بها بعض المحادثات عندما يختار المستخدمون مشاركتها بطريقة تجعلها قابلة للاكتشاف.
احذر من مشاركة البيانات الشخصية
تضيف ميزات الذاكرة واستمرارية المحادثات أهمية إضافية للتعامل بحذر مع المعلومات الشخصية، لأن بعض البيانات قد تستمر في الارتباط بتجربة المستخدم وفقًا للإعدادات والميزات المستخدمة.
لذلك، يجب عدم إدخال أي معلومة يمكن أن تؤدي إلى سرقة الهوية أو الوصول إلى الحسابات أو خسائر مالية في محادثة مع روبوت ذكاء اصطناعي.
ومن استخدامات ChatGPT الخطيرة أيضًا إرسال صور جوازات السفر أو بطاقات الهوية أو تفاصيل البطاقات البنكية بهدف استخراج المعلومات منها، لأن هذه البيانات لا تحتاجها معظم مهام الذكاء الاصطناعي اليومية.