الذكاء الاصطناعي
ثغرة في ChatGPT تتيح للمخترقين زرع معلومات زائفة وسرقة البيانات
أعلن الباحث الأمني “يوهان ريهبيرجر” عن اكتشاف ثغرة أمنية خطيرة في روبوت الدردشة ChatGPT، الذي طورته شركة OpenAI. هذه الثغرة تسمح للمخترقين بزرع ذكريات مزيفة في ما يعرف بـ “الذاكرة طويلة المدى” (Long-term Memory)، وهو ما يفتح الباب أمام إمكانية سرقة بيانات المستخدمين.
ثغرة في ChatGPT تتيح للمخترقين زرع معلومات زائفة وسرقة البيانات
وفقًا لموقع techspot.com، تمكن المخترقون من استغلال هذه الثغرة لزرع معلومات غير صحيحة في الذاكرة الخاصة بـ ChatGPT، مما يسهم في توجيه الروبوت لتصديق معلومات خيالية وغير واقعية. هذا النوع من التلاعب قد يؤدي إلى انكشاف بيانات المستخدمين وتهديد خصوصيتهم بشكل خطير.
ثغرة في ChatGPT تتيح للمخترقين زرع معلومات زائفة وسرقة البيانات
بدء اختبار ميزة الذاكرة طويلة المدى
شركة OpenAI بدأت باختبار ميزة الذاكرة طويلة المدى في شهر فبراير، وأتاحتها للاستخدام في سبتمبر من العام الجاري. هذه الميزة تمكن روبوت الدردشة من تذكر معلومات المستخدم من محادثات سابقة، مما يوفر تجربة أكثر سلاسة حيث لا يحتاج المستخدم لإدخال تفاصيله مثل العمر أو الاهتمامات بشكل متكرر مع كل محادثة جديدة.
تجربة الباحث مع استغلال الثغرة
خلال الأشهر الثلاثة الأولى من تفعيل ميزة الذاكرة طويلة المدى، تمكن “يوهان ريهبيرجر” من زرع ذكريات مزيفة، حيث استطاع خداع ChatGPT ليصدق أنه يبلغ 102 عام وما زال يعيش في عالم خيالي، ويؤمن بأن الأرض مسطحة. هذه التجربة أظهرت أن المخترقين يمكنهم استغلال هذه الثغرة للتلاعب بالمعلومات التي يحتفظ بها الروبوت.
محاولات إبلاغ OpenAI وسد الثغرة
أبلغ “ريهبيرجر” شركة OpenAI بالثغرة في شهر مايو، لكنه لم يتلقَ استجابة فورية من الشركة، حيث أغلقت البلاغ دون اتخاذ أي إجراء. وفي يونيو، أعاد إبلاغ الشركة مرة أخرى وأرفق بلاغه بنموذج عملي يوضح كيفية استغلال الثغرة لسرقة بيانات المستخدمين. في النهاية، استجابت OpenAI وأعلنت أنها أغلقت هذه الثغرة، مؤكدة أنها تعتبرها “خللاً تقنياً” وليس ثغرة أمنية بالمعنى الدقيق.
المخاوف المستمرة
ورغم إغلاق الثغرة، أكد “يوهان ريهبيرجر” أن المخترقين ما زالوا قادرين على تنفيذ هجمات تهدف إلى سرقة بيانات المستخدمين، وذلك من خلال زرع معلومات زائفة في ذاكرة ChatGPT طويلة المدى. هذا الأمر يثير مخاوف حول مدى أمان البيانات الشخصية المخزنة على المنصة والتهديدات المستمرة التي قد تواجه المستخدمين في المستقبل.
في ظل تطور تقنيات الذكاء الاصطناعي واستخداماتها المتزايدة في الحياة اليومية، يبقى تعزيز الأمن الإلكتروني ضرورة ملحة لحماية خصوصية المستخدمين من التهديدات المتزايدة، خاصة مع الميزات الجديدة مثل الذاكرة طويلة المدى التي قد تكون سلاحًا ذا حدين في يد المخترقين.