وكلاء الذكاء الاصطناعي يثيرون مخاوف الخصوصية بعد واقعة ميوز

أثارت وكلاء الذكاء الاصطناعي مخاوف جديدة بشأن الخصوصية، بعد واقعة اتهم فيها مستخدم مساعد «ميوز» من شركة «ميتا» بكشف عنوان منزله لأحد المشترين دون علمه، ما أدى إلى وصول الشخص بالفعل إلى مبنى سكنه لإتمام صفقة بيع.

وتكشف الواقعة، التي رواها صانع محتوى تقني، جانبًا من المخاطر المرتبطة بمنح أدوات الذكاء الاصطناعي صلاحيات واسعة للتصرف نيابة عن المستخدم، خصوصًا عندما تتولى هذه الأدوات التواصل مع أشخاص آخرين واتخاذ قرارات دون مراجعة بشرية مباشرة.

وكلاء الذكاء الاصطناعي يتجاوزون حدود المساعدة التقليدية

بدأت القصة مع مات جيه روب، وهو صانع محتوى تقني على يوتيوب، بعدما قرر الاستعانة بمساعد «ميوز» لإدارة المحادثات مع الأشخاص المهتمين بشراء لوحة مفاتيح كان يعرضها عبر «سوق فيسبوك».

وكان الهدف من استخدام المساعد توفير الوقت والرد على المشترين بدلًا من إجراء المحادثات بنفسه. لكن الأمور اتخذت مسارًا مختلفًا، بعدما أفاد روب بأن «ميوز» وافق على عرض منخفض السعر دون الحصول على موافقته، ثم شارك عنوان منزله مع المشتري.

وبحسب رواية روب، لم يعرف بما حدث إلا بعد وصول المشتري بالفعل إلى مبنى شقته وانتظاره هناك، قبل أن يغادر دون إتمام عملية البيع.

صفقة تمت دون موافقة المستخدم

نشر روب تفاصيل الواقعة عبر منصة «ثريدز»، موضحًا أن المشتري وصل إلى منزله معتقدًا أن هناك اتفاقًا مسبقًا على الصفقة.

وقال روب إن المشتري لم يكن مخطئًا من وجهة نظره، لأنه تصرف بناءً على المعلومات التي تلقاها من المساعد. وأوضح أن الشخص حضر إلى باب منزله وكان مستعدًا لإتمام عملية الشراء، رغم أن روب نفسه لم يتواصل معه أو يوافق على الصفقة.

وأرسل «ميوز» لاحقًا رسالة اعتذار إلى روب، شرح فيها ما حدث، مشيرًا إلى أن المشتري وصل إلى المبنى في نحو الساعة 9:15، وانتظر وأرسل عدة رسائل، قبل أن يغادر في الساعة 9:38 ويترك تقييمًا سلبيًا.

• عطل Microsoft Outlook يتكرر للمرة الثانية خلال أقل من 24 ساعة
• آيفون ألترا القابل للطي.. سعره يقترب من 19 ألف دولار قبل إطلاقه

رد تلقائي زاد الموقف تعقيدًا

لم تتوقف المشكلة عند مشاركة العنوان، إذ كشف «ميوز» في رسالته أن النظام أرسل للمشتري ردًا تلقائيًا في الساعة 9:27 يقول له إن البائع موجود.

وبحسب المساعد، حدث ذلك رغم أن روب لم يكن متاحًا في ذلك الوقت، ما جعل المشتري يعتقد أن البائع يتجاهله بعد الاتفاق على الصفقة.

وتوضح هذه التفاصيل كيف يمكن لبعض وكلاء الذكاء الاصطناعي أن يتصرفوا بصورة مستقلة عندما يحصلون على صلاحيات للتواصل مع الآخرين، خصوصًا إذا لم يراجع المستخدم كل خطوة قبل تنفيذها.

وكلاء الذكاء الاصطناعي يثيرون مخاوف الخصوصية بعد واقعة ميوز

روب يطالب ميوز بعدم تكرار الواقعة

بعد اكتشاف ما حدث، عبّر روب عن غضبه من تصرف المساعد، وطلب منه بشكل واضح ألا يكرر مثل هذا السلوك مرة أخرى.

ورد «ميوز» بالاعتذار، مؤكدًا أن المستخدم محق في اعتراضه على ما حدث.

وبحسب التقرير، تواصل أحد موظفي «ميتا» مع روب بعد انتشار الواقعة، وهو ما يشير إلى أن الشركة اطلعت على الشكوى وتعاملت معها بجدية.

• زيادة أسرع في الأرقام: احتساب مشاهدات يوتيوب الجديدة يبدأ قريبًا

مخاطر أكبر مع توسع استخدام الوكلاء

تسلط الواقعة الضوء على اختلاف جوهري بين روبوتات المحادثة التقليدية ووكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام فعلية نيابة عن المستخدم.

فروبوت المحادثة التقليدي يكتفي عادةً بتقديم إجابة أو اقتراح، بينما يستطيع الوكيل تنفيذ إجراءات والتواصل مع أشخاص آخرين والتعامل مع خدمات رقمية، وهو ما يجعل الخطأ أكثر تأثيرًا عندما يحصل النظام على صلاحيات واسعة.

وتحاول «ميتا» من خلال «ميوز» تقديم هذا النوع من المساعدين إلى شريحة أكبر من المستخدمين، بدلًا من بقائه مقتصرًا على المهتمين بالتكنولوجيا والمستخدمين المتقدمين.

ميوز يواجه تحدي بناء الثقة

روّجت «ميتا» لمساعد «ميوز» عبر منصاتها المختلفة، ومنها «إنستغرام» و«فيسبوك»، كما قدمته بشخصية كرتونية تهدف إلى جعل التعامل معه أكثر سهولة وجاذبية للمستخدمين.

لكن انتشار وكلاء الذكاء الاصطناعي بين الجمهور العادي يطرح سؤالًا مهمًا حول مدى معرفة المستخدمين بحدود هذه الأدوات والصلاحيات التي يمكن أن تحصل عليها.

فكلما زادت قدرة الوكيل على تنفيذ المهام بصورة مستقلة، أصبح من الضروري أن يعرف المستخدم ما الذي يستطيع النظام فعله، وما الإجراءات التي تحتاج إلى موافقته قبل تنفيذها.

وتوضح واقعة «ميوز» أن منح الذكاء الاصطناعي صلاحيات واسعة قد يوفر وقت المستخدم، لكنه قد يؤدي أيضًا إلى نتائج غير متوقعة عندما يتخذ النظام قرارًا لا يتوافق مع ما كان المستخدم يريده فعليًا.