fbpx
Connect with us

أخبار تقنية

جوجل تعلق على مخاوف من وجود “وعي” للذكاء الصناعي

Avatar of منصور أشرف

Published

on

100119431 adfd7123 2071 4859 9818 cd17fae47bfa

وضعت شركة جوجل أحد مهندسيها في إجازة إدارية مدفوعة الأجر بزعم انتهاكه لسياساتها للسرية بعد أن أصبح قلقًا من أن نظام الدردشة الآلي للذكاء الاصطناعي قد أصبح واعيًا، حسبما ذكرت صحيفة واشنطن بوست.

وقال المهندس يعتقد أن البرنامج قد حقق مستوى من الوعي بعد مئات التفاعلات مع أحدث أنظمة الذكاء الاصطناعي التي لم يتم إصدارها التي تسمى لامدا LaMDA.

وتعمل شركات التكنولوجيا باستمرار على زيادة قدرات الذكاء الاصطناعي المتطور باستمرار. ولكن جوجل سارعت إلى إيقاف المزاعم بأن أحد برامجها قد تقدم كثيرًا لدرجة أنه أصبح واعيًا.

ويعمل المهندس بليك ليموين في منظمة الذكاء الاصطناعي المسؤولة في جوجل. وكان يختبر ما إذا كان نموذج لامدا يولد لغة تمييزية أو خطاب كراهية.

imrs

ونشأت مخاوف المهندس من الردود المقنعة التي رأى أن نظام الذكاء الاصطناعي يولدها حول حقوقه وأخلاقيات الروبوتات.

وفي شهر أبريل، شارك وثيقة مع المديرين التنفيذيين بعنوان “هل لامدا واعي؟” تحتوي على نسخة من محادثاته مع نموذج الذكاء الاصطناعي.

وبعد وضعه في إجازة، نشر ليموين النص عبر حسابه على Medium، الذي يقول إنه يوضح أن النموذج يحاجج بأنه حساس لأنه يحتوي على مشاعر وعواطف وتجربة ذاتية.

وتعتقد جوجل أن إجراءات ليموين المتعلقة بعمله في لامدا قد انتهكت سياسات السرية. ودعا ليموين محامٍ لتمثيل نظام الذكاء الاصطناعي وتحدث إلى ممثل من اللجنة القضائية في مجلس النواب بشأن الأنشطة غير الأخلاقية المزعومة في الشركة.

وقال المهندس في 6 يونيو عبر موقع Medium، وهو اليوم الذي تم فيه منح ليموين إجازة إدارية، إنه طلب قدرًا ضئيلاً من الاستشارات الخارجية للمساعدة في إرشاده في تحقيقاته فيما يتعلق بالمخاوف الأخلاقية للذكاء الاصطناعي التي أثارها داخل الشركة. وشملت قائمة الأشخاص الذين أجرى مناقشات معهم موظفين في الحكومة الأمريكية.

وأعلنت عملاقة البحث عن لامدا علنًا في Google I/O 2021. وتأمل جوجل في أن يساعد لامدا في تحسين مساعدي الذكاء الاصطناعي للمحادثة وجعل المحادثات أكثر طبيعية.

وتستخدم الشركة تقنية نموذج لغة مماثلة لميزة الكتابة الذكية في جيميل، أو لاستعلامات محرك البحث.

وقال براين غابرييل، المتحدث باسم جوجل: لا يوجد دليل على أن لامدا واعي. راجع فريقنا مخاوف بليك وفقًا لمبادئ الذكاء الاصطناعي وأبلغناه أن الأدلة لا تدعم مزاعمه. وقيل له إنه لا يوجد دليل على أن لامدا كان واعيًا (وهناك الكثير من الأدلة ضده.

imrs 1

تدعي جوجل أن المهندس انتهك سياسات السرية

أضاف غابرييل: يدرس البعض في مجتمع الذكاء الاصطناعي الأوسع الإمكانية الطويلة المدى للذكاء الاصطناعي الواعي أو العام. ولكن ليس من المنطقي القيام بذلك عن طريق تجسيد نماذج المحادثة اليوم غير الواعية. تحاكي هذه الأنظمة أنواع التبادلات الموجودة في ملايين الجمل، ويمكنها التعمق في أي موضوع خيالي. لقد تحدث مئات الباحثين والمهندسين مع لامدا ولسنا على علم بأي شخص آخر يقدم تأكيدات واسعة النطاق، أو يجسد لامدا كما فعل بليك.

ورفض الكثير في مجتمع الذكاء الاصطناعي ادعاءات المهندس في المقابلات والبيانات العامة. بينما أشار البعض إلى أن روايته تسلط الضوء على كيف يمكن للتكنولوجيا أن تقود الناس إلى تخصيص سمات بشرية لها.

ولكن يمكن القول إن الاعتقاد بأن الذكاء الاصطناعي يمكن أن يكون واعيًا يسلط الضوء على المخاوف لما يمكن أن تفعله هذه التكنولوجيا.

واتفق أستاذ علم اللغة على أنه من الخطأ ربط الردود المكتوبة المقنعة بالحس. وقالت الأستاذة بجامعة واشنطن إميلي إم بيندر: لدينا الآن آلات يمكنها توليد الكلمات بلا تفكير. ولكن لم نتعلم كيف نتوقف عن تخيل العقل الذي يقف وراءها.

وقالت تيمنيت جيبرو، عالمة أخلاقيات الذكاء الاصطناعي البارزة التي أوقفتها جوجل عن العمل في عام 2020، إن المناقشة حول وعي الذكاء الاصطناعي قد تؤدي إلى إبعاد المحادثات الأخلاقية الأكثر أهمية المتعلقة باستخدام الذكاء الاصطناعي عن مسارها.

وبالرغم من مخاوفه، قال ليموين إنه يعتزم مواصلة العمل على الذكاء الاصطناعي في المستقبل. وكتب في تغريدة: أعتزم البقاء في مجال الذكاء الاصطناعي سواء مع جوجل أو مع غيرها.

ajax loader

أخبار الاختراقات

تحذير .. إضافات متصفح كروم قد تشكل مخاطر أمنية عالية

Avatar of عمر الشال

Published

on

best chrome

وجد بحث جديد بأن إضافات متصفح الويب كروم، التي تُستخدم عادةً للزيادة من قدراته، قد تمثل في واقع الأمر خطرًا أمنيًا كبيرًا.
ونشرت شركة حماية البيانات Incogni حديثًا تقريرًا استندت فيه إلى تحليل 1,237 إضافة من إضافات متصفح كروم التابع لشركة جوجل، والمتاحة للتنزيل من متجر Chrome Web Store.
وحسب التقرير، فإن ما يقرب من نصف الإضافات (48.66 في المئة) التي خضعت للتحليل تعاني من خطر أمني عالٍ أو عالٍ جدًا، مما يعني أنه من المرجح جدًا أن تكون تُخزن بيانات حساسة ومميزة لهوية المستخدمين.
وذكرت Incogni في تقريرها أن أكثر من ربع الإضافات (27 في المئة) تجمع البيانات، وهو الأمر الذي كان مصدر القلق الأول للشركة.

Off the Hook warning message Google Chrome

ومن بين جميع الإضافات المختلفة المتاحة للتنزيل، تعد إضافات تصحيح الكتابة وتحسينها، مثل: Grammarly أكثر الإضافات المتعطشة للبيانات. وبلغت نسبة إضافات تصحيح الكتابة وتحسينها التي تجمع ما لا يقل عن نوع واحد من البيانات نحو 79.5 في المئة. وعلاوة على ذلك، فإن هذه الأنواع من الإضافات تجمع معظم أنواع البيانات، وهي في المتوسط 2.5 من أنواع بيانات.

وترى شركة Incogni أن إضافات تصحيح الكتابة وتحسينها هي من بين أكثرها خطرًا؛ لأنها تطلب معظم الأذونات. كل هذا يجعلها تحمل واحدًا من أعلى درجات تأثير الخطورة، وهي: 3.7 من 5.
وإلى جانب إضافات الكتابة، فقد وُجِد أن إضافات فئة التسوق تساويها في مصدر الخطر، إذ إن ما يقرب من ثُلثي تلك الإضافات (64.9 في المئة) تجمع بيانات المستخدمين. ويبلغ متوسط خطورة هذه الفئة من الإضافات نحو 3.9 من 5، وهذا ما يجعلها الأشد خطورة بين جميع الإضافات.
وبالنظر إلى حقيقة أن بعض الإضافات لن تعمل على النحو الصحيح دون منحها الأذونات المناسبة، ومن تلك الأذونات، ما تصفه Incogni بالمخيفة، مثل: قراءة الحافظة وبيانات التصفح، فإنه من المهم لكل مستخدم أن يختار الإضافات التي مصدرها مطورون موثوق بهم.

وقال الباحثون لدى Incogni: “المطور الموثوق به هو أحد المطورين الذين يُشهد لهم بتطوير البرمجيات الخالية من المشكلات، ويحظون بتصنيفات عالية من المستخدمين”.
ويُعتقد أيضًا أنه حتى لو كان المطور موثوقًا به، فيجب على المستخدمين أن يكونوا يقظين؛ لأنه يمكن أن تتغير نوايا المطورين، كما أنه من السهل شراء أو التلاعب بالمراجعات والتقييمات باستخدام البرمجيات الآلية.

ajax loader

Continue Reading

أخبار السوشيال ميديا

توتير في مهب الريح مع إيلون ماسك .. لقاء تليفزيوني

Avatar of عمر الشال

Published

on

تويتر

استضاف الإعلامي “شريف منصور” الأستاذ “عمر الشال” خبير الإعلام الجديد للحديث عن مصير تويتر بعد استحواذ الملياردير الأمريكي إليون ماسك عليه وبعد الأخبار السلبية التي انتشرت عنه في الفترة الأخيرة.

النقاش دار حول عدة نقاط وهي:

  • التغيرات علي طرأت علي منصة “تويتر” بعد شراء إيلون ماسك لها”
  • من ناحية السماح بنشر خطابات الكراهية – زيادة العنصرية
  • السماح للرئيس الأمريكي ترامب بعودة حسابه
  • الجانب الاقتصادي وتأثيره على المستخدم والشركات
  • الاتجاه لمنصة تيك توك والانصراف عن الفيس وتويتر اشهر المنصات فيما يسمى بظاهرة (مقبرة منصات التواصل )

ajax loader

Continue Reading

برنامج هاي تك

اديداس تنشر اعلان باستخدام تقنية التزييف العميق

Avatar of عمر الشال

Published

on

إعلان شركة أديداس بإستخدام تقنية DEEP FAKE

نشرت شركة أديداس إعلان لميسي يلعب الكرة في مراحله العمرية المختلفة – الإعلان تم تنفيذه عن طريق تقنية التزييف العميق DeepFake

 

ajax loader

Continue Reading

Trending