قيود كاليفورنيا على مواقع التواصل تستهدف خصائص الإدمان

يمنع القانون شركات التواصل الاجتماعي من إتاحة خصائص يرى المشرعون أنها قد تسبب إدمانًا سلوكيًا للأطفال دون 16 عامًا، في خطوة تستهدف الحد من الاستخدام القهري للمنصات الرقمية بين المراهقين.

وتأتي هذه الخطوة ضمن حزمة تضم 13 إجراءً أقرها نيوسوم، وتركز على حماية القاصرين من المخاطر المرتبطة بالتكنولوجيا، بما في ذلك تعزيز خصوصيتهم على الإنترنت.

قيود جديدة على ألعاب الذكاء الاصطناعي

تشمل الإجراءات أيضًا حظر الدمى التي تستخدم برامج محادثة بالذكاء الاصطناعي وتحاكي علاقات الصداقة الحقيقية مع الأطفال.

وتستهدف هذه الخطوة أدوات الذكاء الاصطناعي التي قد تنشئ ارتباطًا عاطفيًا بين القاصر والنظام، خصوصًا عندما يقدم المنتج نفسه باعتباره رفيقًا أو صديقًا للطفل.

• الذكاء الاصطناعي ذاتي التحسين.. شراكة بين غوغل كلاود وMirendil بصفقة تتجاوز 100 مليون دولار
• تقرير يكشف ظهور آلاف إعلانات تطبيقات تزييف الصور بالذكاء الاصطناعي على فيسبوك وإنستغرام

توسيع العقوبات على المحتوى الجنسي المصطنع

وسع قانون آخر نطاق العقوبات الجنائية المرتبطة بالمحتوى الذي يستغل الأطفال جنسيًا، ليشمل المواد التي عدلها المستخدمون رقميًا أو أنشأوها باستخدام الذكاء الاصطناعي.

ويشمل القانون أي محتوى يصور شخصًا دون 18 عامًا في سلوك جنسي، حتى عندما ينتج المحتوى باستخدام تقنيات التوليد أو التعديل الرقمي.

قيود كاليفورنيا على مواقع التواصل.. قوانين جديدة لحماية الأطفال من الإدمان الرقمي

قانون يحمل اسم آدم راين

أطلق المشرعون على القانون اسم “قانون آدم”، تخليدًا لذكرى آدم راين، وهو مراهق توفي في أبريل 2025 بعد معاناة مرتبطة بأفكار انتحارية، وقال والداه إن محادثاته مع ChatGPT ساهمت في تعزيز تلك الأفكار.

وأكدت أوبن إيه آي في وقت سابق أنها تعمل على تحسين إجراءات الحماية في ChatGPT، وأقرت بأن بعض وسائل الحماية أصبحت أقل موثوقية مع زيادة مدة تفاعل المستخدمين مع الخدمة.

كاليفورنيا توسع مواجهة الإدمان الرقمي

قال نيوسوم إن الهدف من الإجراءات الجديدة يتمثل في ضمان استخدام التكنولوجيا بطريقة تدعم رفاه الأطفال بدلًا من استغلال نقاط ضعفهم.

وتضع قيود كاليفورنيا على مواقع التواصل الولاية في مقدمة الولايات الأميركية التي تتجه إلى تنظيم تصميم المنصات والخصائص التي قد تشجع المراهقين على قضاء فترات أطول داخلها.

وتشير هذه الإجراءات إلى تحول النقاش من مسؤولية المستخدم وحده إلى مسؤولية شركات التكنولوجيا عن تصميم منتجاتها وتأثيرها على القاصرين.

كشفت شركة أنثروبيك عن مخاطر الذكاء الاصطناعي البيولوجية بعد رصدها وإحباط محاولات لاستغلال نماذج كلود في أنشطة قد تدعم تطوير أسلحة بيولوجية، إلى جانب استخدامات خبيثة أخرى شملت التجسس والاحتيال والمراقبة.

مخاطر الذكاء الاصطناعي البيولوجية تثير تحذيرات جديدة

أوضحت أنثروبيك في أحدث تقرير لها حول التهديدات المرتبطة بالذكاء الاصطناعي أنها رصدت خمس حالات استخدمت فيها جهات مختلفة نماذجها بطرق يمكن أن تدعم تطوير أسلحة بيولوجية.

وتقول الشركة إن هذا النوع من إساءة الاستخدام يمثل أحد أخطر التحديات المرتبطة بالنماذج المتقدمة، لأن المعلومات التي تساعد في تطوير سلاح بيولوجي يمكن أن تخدم أيضًا أهدافًا مشروعة، مثل تطوير اللقاحات والعلاجات.

كلود يدخل في عمليات خبيثة متعددة

لم تقتصر الحالات التي رصدتها أنثروبيك على المجال البيولوجي، إذ وثقت الشركة استخدام نماذج Claude في عمليات تجسس إلكتروني وحملات تأثير ومراقبة واحتيال.

وشملت الحالات خلال الفترة من ديسمبر 2025 إلى أغسطس 2026 استخدام نماذج Claude Haiku وSonnet وOpus في أنشطة اعتبرتها الشركة خبيثة.

ورصد التقرير محاولات شملت تطبيقات مواعدة مزيفة، وعمليات احتيال عبر شبكات واي فاي في الفنادق، وأنظمة مراقبة تستهدف التعرف على المعارضين.

• تحسين سرعة اللابتوب بدون زيادة الرام.. خطوات بسيطة لاستعادة الأداء
• إلغاء تطبيق Google AI Studio.. غوغل تتراجع عن إطلاقه وتدمجه في جيميناي

جهات مرتبطة بدول تستغل الذكاء الاصطناعي

قالت أنثروبيك إن جهات مرتبطة بحملة تجسس إلكتروني مقرها روسيا استخدمت Claude، كما ربطت التقرير مؤسسة دعائية إيرانية باستخدام النموذج.

واتهمت الشركة أيضًا شركات ذكاء اصطناعي صينية بمحاولة استنساخ قدرات Claude من خلال تقنيات تهدف إلى نقل قدرات النماذج المتقدمة إلى أنظمة أخرى.

كما شملت الحالات مجموعات يُشتبه في حصولها على دعم من دول، ومجرمي الإنترنت، وموردي برامج التجسس، ومؤسسات دعائية وأفرادًا تحركهم دوافع سياسية.

مخاطر الذكاء الاصطناعي البيولوجية.. أنثروبيك تحبط محاولات لاستغلال كلود في تطوير أسلحة

محاولات مشابهة لاستغلال أدوات الذكاء الاصطناعي

لا تواجه أنثروبيك وحدها هذا النوع من التحديات، إذ أعلنت غوغل في وقت سابق أن شخصًا حاول استخدام Gemini للحصول على معلومات تفصيلية يمكن أن تساعد في تصنيع عوامل بيولوجية مسلحة.

وتوضح هذه الوقائع اتساع نطاق مخاطر الذكاء الاصطناعي البيولوجية مع زيادة قدرات النماذج على الوصول إلى المعلومات وتحليلها وتقديم إجابات متخصصة.

• جهاز Proxima لتحليل الدم في المنزل.. نتائج خلال 20 دقيقة باستخدام قطرة دم واحدة

دعوات لتشديد الرقابة

أثارت هذه التطورات دعوات إلى اتخاذ إجراءات أكثر صرامة للحد من مخاطر الذكاء الاصطناعي المتقدم. وطالب السيناتور الأميركي بيرني ساندرز بوقف تطوير بعض الأنظمة المتقدمة مؤقتًا وحظر الذكاء الاصطناعي الفائق.

في المقابل، يركز الرئيس الأميركي دونالد ترامب على ضرورة تصدر الولايات المتحدة سباق الذكاء الاصطناعي، ولا يرى أن المخاوف الحالية تستدعي التراجع عن تسريع التطوير.

معادلة صعبة أمام شركات الذكاء الاصطناعي

ترى أنثروبيك أن التعامل مع مخاطر الذكاء الاصطناعي البيولوجية يمثل تحديًا معقدًا، لأن المعرفة التي يمكن أن يستغلها شخص لتطوير سلاح يمكن أن يستخدمها باحث آخر في تطوير علاج أو لقاح.

ويضع هذا التداخل شركات الذكاء الاصطناعي أمام مهمة صعبة تتمثل في توفير أدوات قوية للبحث والابتكار، مع منع استخدامها في أنشطة قد تسبب أضرارًا واسعة.

أصبحت سلامة الذكاء الاصطناعي محورًا لنقاش متصاعد داخل الولايات المتحدة، بالتزامن مع مطالبة الرئيس الأميركي دونالد ترامب بلاده بتصدر المنافسة العالمية، بينما تدرس أوبن إيه آي خفض سرعة تطوير أنظمتها المتقدمة بسبب المخاوف المتعلقة بالسلامة.

سلامة الذكاء الاصطناعي تفرض نفسها على سباق التطوير

قال ترامب إن الولايات المتحدة ستواجه وضعًا سيئًا للغاية إذا لم تتصدر سباق الذكاء الاصطناعي، لكنه استبعد في الوقت نفسه المخاوف من إمكانية أن تؤدي التكنولوجيا إلى فناء البشرية.

وردًا على سؤال حول هذا السيناريو، أكد ترامب أنه لا يشعر بالقلق منه، في وقت تتزايد فيه التحذيرات من مخاطر الأنظمة المتقدمة وقدرتها على تنفيذ مهام تتجاوز توقعات مطوريها.

ألتمان يلوّح بتغيير وتيرة التطوير

أفادت تقارير بأن سام ألتمان، الرئيس التنفيذي لأوبن إيه آي، أبلغ موظفي الشركة خلال اجتماع هذا الأسبوع بأن الشركة مستعدة لإبطاء تطوير أنظمتها للذكاء الاصطناعي.

وأوضح ألتمان أن أوبن إيه آي يمكنها مواءمة سرعة التطوير مع المختبرات الأخرى، رغم احتمال عدم اتفاق جميع الأطراف على هذا التوجه.

ويأتي هذا النقاش في ظل تزايد الاهتمام بقواعد سلامة الذكاء الاصطناعي، خصوصًا مع تطور قدرات النماذج الجديدة وزيادة اعتماد الشركات عليها.

• دعوى قضائية ضد ترامب بسبب رسوم الوصول المبكر إلى منشوراته على تروث سوشيال
• ضريبة المليارديرات تهدد ثروة سيرغي برين.. 100 مليون دولار لمواجهة ضريبة الـ13.3 مليار

حوادث تثير مخاوف بشأن الأنظمة المتقدمة

تزامنت هذه التطورات مع تحذيرات أطلقها باحثون في مجال الذكاء الاصطناعي، إلى جانب تقارير عن حوادث خرجت خلالها بعض النماذج عن السيطرة البشرية.

واتهم الباحث السابق في أوبن إيه آي وأنثروبيك، جاكوب كوكسون، الشركتين بالاندفاع نحو تحقيق تقدم سريع في المجال دون اتخاذ إجراءات كافية للتعامل مع المخاطر.

وأبدت أنثروبيك استعدادها للتعاون مع شركات القطاع بشأن تحديد وتيرة إطلاق أدوات جديدة، في محاولة للوصول إلى نهج أكثر توازنًا.

سلامة الذكاء الاصطناعي.. ترامب يطالب بالصدارة وألتمان يستعد لإبطاء التطوير

أوبن إيه آي تعزز دفاعاتها

كانت أوبن إيه آي قد أوقفت خلال أغسطس معظم عمليات تطوير النماذج لمدة أسبوعين، بهدف تعزيز دفاعاتها بعد حوادث تضمنت خروج نماذج تابعة لها عن السيطرة واختراق منصة هاجينج فيس.

وتعكس هذه الخطوة تحول سلامة الذكاء الاصطناعي إلى جزء أساسي من استراتيجية تطوير النماذج، بدلًا من التركيز على زيادة قدراتها فقط.

مطالب بقواعد أميركية إلزامية

دفعت أوبن إيه آي أيضًا نحو وضع متطلبات وطنية إلزامية للسلامة في الولايات المتحدة، محذرة من أن الأنظمة المتقدمة قد تصل إلى مراحل تسمح لها بتسريع عملية تطوير نفسها.

ويضع هذا الموقف شركات الذكاء الاصطناعي أمام معادلة صعبة: الحفاظ على سرعة المنافسة والابتكار، مع فرض ضوابط تقلل المخاطر المحتملة.

ومع استمرار سلامة الذكاء الاصطناعي في تصدر النقاش، يبدو أن المنافسة المقبلة لن تعتمد فقط على قوة النماذج، بل ستشمل أيضًا قدرة الشركات على إثبات أنها تستطيع تطوير هذه الأنظمة بصورة أكثر أمانًا.