معلومات صحية خطيرة من الذكاء الاصطناعي غوغل تتخذ إجراءات احترازية

في خطوة احترازية، أقدمت شركة غوغل على إزالة بعض الملخصات الصحية التي يُنتجها الذكاء الاصطناعي من نتائج البحث، بعد اكتشاف مخاطر محتملة قد تؤثر على قرارات المستخدمين الصحية وتعرضهم للأذى، بحسب تحقيق أجرته صحيفة غارديان.

معلومات صحية خطيرة من الذكاء الاصطناعي غوغل تتخذ إجراءات احترازية

معلومات صحية خطيرة من الذكاء الاصطناعي غوغل تتخذ إجراءات احترازية

تعتمد ميزة AI Overviews على الذكاء الاصطناعي التوليدي لتقديم لمحات سريعة عن موضوعات وأسئلة محددة. وتصف غوغل هذه الخدمة بأنها “مفيدة” و”موثوقة”، لكنها اعترفت بأن بعض الملخصات الصحية قدّمت معلومات مغلوطة أو ناقصة.

وفي إحدى الحالات المثيرة للقلق، قدمت الملخصات أرقامًا خاطئة عن اختبارات وظائف الكبد، ما قد يؤدي بمرضى يعانون من مشاكل كبديّة خطيرة إلى الاعتقاد بأن حالتهم الصحية طبيعية، وهو ما يمثل خطراً حقيقياً على حياتهم.

الطمأنة الزائفة ونتائج فحوصات غير دقيقة

أظهر التحقيق أن إدخال عبارة مثل, ما هو المعدل الطبيعي لفحوصات دم الكبد.

أدى إلى عرض أرقام متعددة بدون سياق واضح، متجاهلة عوامل مهمة مثل العمر والجنس والجنسية، ما قد يخلق شعورًا زائفًا بالأمان لدى المرضى. ووفق خبراء، الملخصات الصحية الناتجة عن الذكاء الاصطناعي قد تُفسر بشكل خاطئ وتُعتبر “طبيعية” رغم وجود أمراض حقيقية.

خطوات غوغل بعد التحذيرات

بعد هذه النتائج، أزالت غوغل ملخصات الذكاء الاصطناعي المتعلقة بـ:

• المعدل الطبيعي لفحوصات دم الكبد
• المعدل الطبيعي لاختبارات وظائف الكبد

وأكدت الشركة أن تحسين الملخصات يتم وفق سياساتها، وأن الفريق الطبي الداخلي يقوم بمراجعة المحتوى لضمان دقة المعلومات، لكن الملخصات ما تزال تظهر في موضوعات صحية أخرى مثل السرطان والصحة النفسية.

وقالت فانيسا هيبدتش، مديرة الاتصالات في British Liver Trust: “هذه خطوة ممتازة، لكنها لا تحل المشكلة بالكامل، إذ قد تظهر ملخصات مضللة عند إعادة صياغة السؤال”، محذرة من خطورة الاعتماد على هذه المعلومات الصحية دون استشارة متخصص.

الاختراق المفقود في الذكاء الاصطناعي كيف يمكن للذاكرة أن تفتح الطريق نحو الذكاء الفائق

خطر الاعتماد على معلومات الذكاء الاصطناعي الصحية

تشير التقديرات إلى أن الاعتماد المفرط على معلومات صحية الذكاء الاصطناعي قد يُضعف قدرة المستخدمين على فهم نتائج الفحوصات الدقيقة، خاصة في حالات أمراض الكبد المعقدة.

وتؤكد خبراء الصحة أن الفحوصات تتطلب فهمًا شاملاً لأرقام متعددة وتفسيرها ضمن سياق شامل، وهو ما لا توفره الملخصات المولّدة آليًا. وبالتالي، فإن خطر “الطمأنة الزائفة” يظل حاضرًا، مما قد يؤدي إلى تجاهل متابعة طبية مهمة.

ارتفاع أسعار الذاكرة يدفع Meizu لإلغاء Meizu 22 Air والتركيز على الذكاء الاصطناعي

المستقبل تحسين المصداقية أم التوقف

توضح غوغل أن ملخصات الذكاء الاصطناعي تعتمد على مصادر موثوقة، وتحث المستخدمين دائمًا على طلب المشورة الطبية المتخصصة. ومع ذلك، تظل التحديات قائمة في تحسين دقة المعلومات الصحية المنتجة تلقائيًا، خاصة عند الاعتماد على الذكاء الاصطناعي التوليدي في موضوعات حساسة.

ارتفاع أسعار الذاكرة يدفع Meizu لإلغاء Meizu 22 Air والتركيز على الذكاء الاصطناعي