أقدمت شركة جوجل على تعطيل عرض الملخصات بالذكاء الاصطناعي من جوجل في عدد من نتائج البحث المرتبطة بالمواضيع الطبية الحساسة، وذلك عقب موجة انتقادات حادة أثارها تحقيق صحفي كشف عن أخطاء صحية جسيمة قد تُعرّض المستخدمين لمخاطر مباشرة.

جوجل تتراجع عن استخدام الذكاء الاصطناعي في نتائج البحث الطبية الحساسة

جوجل تتراجع عن استخدام الذكاء الاصطناعي في نتائج البحث الطبية الحساسة

بدأت القضية بعد نشر صحيفة الغارديان البريطانية تحقيقًا موسعًا سلّط الضوء على أداء ميزة AI Overviews عند التعامل مع الاستفسارات الطبية.
وأوضح التحقيق أن بعض الملخصات بالذكاء الاصطناعي من جوجل قدّمت معلومات غير دقيقة، بل وخطيرة، تتعارض مع الإرشادات الطبية المعتمدة.

وأثار التقرير قلقًا واسعًا بين الأطباء وخبراء التقنية، خاصة أن هذه الملخصات تظهر في مقدمة نتائج البحث، ما يمنحها درجة عالية من الموثوقية لدى المستخدمين.

توصيات خاطئة لمرضى سرطان البنكرياس

من أخطر الأمثلة التي كشفها التحقيق، توصية صادرة عن ملخص الذكاء الاصطناعي تنصح مرضى سرطان البنكرياس بتجنّب الأطعمة الغنية بالدهون.

وأكد أطباء مختصون أن هذه النصيحة تناقض تمامًا البروتوكولات العلاجية المتبعة، حيث يحتاج المرضى في هذه الحالة إلى نظام غذائي عالي السعرات.
وحذّر الخبراء من أن اتباع مثل هذه التوصيات قد يؤدي إلى تدهور سريع في الحالة الصحية، وربما رفع معدلات الوفاة.

معلومات مضللة حول وظائف الكبد

لم تتوقف الأخطاء عند هذا الحد، إذ أشار التحقيق إلى مثال آخر يتعلق بتقديم معلومات غير صحيحة عن وظائف الكبد ومؤشراته الحيوية.

ويرى مختصون أن عرض هذه البيانات الخاطئة ضمن الملخصات بالذكاء الاصطناعي من جوجل قد يدفع المرضى أو غير المختصين لاتخاذ قرارات صحية مبنية على فهم مغلوط، خاصة في ظل غياب التحقق الطبي المباشر.

جوجل تحذف الملخصات المثيرة للجدل

عقب تصاعد الانتقادات، لاحظ متابعون أن جوجل أزالت ميزة الملخصات بالذكاء الاصطناعي من نتائج البحث المرتبطة بهذه الحالات الطبية، إضافة إلى استفسارات مشابهة.

ولم توضّح الشركة ما إذا كان هذا الإجراء:

• تعطيلًا مؤقتًا لحين تحسين النماذج
• أم قرارًا دائمًا يخص فئة معينة من الاستعلامات الطبية

إلا أن الخطوة تعكس اعترافًا ضمنيًا بحساسية استخدام الذكاء الاصطناعي في المجال الصحي.

نوافذ ومبانٍ تولّد الكهرباء ثورة الخلايا الشمسية الشفافة في المدن الذكية

جدل متجدد حول موثوقية الذكاء الاصطناعي في الطب

أعادت هذه الواقعة فتح النقاش حول حدود الاعتماد على أنظمة الذكاء الاصطناعي التوليدية في المجالات عالية الخطورة، وعلى رأسها الصحة.

ويؤكد خبراء أن الملخصات بالذكاء الاصطناعي من جوجل، رغم تطورها، لا يمكن التعامل معها كبديل عن:

• الاستشارة الطبية المتخصصة
• المصادر العلمية الموثوقة
• الإشراف البشري الدقيق

خاصة أن أي خطأ، مهما بدا بسيطًا، قد تكون له عواقب مباشرة على سلامة المرضى.

تقرير أمني يكشف التصيد الاحتيالي يركز على كلمات المرور ويهدد الملايين عالميا

متابعة إعلامية وضغوط متزايدة

تناول موقع The Verge التقني تفاصيل القضية وتداعياتها، مشيرًا إلى أن الحادثة قد تدفع جوجل وشركات تقنية أخرى إلى إعادة النظر في طريقة دمج الذكاء الاصطناعي ضمن محركات البحث، خصوصًا في المجالات الطبية والقانونية.

وتأتي هذه التطورات في وقت تتسابق فيه شركات التكنولوجيا الكبرى لتوسيع استخدام الذكاء الاصطناعي، وسط مطالب متزايدة بفرض ضوابط أكثر صرامة على المحتوى الناتج عنه.

جيميل يتغير جذريا تجربة ذكاء اصطناعي تحول البريد الوارد إلى مركز مهام