في يوم الأحد، قامت جوجل بإزالة بعض الملخصات الصحية الخاصة بـ AI Overviews بعد أن وجد تحقيق أجرته صحيفة الغارديان أن الأشخاص يتعرضون للخطر بسبب معلومات كاذبة ومضللة. وجاءت عمليات الإزالة بعد أن وجدت الصحيفة أن ميزة الذكاء الاصطناعي التوليدية من Google قدمت معلومات صحية غير دقيقة في أعلى نتائج البحث، مما قد يؤدي إلى اعتقاد المرضى المصابين بأمراض خطيرة عن طريق الخطأ أنهم يتمتعون بصحة جيدة.
قامت جوجل بتعطيل استعلامات محددة، مثل “ما هو النطاق الطبيعي لاختبارات دم الكبد”، بعد أن أشار الخبراء الذين اتصلت بهم صحيفة الغارديان إلى أن النتائج خطيرة. كما سلط التقرير الضوء على خطأ فادح فيما يتعلق بسرطان البنكرياس: اقترح الذكاء الاصطناعي على المرضى تجنب الأطعمة الغنية بالدهون، وهي توصية تتعارض مع الإرشادات الطبية القياسية للحفاظ على الوزن ويمكن أن تعرض صحة المريض للخطر. على الرغم من هذه النتائج، قامت جوجل فقط بإلغاء تنشيط الملخصات الخاصة باستعلامات اختبار الكبد، تاركة الإجابات الأخرى التي يحتمل أن تكون ضارة متاحة.
وكشف التحقيق أن البحث عن معايير اختبار الكبد أدى إلى إنشاء جداول بيانات أولية (تدرج إنزيمات محددة مثل ALT وAST والفوسفاتيز القلوي) التي تفتقر إلى السياق الأساسي. فشلت ميزة الذكاء الاصطناعي أيضًا في تعديل هذه الأرقام وفقًا للتركيبة السكانية للمرضى مثل العمر والجنس والعرق. وحذر الخبراء من أنه نظرًا لأن تعريف نموذج الذكاء الاصطناعي لكلمة “طبيعي” غالبًا ما يختلف عن المعايير الطبية الفعلية، فإن المرضى الذين يعانون من أمراض الكبد الخطيرة قد يعتقدون خطأً أنهم يتمتعون بصحة جيدة ويتخطون رعاية المتابعة الضرورية.
وقالت فانيسا هيبديتش، مديرة الاتصالات والسياسة في صندوق الكبد البريطاني، لصحيفة الغارديان إن اختبار وظائف الكبد عبارة عن مجموعة من اختبارات الدم المختلفة، وأن فهم النتائج “أمر معقد وينطوي على أكثر بكثير من مجرد مقارنة مجموعة من الأرقام”. وأضافت أن نظرة عامة على الذكاء الاصطناعي تفشل في التحذير من أنه يمكن لأي شخص الحصول على نتائج طبيعية لهذه الاختبارات عندما يكون مصابًا بمرض خطير في الكبد ويحتاج إلى مزيد من الرعاية الطبية. وأضافت: “هذا الطمأنينة الكاذبة يمكن أن تكون ضارة للغاية”.
رفضت Google التعليق على عمليات الإزالة المحددة لصحيفة The Guardian. وقال متحدث باسم الشركة لموقع The Verge إن جوجل تستثمر في جودة نظرة عامة على الذكاء الاصطناعي، خاصة فيما يتعلق بالموضوعات الصحية، وأن “الغالبية العظمى منها توفر معلومات دقيقة”. وأضاف المتحدث أن فريق الأطباء الداخلي بالشركة راجع ما تمت مشاركته و”وجد أنه في كثير من الحالات، لم تكن المعلومات غير دقيقة وكانت مدعومة أيضًا بمواقع ويب عالية الجودة”.
