كشف تحقيق أجرته صحيفة ذا غارديان البريطانية أن المعلومات الصحية الخاطئة والمضللة في ملخصات الذكاء الاصطناعي من شركة غوغل تُعرّض المستخدمين للخطر.
وقالت الشركة إن أداة “AI Overviews”، التي تستخدم الذكاء الاصطناعي التوليدي لتقديم ملخصات سريعة عن المعلومات الأساسية حول موضوع أو سؤال ما، “مفيدة” و”موثوقة”.
لكن بعض هذه الملخصات، التي تظهر في أعلى نتائج البحث، قدّمت معلومات صحية غير دقيقة وجعلت المستخدمين عُرضة للضرر، بحسب تقرير لصحيفة ذا غارديان. في إحدى الحالات التي وصفها الخبراء بأنها “خطيرة للغاية”، نصحت أداة غوغل مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدسم، وهو ما يخالف تمامًا التوصيات الصحية وقد يزيد من خطر وفاة المرضى.
وفي مثال آخر وصفه الخبراء بـ”المقلق”، قدمت الأداة معلومات خاطئة حول اختبارات وظائف الكبد الأساسية، ما قد يجعل الأشخاص المصابين بأمراض كبدية خطيرة يعتقدون خطأً أنهم بصحة جيدة. كما أعطت عمليات البحث عن فحوصات سرطان النساء معلومات “خاطئة تمامًا”، مما قد يدفع الناس إلى تجاهل أعراض حقيقية.
وقال متحدث باسم غوغل إن العديد من الأمثلة الصحية التي تم مشاركتها معهم كانت “لقطات شاشة غير مكتملة”، لكن بحسب تقييمهم، فقد أشارت الأداة إلى “مصادر معروفة وموثوقة وتوصي باستشارة الخبراء”.
يأتي تحقيق “ذا غارديان” في ظل تزايد المخاوف من أن بيانات الذكاء الاصطناعي قد تربك المستهلكين الذين قد يفترضون أنها موثوقة. ففي نوفمبر الماضي، أظهرت دراسة أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي عبر منصات متعددة قدمت نصائح مالية غير دقيقة، فيما أُثيرت مخاوف مماثلة بشأن ملخصات الأخبار.
وقالت ستيفاني باركر، مديرة قسم التسويق الرقمي في مؤسسة ماري كوري الخيرية المعنية برعاية المرضى في مراحلهم الأخيرة بالحياة: “يلجأ الناس إلى الإنترنت في لحظات القلق والأزمات، وإذا كانت المعلومات التي يتلقونها غير دقيقة أو خارجة عن سياقها، فقد تُلحق ضررًا بالغًا بصحتهم”.
واكتشفت صحيفة ذا غارديان عدة حالات لمعلومات صحية غير دقيقة في أداة “AI Overviews” من غوغل، بعد أن أثارت مجموعة من الجمعيات الصحية والخيرية والمهنيين الصحيين مخاوفهم. كما وجد التحقيق أن الأداة تُقدّم نتائج مُضلّلة لعمليات البحث المتعلقة بالصحة النفسية.
وقالت غوغل إن الغالبية العظمى من ملخصات الذكاء الاصطناعي الخاصة بها واقعية ومفيدة، وإنها تعمل باستمرار على تحسين جودتها، مضيفة أن معدل دقة “AI Overviews” يضاهي ميزات البحث الأخرى لديها، مثل المقتطفات المميزة، التي كانت موجودة لأكثر من عقد.
وذكرت الشركة أنها ستتخذ الإجراءات المناسبة وفقًا لسياساتها في حال أساءت الأداة تفسير محتوى الويب أو أغفلت السياق، مؤكدّة أنها تستثمر بشكل كبير في جودة “AI Overviews”، خاصة في موضوعات مثل الصحة، وأن الغالبية العظمى منها تقدم معلومات دقيقة.