جوجل تسحب "الملخصات الطبية" بالذكاء الاصطناعي: تفاصيل الحذف وماذا حدث بالضبط
في خطوة سريعة وحاسمة، أعلنت شركة جوجل عن إزالة بعض ملخصات الذكاء الاصطناعي الطبية من أعلى نتائج البحث، وذلك كرد فعل مباشر على تحقيق صحفي كشف عن تقديم هذه الميزة لمعلومات صحية مضللة وخطيرة. جاء القرار، الذي تم الإعلان عنه في واشنطن، بهدف حماية المستخدمين من الأضرار المحتملة التي قد تنجم عن الاعتماد على هذه الإجابات المولّدة آليًا في قضايا طبية حساسة. هذا المقال يستعرض بالتفصيل تسلسل الأحداث الدقيق الذي أدى إلى هذا الإجراء.
 |
| جوجل أزالت بعض الملخصات الصحية المدعومة بالذكاء الاصطناعي من نتائج البحث بعد اكتشاف معلومات غير دقيقة، وذلك لحماية المستخدمين وضمان دقة المعلومات الطبية. |
يهدف هذا المقال إلى توضيح خلفية القضية، والأمثلة المحددة التي أثارت الجدل، وكيف كانت استجابة جوجل الرسمية، مما يوفر فهمًا كاملاً للواقعة التي هزت الثقة في مخرجات الذكاء الاصطناعي الطبية.
خلفية القضية: تحقيق "الغارديان" يكشف أخطاء فادحة
الشرارة التي أشعلت الأزمة كانت تحقيقًا صحفيًا موسعًا نشرته صحيفة "الغارديان" البريطانية. كشف التحقيق أن ميزة "AI Overviews"، المصممة لتقديم إجابات سريعة وموجزة، كانت تقدم في بعض الحالات معلومات صحية غير دقيقة وتتعارض بشكل مباشر مع الإرشادات الطبية المعتمدة. وقد وصف خبراء الصحة الذين اطلعوا على التحقيق هذه المخرجات بأنها "مقلقة" و "خطيرة".
كانت المشكلة الأساسية هي أن الذكاء الاصطناعي التوليدي، الذي يدعم هذه الملخصات، يستقي معلوماته من مجموعة واسعة من المصادر على الإنترنت، ولكنه يفتقر إلى القدرة على التمييز بين المصادر الطبية الموثوقة والمحتوى غير الدقيق أو حتى الساخر، مما أدى إلى ظهور توصيات كارثية.
كانت المشكلة الأساسية هي أن الذكاء الاصطناعي التوليدي، الذي يدعم هذه الملخصات، يستقي معلوماته من مجموعة واسعة من المصادر على الإنترنت، ولكنه يفتقر إلى القدرة على التمييز بين المصادر الطبية الموثوقة والمحتوى غير الدقيق أو حتى الساخر، مما أدى إلى ظهور توصيات كارثية.
الأمثلة المحددة التي أدت إلى الحذف
لم يكن الحذف إجراءً عامًا، بل كان رد فعل على حالات محددة ومثيرة للقلق تم تسليط الضوء عليها:
- معلومات مضللة عن فحوصات الكبد: عند طرح أسئلة مثل "ما هو النطاق الطبيعي لفحوصات وظائف الكبد؟"، قدم ملخص الذكاء الاصطناعي أرقامًا مجردة دون أي سياق. حذر الخبراء من أن هذه الإجابة "خطيرة" لأنها تتجاهل عوامل حيوية مثل عمر المريض وجنسه وتاريخه الطبي، والتي تعتبر أساسية لتفسير أي نتيجة طبية. الخوف كان من أن يرى مريض يعاني من حالة خطيرة هذه الأرقام العامة ويعتقد خطأً أن نتائجه طبيعية، مما يدفعه إلى عدم حضور مواعيد المتابعة الطبية الضرورية.
- توصيات معاكسة لمرضى السرطان: في حالة أخرى وصفت بأنها "شديدة الخطورة"، أوصى ملخص الذكاء الاصطناعي مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون. أكد أطباء الأورام أن هذه النصيحة تتعارض تمامًا مع البروتوكولات العلاجية، حيث يحتاج هؤلاء المرضى غالبًا إلى نظام غذائي عالي السعرات الحرارية والدهون لمكافحة فقدان الوزن الشديد المرتبط بالمرض والعلاج.
الإزالة الفورية واستجابة جوجل الرسمية
عقب نشر التحقيق وتصاعد الجدل، تحركت جوجل بسرعة وأزالت الملخصات المتعلقة بهذه الاستفسارات الطبية الحساسة، وتحديدًا تلك الخاصة بوظائف الكبد.
وفي تصريح رسمي، أوضحت جوجل أن ملخصات الذكاء الاصطناعي لا تظهر إلا في نتائج البحث التي تتمتع فيها الشركة "بثقة عالية" في جودة الإجابات. وأضافت: "نحن نقيس ونراجع باستمرار جودة ملخصاتنا عبر فئات معلوماتية متنوعة، ونتخذ إجراءات لتحسينها عند الضرورة".
كما أكدت الشركة أن فرقها الداخلية، التي تضم أطباء، قد راجعت الحالات المثارة، وأن الهدف هو ضمان عدم تكرار مثل هذه الأخطاء. ورغم أن جوجل لم تعلق مباشرة على كل حالة إزالة، إلا أن الإجراء السريع بحد ذاته كان اعترافًا ضمنيًا بخطورة الموقف.
ملاحظة مهمة: الحادثة لم تكن مجرد "هلوسة" عشوائية للذكاء الاصطناعي، بل كانت نتيجة مباشرة لقصور في قدرة النموذج على فهم السياق الطبي المعقد والتفريق بين أنواع المصادر المختلفة على الإنترنت.وفي تصريح رسمي، أوضحت جوجل أن ملخصات الذكاء الاصطناعي لا تظهر إلا في نتائج البحث التي تتمتع فيها الشركة "بثقة عالية" في جودة الإجابات. وأضافت: "نحن نقيس ونراجع باستمرار جودة ملخصاتنا عبر فئات معلوماتية متنوعة، ونتخذ إجراءات لتحسينها عند الضرورة".
كما أكدت الشركة أن فرقها الداخلية، التي تضم أطباء، قد راجعت الحالات المثارة، وأن الهدف هو ضمان عدم تكرار مثل هذه الأخطاء. ورغم أن جوجل لم تعلق مباشرة على كل حالة إزالة، إلا أن الإجراء السريع بحد ذاته كان اعترافًا ضمنيًا بخطورة الموقف.
تداعيات الحادثة والتساؤلات حول المستقبل
أثارت هذه الواقعة نقاشًا واسعًا حول مدى موثوقية الذكاء الاصطناعي التوليدي في المجالات الحساسة. رحبت مؤسسات صحية، مثل "مؤسسة الكبد البريطانية"، بقرار الإزالة ووصفته بأنه "خبر ممتاز"، لكنها حذرت من أن المشكلة قد تكون أعمق، حيث أن تغيير صياغة السؤال ببساطة قد يؤدي إلى ظهور معلومات مضللة مرة أخرى.
تؤكد الحادثة على المسؤولية الهائلة الملقاة على عاتق شركات التكنولوجيا لضمان أن ابتكاراتها لا تتحول إلى مصدر خطر على السلامة العامة.
نصيحة للمستخدم: هذه الواقعة تؤكد على ضرورة التعامل مع أي معلومات طبية يتم الحصول عليها عبر الإنترنت بحذر شديد، واعتبارها نقطة بداية للنقاش مع طبيب مؤهل، وليس بديلاً عنه.
الخاتمة: درس في المسؤولية التكنولوجية
في النهاية، كان قرار جوجل بحذف بعض الملخصات الصحية إجراءً ضروريًا ومسؤولاً. لقد كشف الحادث بوضوح عن الحدود الحالية للذكاء الاصطناعي وأكد من جديد على أن الخبرة البشرية والحكم السريري يظلان حجر الزاوية في الرعاية الصحية.