أطلق مجموعة من الباحثين في الولايات المتحدة تحذيراً جدياً حول المخاطر المترتبة على تنامي اعتماد الأفراد على تطبيقات الذكاء الاصطناعي (AI) وروبوتات المحادثة للحصول على إرشادات صحية. وتكمن الخطورة الحقيقية في صعوبة تتبع الأخطاء الناتجة عن هذه الاستشارات أو اكتشاف حجم الأضرار الناجمة عنها، وذلك في ظل انعدام وجود آليات رقابية مستقلة أو نظم واضحة للإبلاغ عن الهفوات الطبية لهذه التطبيقات.
وبحسب دراسة علمية نُشرت في مجلة Nature Health، فإن التهديد يتجاوز مجرد تلقي المستفيدين لمعلومات غير دقيقة، ليصل إلى ما أسماه الباحثون بـ”الاختفاء الهيكلي للأضرار”. وهذا يعني أن النقاشات التي قد تقود المستخدمين لاتخاذ قرارات تمس صحتهم تظل حبيسة سيرفرات شركات التكنولوجيا، بعيدة تماماً عن متناول الأطباء، وجهات الرقابة الصحية، والباحثين المستقلين.
شارك في إعداد هذه الدراسة الأكاديمية فريق بحثي يضم خبراء من جامعات “ستانفورد”، “بينجهامتون”، “تكساس إيه آند إم”، و”إنديانا”. وهدفت دراستهم إلى تسليط الضوء على المخاطر المقترنة باستخدام أدوات الذكاء الاصطناعي التوليدي في المجال الطبي، سواء عبر التفاعل المباشر أو من خلال الملخصات الآلية التي تظهر في نتائج البحث ومنصات التواصل.
مزايا ظاهرية ومخاطر حقيقية
أشار الفريق البحثي إلى أن النماذج اللغوية الكبيرة قادرة على تبسيط المفاهيم الطبية وتقديم إجابات سريعة على مدار الساعة، وهو ما قد يساعد من يعانون من عوائق لغوية أو صعوبة في الوصول للرعاية الصحية. ومع ذلك، تقابل هذه الإيجابيات مخاطر جسيمة تتمثل في:
توليد إجابات غير صحيحة بأسلوب يوحي بالثقة التامة.
تقديم تبسيط مخل ومضلل للحالات الطبية المعقدة.
الاعتماد على بيانات قديمة أو ادعاءات تفتقر للسند العلمي.
تحديات في التتبع والتحقيق الطبي
ولإثبات خطورة هذا الأمر، استشهدت الدراسة بحالة واقعية (موثقة في تقرير طبي عام 2025) لرجل يبلغ من العمر 60 عاماً، أُدخل إلى المستشفى وهو يعاني من تسمم بمادة البروميد، مصحوباً بأعراض نفسية وعصبية كالهلوسة والارتياب. وقد تبين أن المريض استخدم تطبيق “Chat GPT” للبحث عن طرق لتقليل استهلاك الكلوريد، وقاده ذلك لاستبدال ملح الطعام بـ”بروميد الصوديوم” – وهو مركب غير صالح للاستهلاك البشري – لمدة ثلاثة أشهر.
وتجلت المشكلة الأكبر في عدم قدرة الطاقم الطبي على مراجعة نص المحادثة الأصلية بين المريض والتطبيق، مما جعل من المستحيل تحديد ما إذا كان التطبيق قد أوصى صراحة باستخدام هذا المركب، أم أن المريض أساء فهم المعلومات المقدمة له.
فجوة في أنظمة سلامة المرضى
وأوضح الأستاذ المساعد في جامعة “بينجهامتون”، الدكتور كاي تشينج يانج، أن ملايين الأشخاص يعتمدون اليوم على روبوتات المحادثة للحصول على توجيهات طبية، دون وجود رقابة ترصد الأخطاء الناتجة عن هذا الاعتماد.
وأضاف يانج أن هذه الاستشارات لا توثق في السجلات الطبية للمرضى، ولا تخضع لآليات المراجعة المعتمدة في المستشفيات، مما يخلق فجوة عميقة في جهود حماية المرضى؛ حيث يعتمد اكتشاف الأخطاء الطبية التقليدية على وجود سجلات موثقة وشكاوى قابلة للتحقيق.
كما نبه الباحثون إلى أن الخطر لم يعد مقتصراً على من يبحثون عن استشارة، بل امتد ليشمل مستخدمي وسائل التواصل الاجتماعي ومحركات البحث، حيث قد تظهر ملخصات طبية آلية أو محتوى صحي مضلل أمام المستخدم دون أن يطلبه، مما قد يؤثر في قراراته الصحية.
توصيات لمعالجة المخاطر
للحد من هذه المخاطر المتصاعدة، اقترح الفريق البحثي حزمة من التوصيات، من أبرزها:
إتاحة سجل المحادثات: إلزام الشركات المطورة بتمكين المستخدمين من الوصول لسجل استشاراتهم الصحية كاملاً لمشاركته مع أطبائهم عند الحاجة.
نظام الإبلاغ: تأسيس آليات واضحة للإبلاغ عن الإرشادات الطبية الخاطئة لتوثيقها وتحليلها منهجياً.
مسؤولية المنصات: تحميل منصات التواصل ومحركات البحث مسؤولية التحقق من المحتوى الطبي المولد آلياً وتمييزه بوضوح قبل عرضه للمستخدمين.
توسيع المساءلة القانونية: دعوة المشرعين لدراسة إمكانية إخضاع الشركات المطورة لقواعد المسؤولية المهنية في حال تسببت أنظمتها بأضرار صحية للمرضى.
إنشاء رقابة مستقلة: أكد الباحثون على ضرورة تأسيس جهات رقابية وتقييمية مستقلة عن شركات التكنولوجيا، لضمان عدم تعارض المصالح التجارية مع متطلبات الشفافية وسلامة المستخدمين.
واختتم الباحثون ورقتهم بالتأكيد على أن تحسين دقة إجابات الذكاء الاصطناعي ليس كافياً بمفرده، بل يجب أن يترافق مع أنظمة قادرة على اكتشاف الأخطاء، قياس آثارها، وتحديد الجهة المسؤولة عنها، لضمان ألا تتحول الهفوات الآلية إلى كوارث صحية صامتة تعجز الجهات الطبية والرقابية عن فهمها أو احتواء تداعياتها.
