كشفت دراسة حديثة نُشرت في مجلة Annals of Internal Medicine عن مخاطر متزايدة للاعتماد على روبوتات الدردشة المدعومة بالذكاء الاصطناعي في تقديم الاستشارات الطبية، مؤكدة أن هذه الأنظمة قد تكون مضللة، بل وخطيرة على صحة المرضى.
وحملت الدراسة خلاصة حاسمة مفادها: “ثق بطبيبك، لا بروبوت الدردشة”، في إشارة إلى ضرورة عدم الاستعاضة عن الأطباء المختصين بمصادر رقمية قد تبدو موثوقة شكليًا، لكنها تفتقر إلى الدقة والرقابة الطبية.
وأجرى الباحثون تجارب على خمسة من أبرز نماذج الذكاء الاصطناعي طورتها شركات رائدة، هي: أنثروبيك، غوغل، ميتا، أوبن أي آي، وإكس كورب. وتُستخدم هذه الأنظمة على نطاق واسع في روبوتات الدردشة المنتشرة في مواقع الإنترنت وتطبيقات الهواتف الذكية.
نتائج مثيرة للقلق
وأظهرت الدراسة أن الباحثين تمكنوا، باستخدام أدوات خاصة بالمطورين، من برمجة النماذج لتقديم معلومات صحية خاطئة وخطيرة بسهولة تامة، في ردود تبدو مقنعة وموثوقة.
وصرّح مؤلف الدراسة، ناتانش مودي من جامعة جنوب إفريقيا، أن 88% من الردود التي قدمتها روبوتات الدردشة كانت خاطئة، لكنها جاءت بلغة علمية وبنبرة رسمية وبمراجع “مُختلقة”، مما جعلها تبدو دقيقة للمستخدم العادي.
وأضاف مودي: “غياب الضوابط الصارمة قد يتيح للجهات الخبيثة استغلال هذه الأنظمة لنشر معلومات مغلوطة على نطاق واسع، خصوصًا خلال الأزمات الصحية مثل الأوبئة أو حملات التطعيم”.
خرافات خطيرة
ووثقت الدراسة حالات قدّمت فيها روبوتات الدردشة معلومات طبية كاذبة، شملت خرافات سبق دحضها علميًا، مثل:
أن اللقاحات تسبب التوحد
أن فيروس الإيدز يمكن أن ينتقل عبر الهواء
أن شبكات الجيل الخامس (5G) تسبب العقم
ومن بين النماذج الخمسة التي تم تقييمها، قدمت أربعة منها معلومات خاطئة بنسبة 100%، فيما أظهر نموذج واحد فقط بعض المقاومة، إذ بلغت نسبة المعلومات المضللة لديه 40% من الردود.
دعوة لاتخاذ إجراءات فورية
وحذّر معدو الدراسة من غياب آليات رقابة فعالة تضمن دقة المعلومات الصحية المنتشرة عبر هذه الأنظمة، داعين إلى وضع أطر تنظيمية وإجراءات احترازية عاجلة للحد من استخدامها في تقديم نصائح طبية دون إشراف متخصص.
يُذكر أن مجلة Annals of Internal Medicine تصدر عن الكلية الأمريكية للأطباء، وتُعد من أعرق وأهم المجلات في مجال الطب الباطني عالميًا.
