كشفت دراسة علمية حديثة أعدّها باحثون من معهد ماساتشوستس للتكنولوجيا (MIT) بالتعاون مع جهات أكاديمية أخرى، أن أداء أنظمة الذكاء الاصطناعي المخصصة للمساعدة في التشخيص الطبي ليس موحدًا بين جميع الفئات، إذ تتفاوت نتائجه بشكل كبير بين الأطباء المتخصصين والأشخاص غير المختصين، مما يزيد من احتمالية تضليل الفئات الأقل خبرة.
وأوضحت نتائج الدراسة أن اتباع منهجية واحدة في تصميم أنظمة الذكاء الاصطناعي الطبي لا يحقق النتائج المرجوة، نظرًا لتفاوت الفوائد اعتمادًا على مستوى خبرة المستخدم. فبالرغم من أن هذه الأنظمة ساهمت في رفع دقة تشخيص الأمراض الجلدية لدى كل من الأطباء وغير المتخصصين، إلا أن تأثير أدوات ما يُعرف بـ«الذكاء الاصطناعي القابل للتفسير» (Explainable AI) لم يكن متكافئًا بين المجموعتين.
وتقوم هذه الأدوات بتوضيح آلية اتخاذ النماذج لقراراتها، إما من خلال خرائط حرارية تسلط الضوء على المناطق المؤثرة في الصور الطبية، أو عبر نماذج لغوية كبيرة (LLMs) تقدم شروحات مبسطة بلغة طبيعية يسهل فهمها.
وفي إطار التجارب التي أجريت، قام الباحثون بتقييم أداء كل من غير المختصين وأطباء الرعاية الأولية في تشخيص الأمراض الجلدية، مستخدمين أنواعًا مختلفة من أدوات التفسير، ومقارنة النتائج بحالات تم تشخيصها دون أي دعم من الذكاء الاصطناعي.
وأظهرت النتائج تحسنًا في دقة التشخيص لدى غير المختصين، غير أن هذا التحسن كان مرتبطًا بشكل رئيسي بالاعتماد المفرط على النظام. فقد أبدى هؤلاء المستخدمون ثقة كبيرة في تفسيرات النماذج اللغوية سواء كانت صحيحة أو خاطئة، بل ووجدوا أن التفسيرات العامة أو غير المحددة تبدو أكثر إقناعًا بالنسبة لهم.
على الجانب الآخر، أظهر الأطباء قدرة فائقة على تمييز المعلومات الصحيحة من الخاطئة، ولم تتأثر قراراتهم بالأخطاء الصادرة عن الذكاء الاصطناعي، حيث حققوا أفضل مستويات الأداء عندما اكتفوا بالتنبؤ المباشر للنموذج دون الحاجة إلى تفسيرات إضافية.
ونقلت الدراسة عن الباحثة مارزية غسمي تأكيدها أن «الذكاء الاصطناعي يمكن أن يحسن الأداء في الرعاية الصحية، لكن يجب الحذر من ظاهرة الاعتماد المفرط على الخوارزميات، التي قد تؤدي إلى زيادة الأخطاء بدلًا من تقليلها».
كما حذّرت الباحثة روكسانا دانيشجو من أن المستخدمين الأقل خبرة هم الأكثر عرضة للتضليل، خاصة مع تزايد اعتماد المرضى على أدوات الذكاء الاصطناعي في اتخاذ قرارات صحية.
وأكد الباحثون أن تصميم هذه الأنظمة يجب أن يراعي طبيعة المستخدم، مع تطوير أدوات تفسير تعزز التفكير النقدي بدلًا من ترسيخ الثقة العمياء في النتائج.
بدوره، أوضح الباحث الرئيسي أورسون شو أن التفسير ذاته قد يكون مفيدًا للخبراء ومضللًا للمبتدئين، مشيرًا إلى أن الفئات الأكثر حاجة لهذه التقنيات هي الأكثر عرضة للتأثر السلبي بها.
ونُشرت نتائج الدراسة في مجلة Nature Medicine بمشاركة باحثين من MIT وجامعات أخرى.
أسامة عثمان (أبوظبي)