المملكة المتحدة تختبر أنظمة الذكاء الاصطناعي للحد من التحيز في قطاع الرعاية الصحية

تقوم التجربة على استخدام تقييمات الأثر الحسابيّ لتحليل القرارات التي يتخذها الذكاء الاصطناعيّ والتي قد تؤدي إلى نتائج صحية دون المستوى المطلوب بناء على خلفيات المرضى وملفاتهم الشخصية. وهذه التقييمات عبارة عن استبيانات تستعرض عمليات منشأة ما وبياناتِها وتصميمَ نظامِها، بهدف المساعدة في تقييم الآثار والمخاطر التي قد تصاحب اعتمادَ نظام آليّ لاتخاذ القرارات.

شارك هذا المحتوى

استكمالاً للجهود الحكومية المميزة لتبني أنظمة الذكاء الاصطناعيّ، أطلقت هيئة الخدمات الصحية الوطنية في المملكة المتحدة برنامجاً مصمماً لرصد تحيُّزات الأنظمة الذكية في القطاع الصحي وإنشاء مجموعات بيانات شاملة ومتنوّعة بمشاركة المرضى ومقدِّمي الرعاية المتخصصين.

رغم ما حقّقته نداءات المساواة من إنجازات، ما يزال الكثيرون عرضةً لظاهرة “التحيُّز الضمنيّ”، وهي الصور النمطية عن الآخرين التي تؤثر على فهمنا وأفعالنا دون وعي. وفي حين أن ممارسات البشر قد ولدت تحيُّزات عديدة عبر الزمن، يبقى مُستهجناً أن تبديها الآلة أو البرمجيات الذكية.

في المملكة المتحدة، تُستخدم أنظمة الذكاء الاصطناعيّ على نطاق واسع في المجالات الحيوية والخدمات العامة، إذ تستخدم هذه الأنظمة الخوارزميات لتقييم بياناتٍ جُمعت عن الأرض وإنشاء تمثيلاتٍ لها، ومن ثم بناء الاستنتاجات بالاستناد إليها.

في القطاع الصحيّ مثلاً، تنجز هذه الأنظمة العديد من مهام الإدارة والتشخيص، ما يدعم جهود الطواقم الصحية ويجعل العلاج أسرع وأكثر فاعلية. إلّا أنّ هذه الأنظمة قد تعود بنتائج عكسية إن لم يُراعِ مطوِّروها التحيُّزات في الخوارزميات التي سبّبت حالات من التفاوت على مرّ سنوات، فقد ثَبت أنّ قواعد التنبؤ الخاصة بأمراض القلب، والتي استخدمها أطباء البلدان الصناعية لعقود، اتّسمت بتحيُّزٍ مَرَدُّه الدراسات التي بُنيت عليها تلك القواعد في بادئ الأمر. بطبيعة الحال، حين تشكِّل فئة عِرقيةٌ معيّنة معظمَ الحالات التي جُمعت بياناتُها، فمن المُرجَّح أنّ النتيجة ستنطبق عليها أكثرَ من المجموعات الأخرى ذات التمثيل الناقص أو الأقلّويّ.  وقد يظهر التحيّز في أي مرحلة أخرى من عملية إنشاء الخوارزميات كاختيار النموذج أو تطبيق النتائج.

ولأنَّ التأثير التدريجيّ يتطلّب معالجة تدريجية، تعمل هيئة الخدمات الصحية الوطنية بالتعاون مع معهد “آدا لوف ليس” المستقلّ للأبحاث على إطلاق نهج رائد عالمياً لتحسين التبنّي الأخلاقيّ للذكاء الاصطناعيّ في المنظومة الصحية.

تأتي هذه الجهود لتكمِّلَ عملَ فريق الأخلاقيات في مختبر الذكاء الاصطناعيّ التابع لهيئة الخدمات الصحية، والذي يركِّز على دعم الباحثين والمطوِّرين في إنشاء مجموعات بيانات متنوعة وشاملة لتدريب أنظمة الذكاء الاصطناعي واختبارها، حيث ينبغي أن تتضمن طواقم علوم البيانات متخصصين من خلفيات متنوعة.

تقوم التجربة على استخدام تقييمات الأثر الحسابيّ لتحليل القرارات التي يتخذها الذكاء الاصطناعيّ والتي قد تؤدي إلى نتائج صحية دون المستوى المطلوب بناء على خلفيات المرضى وملفاتهم الشخصية. وهذه التقييمات عبارة عن استبيانات تستعرض عمليات منشأة ما وبياناتِها وتصميمَ نظامِها، بهدف المساعدة في تقييم الآثار والمخاطر التي قد تصاحب اعتمادَ نظام آليّ لاتخاذ القرارات.

وقد نشرَ معهد “آدا لوف ليس” أوراقاً بحثيةً تستكشف تأثيرات الذكاء الاصطناعيّ على المجتمع والبيئة، وتقدِّم عمليةً مفصّلة خطوة بخطوة لتوظيف تقييمات الأثر الحسابيّ على أرض الواقع. وفي ضوئِها، سيتم اختبارُ هذه التقييمات على مجموعة من مبادرات المختبر، حيث ستكون جزءاً من عملية الوصول إلى المنصة الوطنية المقترحة للتصوير الطبي وإلى قاعدة البيانات الوطنية لصور الصدر الخاصة بجائحة كوفيد-19، والتي تساعد الباحثين لفهم الفيروس أكثر وتطوير آليات رعاية المرضى الذين يعانون حالات حرجة. تضمّنت هذه القاعدة أكثر من 60 ألف صورة شعاعية من 27 مؤسسة صحية موثوقة، ما جعلها نموذجاً ملائماً للتحقق من أداء النظام ورصدِ أي خلل أو تحيّز. فخلال انتشار الجائحة، ومع تنامي الاهتمام باستخدام الأنظمة الذكية لتحسين الخدمات وتمكين الرعاية المنزلية، اختبر الفريق مدى دقة الخوارزميات في تشخيص حالات الإصابة ومستوى أدائِها مع المرضى من أعمار وأجناس وأعراق مختلفة.

ولِما تتسم به مراحل التطوير الأولى من مرونة، فقد سعى الفريق لتحقيق الاستفادة القصوى من ذلك، وعمل على إشراك المرضى والمتخصصين وجمع ملاحظاتهم ورؤاهم لإدخال التعديلات اللازمة.

تجدر الإشارة إلى أنّ التجربة الوحيدة القائمة لتطبيق تقييمات الأثر الحسابيّ تمّت في كندا، حيث اعتمدها مجلس الخزانة لإدارة معايير الشراء الحكومي لأنظمة الذكاء الصناعيّ، وذلك عبر استبيانٍ متعدد الأقسام يطرح 60 سؤالاً حول السمات التقنية للأنظمة والبيانات التي تعتمِدها وكيفية اتخاذها للقرار. بعدئذٍ، يتم تصنيف التأثيرات على مقياسٍ متدرِّج بدءاً من فئة “التأثير الضئيل إلى المعدوم” وانتهاءً بـ “التأثير العميق”. تُحَدَّد هذه التأثيرات وفق عدة اعتبارات كالحقوق الفردية والصحة والرفاهية والمصالح الاقتصادية والنظام البيئي. وأخيراً، تُعرض التقييمات على موقعٍ إلكترونيّ خاص.

وقد أصدرت هيئة الخدمات الصحية تقريراً يستعرض المخاوف التي تواجهها هذه التقنية، ويوضح أنّ الهدف ليس استبدالَ أدوات المساءلة والأُطُر التنظيمية القائمة بل دعمَها، وهي ترمي لتوفير إطارٍ معياريٍّ لتقييم آثار الذكاء الاصطناعيّ على الناس والمجتمعات.

في السياق نفسِه، أكّدت الهيئة للمرضى أنّ بياناتهم ستُستخدم بمسؤولية وأمان، وبالشكل الذي ينعكس مباشرة عليهم ويخدم الصالح العام.

ولم تنكر الهيئة أنّ تقنية تقييمات الأثر الحسابيّ مُقبلةٌ على تحديات كثيرة قبل أن تكون جاهزةً للتطبيق في مجالات أخرى لتقدِّم قيمةً حقيقية، وهو ما يتطلّب تعديلَها لتوائِمَ المشهد الحالي.

ستضمن العملية الجديدة منعَ تحيُّزات الخوارزميات قبل وصولِها إلى بيانات هيئة الخدمات الصحية، ما يعني الوقاية من المخاطر المحتملة لذلك، كما سيدعم البرنامج التجريبيّ الباحثين والمطوّرين بمعلوماتٍ دقيقة لما يجري على الأرض لتوجيه جهودِهم. 

حين يكون المرضى وذووهم جزءاً من مساعي التطوير، فهذا يعني تقديم تجربة أفضل وتحقيقَ تكاملٍ حقيقيّ للذكاء الاصطناعيّ، ما سيحقق نتائج صحية أفضل للجميع، ولا سيما للأقليات والفئات الأكثر عرضة للخطر.

عبر استكشافِ الآثار القانونية والاجتماعية والأخلاقية للأنظمة الذكية المقترحة، تتطلّع الهيئة إلى منظومة تعزِّز الشفافية والمساءلة وشرعيةَ استخدام الذكاء الاصطناعيّ في الرعاية الصحية.

المراجع:

اشترك في القائمة البريدية

اشترك في القائمة البريدية لتبقَ على اطلاع على أحدث المبادرات والابتكارات الحكومية التي تقدّمها منصة ابتكر

مقالات ذات صلة

إدارة النفايات

الحكومات تسعى لحلول مبتكرة لإدارة النفايات الإلكترونية

ترى سنغافورة أن النفايات الإلكترونية تشكل خطراً على الصحة العامة بالدرجة الأولى، خاصة عند النظر في مساحة أراضيها الصغيرة التي لا تقبل المزيد من المكبات. وهي تنتج كمية كبيرة من النفايات الإلكترونية يبلغ حجمها قرابة 60 ألف طن متري في العام– أو ما يعادل استهلاك 70 هاتفاً خلوياً في العام لكل شخص في الدولة. لذا قررت سنغافورة التحول إلى الاقتصاد الدائري مع تطبيق نظام “المسؤولية الموسعة للمنتجين” (EPR) بالتعاون مع الفاعلين في صناعة الإلكترونيات من منتجين وبائعي تجزئة ومشغلي مرافق إعادة التدوير، ممّن يعملون على إنشاء مثل هذا النظام بما يتناسب مع احتياجات سنغافورة، ما يعني أن يتشارك هؤلاء الفاعلين في تحمل المسؤولية، وضمان إعادة تدوير النفايات الإلكترونية بطريقة مستدامة وصديقة للبيئة. 

البصمة الكربونية

استخدام أحدث تقنيات التخضير في أبنية الحكومة الفيدرالية الأمريكية

صوبَ هذه الغاية، أطلقت الإدارة برنامج “مساحة الاختبار الخضراء” وهو يمثِّل بيئةَ اختبارٍ لإثبات جدوى تقنيةٍ أو منتجٍ أو عمليةٍ ما لجعل الأبنية الفيدرالية أكثر اخضراراً، انطلاقاً من مبدأ أنّ نجاح هذه التجارب في المباني الفيدرالية يعني أنّها مؤهلة للنجاح في أي مكان مشابه.

وقع اختيار الفريق على 6 تقنياتٍ أمريكية الصنع لتجربتها في مجموعة من الأبنية، وذلك بهدف التحقق من خصائصها التقنية والتشغيلية وإمكانية نشرِها في المستقبل، وستُجرى التجارب ضمن معطياتٍ تحاكي ظروف العالم الحقيقي لتأكيد قدرة هذه التقنيات على الحدّ من التأثير البيئي لهذه المباني.

إدارة الكوارث

كوريا تتبنى حلولاً ذكية لتحسين خدمات الطوارئ

بدايةً، شرعَ فريق الحرائق والكوارث بتطوير منصة رقمية تجمع التقنيات المتقدِّمة كالبيانات الضخمة والذكاء الاصطناعيّ من جهة، مع أرشيف عمليات الطوارئ التي أُنجزت عبر سنوات من جهة أخرى، بما في ذلك المكالمات المسجّلة وجهود الإنقاذ وإعادة تأهيل المواقع المتضررة والمعلومات الميدانية وبيانات الوكالات ذات الصلة. سيمثِّل هذا الأرشيف بنيةً تحتيةً تكنولوجية للمنصة التي ستبصر النور في العام 2026، وستلتقي فيها أنظمة الاستجابة الميدانية المتنوِّعة، كما ستتصلُ بها شاشاتٌ مثبَّتة ضمن مركبات الطوارئ لتزويد الفريق بالمعلومات المباشرة أثناء توجُّهه إلى موقع الحالة الطارئة.