المملكة المتحدة تختبر أنظمة الذكاء الاصطناعي للحد من التحيز في قطاع الرعاية الصحية

المملكة المتحدة تختبر أنظمة الذكاء الاصطناعي للحد من التحيز في قطاع الرعاية الصحية

1 دقيقة قراءة
تقوم التجربة على استخدام تقييمات الأثر الحسابيّ لتحليل القرارات التي يتخذها الذكاء الاصطناعيّ والتي قد تؤدي إلى نتائج صحية دون المستوى المطلوب بناء على خلفيات المرضى وملفاتهم الشخصية. وهذه التقييمات عبارة عن استبيانات تستعرض عمليات منشأة ما وبياناتِها وتصميمَ نظامِها، بهدف المساعدة في تقييم الآثار والمخاطر التي قد تصاحب اعتمادَ نظام آليّ لاتخاذ القرارات.
شارك هذا المحتوى

أضف إلى المفضلة ♡ 0

استكمالاً للجهود الحكومية المميزة لتبني أنظمة الذكاء الاصطناعيّ، أطلقت هيئة الخدمات الصحية الوطنية في المملكة المتحدة برنامجاً مصمماً لرصد تحيُّزات الأنظمة الذكية في القطاع الصحي وإنشاء مجموعات بيانات شاملة ومتنوّعة بمشاركة المرضى ومقدِّمي الرعاية المتخصصين.

رغم ما حقّقته نداءات المساواة من إنجازات، ما يزال الكثيرون عرضةً لظاهرة "التحيُّز الضمنيّ"، وهي الصور النمطية عن الآخرين التي تؤثر على فهمنا وأفعالنا دون وعي. وفي حين أن ممارسات البشر قد ولدت تحيُّزات عديدة عبر الزمن، يبقى مُستهجناً أن تبديها الآلة أو البرمجيات الذكية.

في المملكة المتحدة، تُستخدم أنظمة الذكاء الاصطناعيّ على نطاق واسع في المجالات الحيوية والخدمات العامة، إذ تستخدم هذه الأنظمة الخوارزميات لتقييم بياناتٍ جُمعت عن الأرض وإنشاء تمثيلاتٍ لها، ومن ثم بناء الاستنتاجات بالاستناد إليها.

في القطاع الصحيّ مثلاً، تنجز هذه الأنظمة العديد من مهام الإدارة والتشخيص، ما يدعم جهود الطواقم الصحية ويجعل العلاج أسرع وأكثر فاعلية. إلّا أنّ هذه الأنظمة قد تعود بنتائج عكسية إن لم يُراعِ مطوِّروها التحيُّزات في الخوارزميات التي سبّبت حالات من التفاوت على مرّ سنوات، فقد ثَبت أنّ قواعد التنبؤ الخاصة بأمراض القلب، والتي استخدمها أطباء البلدان الصناعية لعقود، اتّسمت بتحيُّزٍ مَرَدُّه الدراسات التي بُنيت عليها تلك القواعد في بادئ الأمر. بطبيعة الحال، حين تشكِّل فئة عِرقيةٌ معيّنة معظمَ الحالات التي جُمعت بياناتُها، فمن المُرجَّح أنّ النتيجة ستنطبق عليها أكثرَ من المجموعات الأخرى ذات التمثيل الناقص أو الأقلّويّ.  وقد يظهر التحيّز في أي مرحلة أخرى من عملية إنشاء الخوارزميات كاختيار النموذج أو تطبيق النتائج.

ولأنَّ التأثير التدريجيّ يتطلّب معالجة تدريجية، تعمل هيئة الخدمات الصحية الوطنية بالتعاون مع معهد "آدا لوف ليس" المستقلّ للأبحاث على إطلاق نهج رائد عالمياً لتحسين التبنّي الأخلاقيّ للذكاء الاصطناعيّ في المنظومة الصحية.

تأتي هذه الجهود لتكمِّلَ عملَ فريق الأخلاقيات في مختبر الذكاء الاصطناعيّ التابع لهيئة الخدمات الصحية، والذي يركِّز على دعم الباحثين والمطوِّرين في إنشاء مجموعات بيانات متنوعة وشاملة لتدريب أنظمة الذكاء الاصطناعي واختبارها، حيث ينبغي أن تتضمن طواقم علوم البيانات متخصصين من خلفيات متنوعة.

تقوم التجربة على استخدام تقييمات الأثر الحسابيّ لتحليل القرارات التي يتخذها الذكاء الاصطناعيّ والتي قد تؤدي إلى نتائج صحية دون المستوى المطلوب بناء على خلفيات المرضى وملفاتهم الشخصية. وهذه التقييمات عبارة عن استبيانات تستعرض عمليات منشأة ما وبياناتِها وتصميمَ نظامِها، بهدف المساعدة في تقييم الآثار والمخاطر التي قد تصاحب اعتمادَ نظام آليّ لاتخاذ القرارات.

وقد نشرَ معهد "آدا لوف ليس" أوراقاً بحثيةً تستكشف تأثيرات الذكاء الاصطناعيّ على المجتمع والبيئة، وتقدِّم عمليةً مفصّلة خطوة بخطوة لتوظيف تقييمات الأثر الحسابيّ على أرض الواقع. وفي ضوئِها، سيتم اختبارُ هذه التقييمات على مجموعة من مبادرات المختبر، حيث ستكون جزءاً من عملية الوصول إلى المنصة الوطنية المقترحة للتصوير الطبي وإلى قاعدة البيانات الوطنية لصور الصدر الخاصة بجائحة كوفيد-19، والتي تساعد الباحثين لفهم الفيروس أكثر وتطوير آليات رعاية المرضى الذين يعانون حالات حرجة. تضمّنت هذه القاعدة أكثر من 60 ألف صورة شعاعية من 27 مؤسسة صحية موثوقة، ما جعلها نموذجاً ملائماً للتحقق من أداء النظام ورصدِ أي خلل أو تحيّز. فخلال انتشار الجائحة، ومع تنامي الاهتمام باستخدام الأنظمة الذكية لتحسين الخدمات وتمكين الرعاية المنزلية، اختبر الفريق مدى دقة الخوارزميات في تشخيص حالات الإصابة ومستوى أدائِها مع المرضى من أعمار وأجناس وأعراق مختلفة.

ولِما تتسم به مراحل التطوير الأولى من مرونة، فقد سعى الفريق لتحقيق الاستفادة القصوى من ذلك، وعمل على إشراك المرضى والمتخصصين وجمع ملاحظاتهم ورؤاهم لإدخال التعديلات اللازمة.

تجدر الإشارة إلى أنّ التجربة الوحيدة القائمة لتطبيق تقييمات الأثر الحسابيّ تمّت في كندا، حيث اعتمدها مجلس الخزانة لإدارة معايير الشراء الحكومي لأنظمة الذكاء الصناعيّ، وذلك عبر استبيانٍ متعدد الأقسام يطرح 60 سؤالاً حول السمات التقنية للأنظمة والبيانات التي تعتمِدها وكيفية اتخاذها للقرار. بعدئذٍ، يتم تصنيف التأثيرات على مقياسٍ متدرِّج بدءاً من فئة "التأثير الضئيل إلى المعدوم" وانتهاءً بـ "التأثير العميق". تُحَدَّد هذه التأثيرات وفق عدة اعتبارات كالحقوق الفردية والصحة والرفاهية والمصالح الاقتصادية والنظام البيئي. وأخيراً، تُعرض التقييمات على موقعٍ إلكترونيّ خاص.

وقد أصدرت هيئة الخدمات الصحية تقريراً يستعرض المخاوف التي تواجهها هذه التقنية، ويوضح أنّ الهدف ليس استبدالَ أدوات المساءلة والأُطُر التنظيمية القائمة بل دعمَها، وهي ترمي لتوفير إطارٍ معياريٍّ لتقييم آثار الذكاء الاصطناعيّ على الناس والمجتمعات.

في السياق نفسِه، أكّدت الهيئة للمرضى أنّ بياناتهم ستُستخدم بمسؤولية وأمان، وبالشكل الذي ينعكس مباشرة عليهم ويخدم الصالح العام.

ولم تنكر الهيئة أنّ تقنية تقييمات الأثر الحسابيّ مُقبلةٌ على تحديات كثيرة قبل أن تكون جاهزةً للتطبيق في مجالات أخرى لتقدِّم قيمةً حقيقية، وهو ما يتطلّب تعديلَها لتوائِمَ المشهد الحالي.

ستضمن العملية الجديدة منعَ تحيُّزات الخوارزميات قبل وصولِها إلى بيانات هيئة الخدمات الصحية، ما يعني الوقاية من المخاطر المحتملة لذلك، كما سيدعم البرنامج التجريبيّ الباحثين والمطوّرين بمعلوماتٍ دقيقة لما يجري على الأرض لتوجيه جهودِهم. 

حين يكون المرضى وذووهم جزءاً من مساعي التطوير، فهذا يعني تقديم تجربة أفضل وتحقيقَ تكاملٍ حقيقيّ للذكاء الاصطناعيّ، ما سيحقق نتائج صحية أفضل للجميع، ولا سيما للأقليات والفئات الأكثر عرضة للخطر.

عبر استكشافِ الآثار القانونية والاجتماعية والأخلاقية للأنظمة الذكية المقترحة، تتطلّع الهيئة إلى منظومة تعزِّز الشفافية والمساءلة وشرعيةَ استخدام الذكاء الاصطناعيّ في الرعاية الصحية.

المراجع:

اشترك في منصة ابتكر لتبقَ على اطلاع على أحدث المبادرات والمساقات والأدوات والابتكارات الحكومية
قم بالتسجيل
أشترك في القائمة البريدية لمنصة ابتكر | كل أسبوع
القائمة البريدية للمبتكرين
نشارك أكثر من 20,000 مبتكر أسبوعياً نشرة أخبارية ترصد الابتكارات العالمية من كافة أنحاء العالم
Subscription Form (#8)
المزيد من ابتكر

سنغافورة تعزز الاستخدام المسؤول للذكاء الاصطناعي

كشفت السلطات في سنغافورة عن تطويرها لإطار عمل ومجموعة أدوات اختبار مبتكرة تساعد الشركات في مختلف القطاعات على تعزيز الحوكمة والشفافية والمساءلة في تطبيقاتها للذكاء الاصطناعي.

 · · 29 يناير 2024

التحول الرقمي للقطاع المالي البرازيلي يعزز الشمول المالي

تشهد البرازيل ثورةً في عالم التمويل الرقميّ وتزايداً في أعداد المنضمّين إليه، من خلال حملة إصلاح شاملة تقودها الحكومة، تكثِّف استخدام التكنولوجيا وتركّز على احتياجات العملاء وتجدِّد اللوائح وتطوِّر تطبيقات التحويل الفوري وتحمي مواطنيها من ارتفاع الفوائد وعمليات الاحتيال.

 · · 22 يناير 2024

كيف يساعد الذكاء الاصطناعيّ فِرَق الإطفاء الأمريكية

أمام أخطار كثيرة ومتنوعة تواجه رجال الإطفاء، من الأبنية الآيلة للانهيار إلى حالات الوهج الشديد التي قد تحدث في أي لحظة عند ارتفاع درجات حرارة الحرائق أو حرائق الغابات التي تلتهم كلّ ما في طريقها، لجأت عدة مدن أمريكية للذكاء الاصطناعيّ، بغية ترتيب أولويات هدم الأبنية القديمة، وإرشاد فِرَق الإطفاء في مهامها، والتنبؤ بحالات الانفجار الناتجة عن الحرائق الشديدة.

 · · 19 ديسمبر 2023

مدن ألمانية تحلّ التحديات المعقّدة باستخدام التوائم الرقمية

لأنّ التوائم الرقمية تقدّم نماذج تقنية تدعم التنمية المستدامة المستقبلية، تعمل الحكومة الألمانية باختلاف مستوياتها على إنشاء هذه التوائم، فترسي الشراكات مع القطاع الخاص لتطوير شبكة السكك الحديدية وإدارة شبكات المياه وتحسين جودة الحياة.

 · · 19 ديسمبر 2023

حكومات توظف الابتكار لمواجهة القيادة المستهترة

سعياً لاحتواء ظاهرة القيادة المستهترة التي تعتلي لائحة مسبِّبات حوادث الطرق في العالم، لجأت حكوماتٌ عدّة في كلٍّ من أوروبا وأمريكا إلى الكاميرات الذكية التي تعمل بالذكاء الاصطناعيّ، لترصدَ المخالفات وتتكاملَ مع أُطُر ولوائحَ قانونيةٍ صارمةٍ لا تتهاون مع أيّ سائقٍ يعطي لعوامل التشتيت الأولوية على حساب سلامته وسلامة الآخرين.

 · · 4 ديسمبر 2023
magnifiercrossmenuchevron-downarrow-right