سجل خوارزميات أمستردام لمعالجة التحيز في الذكاء الاصطناعي الحكومي

سجل خوارزميات أمستردام لمعالجة التحيز في الذكاء الاصطناعي الحكومي

1 دقيقة قراءة
على الرغم من حداثة طرحها، وافتقارها لغاية الآن إلى قواعد تنظيمية وافية تحدّ من جوانب قصورها ومخاطرها، إلا أن تقنيات الذكاء الاصطناعي شهدت تبنّياً سريعاً وواسعاً في كلا القطاعين الحكومي والخاص. والتحيّز هو إحدى النقاط التي قد تعيب هذه التقنيات. لكن هناك مبادرة رائدة جديرة بالبحث والمتابعة طورتها العاصمة الهولندية أمستردام، كخطوة أولى للحد من ما يعرف بـ"تحيز الذكاء الاصطناعي" في تقديم الخدمات الحكومية، ذلك من خلال إنشاء سجلّ أو أرشيف للخوارزميات المستخدمة، سعياً لرفع مستوى الشفافية، والمساءلة وتوسيع نطاق المشاركة في تحسينها.
شارك هذا المحتوى

أضف إلى المفضلة ♡ 0

على الرغم من حداثة طرحها، وافتقارها لغاية الآن إلى قواعد تنظيمية وافية تحدّ من جوانب قصورها ومخاطرها، إلا أن تقنيات الذكاء الاصطناعي شهدت تبنّياً سريعاً وواسعاً في كلا القطاعين الحكومي والخاص. والتحيّز هو إحدى النقاط التي قد تعيب هذه التقنيات. لكن هناك مبادرة رائدة جديرة بالبحث والمتابعة طورتها العاصمة الهولندية أمستردام، كخطوة أولى للحد من ما يعرف بـ"تحيز الذكاء الاصطناعي" في تقديم الخدمات الحكومية، ذلك من خلال إنشاء سجلّ أو أرشيف للخوارزميات المستخدمة، سعياً لرفع مستوى الشفافية، والمساءلة وتوسيع نطاق المشاركة في تحسينها.

تستخدم الحكومات الخوارزميات في خدماتها المؤتمتة بهدف تسهيل نفاذ المستخدم لتلك الخدمات، أو تحسين تجربته، أو تحقيق المستوى الأمثل لأداء العمليات الداعمة للخدمات. كما تساعد في إدارة الخدمات، ومكافحة الاحتيال، وتساهم بشكل عام في خفض التكاليف، سواء على الأمد القصير أو الطويل. لكن ظاهرة تحيز الذكاء الاصطناعي أو الخوارزميات– أو كما تعرف بلغة المبرمجين: "التحيز البرمجي" في صنع القرارات المؤتمتة– أصبحت مصدر قلق متزايد للمسؤولين. فهي تشكل تحدّياً في تقديم الخدمات لجميع طالبيها بشكل عادل وسليم يتسم بالمساواة والإنصاف.

تنشأ جذور هذا التحيز خلال عملية تطوير الذكاء الاصطناعي، التي تعتمد إلى حد كبير على إعداد مجموعة من الإرشادات الواضحة والتعليمات المحددة، أو الخوارزميات، التي يتم تلقينها للنظام من خلال عملية التعلم الآلي، بالإضافة إلى مجموعة البيانات المرتبطة بالخدمة التي يتم تغذية النظام بها.

تتعدد أسباب هذه الظاهرة. أهمها التحيزات التاريخية المتوارثة في الممارسات والنظم؛ أو تلك غير التي يتقصّدها المبرمج الذي يعد الخوارزمية. كما يتمثل السبب أحياناً في خطأ فني في صياغة الخوارزمية، أو وجود بيانات وإحصاءات غير دقيقة.

وقد يزيد الذكاء الاصطناعي من حدة هذا التحيز عندما يتخذ قرارات غير عادلة مبنية على هذه الخوارزميات خلال تقديم الخدمات الحكومية، خاصة في المجالات الحيوية التي يمكن أن تؤثر سلبياً على سلامة المستخدم أو مستقبله، مثل خدمات الرعاية الصحية، والمحاكم، والتعليم. وبالنتيجة، يمكن أن يؤدي مثل هذا التحيز إلى تفضيل فئة من المستخدمين على غيرها، وعدم المساواة في حقوق بعض فئات المستخدمين، سواءَ أكانت على أساس العرق، أو الجنس، أو العمر، أو غيرها. ومع تزايد وتيرة دمج التقنيات الذكية والخوارزميات في مختلف أنواع الخدمات العامة، أصبحت مسألة إيجاد الحلول أولوية لدى الحكومات.

سجلّ الخوارزميات الهولندي، الذي يعدّ التجربة الأولى من نوعها في العالم، هو عبارة عن منصة قياسية قابلة للبحث عن نظم الخوارزميات وأرشفتها، تُوثَّق فيها كافةُ الفرضيات التي طرحت والقرارات التي اتخذت خلال عملية تطوير، وتطبيق، وإدارة خوارزميات جميع الخدمات البلدية التي توفرها مدينة أمستردام.

لا يسعى سجلّ خوارزميات أمستردام فقط إلى الكشف عن مواقع التحيز في التطبيقات القائمة ومعالجتها بشكل تعاوني مع الجمهور، بل وكذلك إلى استباق المشاكل، من جهة حث المبرمجين العاملين في جهاز الذكاء الاصطناعي الحكومي على مزيد من التنبه إلى التحيزات والأخطاء في كتابة الخوارزميات، وإلى نوعية وجودة البيانات التي يستندون إليها في المستقبل في ظل المساءلة.

الهدف الآخر الذي لا يقل أهمية، هو بناء ثقة المواطنين في نظم الذكاء الاصطناعي التي ما تزال غامضة لدى غالبيتهم، من خلال جذب مشاركتهم الفعالة في الاطلاع على الفرضيات والمفاهيم التي تم على أساسها تطوير كل خوارزمية من الخوارزميات، بطريقة سهلة الاستخدام، ولغة غير معقدة.  وفضلاً عن ذلك، تمت إجراء استشارات خلال مرحلة تطوير سجل الخوارزميات للبحث عن آراء المستخدمين، وهذه الممارسة تم دمجها في البنية الرقمية للسجل من خلال صفحة التغذية الرجعية يسمح للمستخدمين بالإبلاغ عن المشكلات أو تقديم ملاحظات.

يتيح هذا الإطار الفرصة لتوسيع النقاش العام، من جهة، ومشاركة الباحثين ومدققي البرمجيات المستقلين في آرائهم، من جهة أخرى، ما يجعل الجمهور شريكاً فاعلاً في التحكم في الخدمات.

وبالإضافة إلى الشفافية في عرض الخوارزميات والفرضيات التي قامت عليها، وأسماء مبرمجيها، يعزز السجل القابلية للشرح والتفسير بالكامل حيثما يتطلب الأمر ذلك وعند الطلب. وقد أكدت عدة دراسات تمت في مختلف أنحاء العالم على أن الشفافية والقابلية للشرح والتفسير هما أهم عاملين في تعزيز ثقة المواطن في الذكاء الاصطناعي. هذا عدا عن أن رفع مستوى شفافية الخدمات سيساهم في تعزيز شفافية مختلف أنشطة الحكومة بشكل عام.

ما يزال سجل أمستردام للخوارزميات في نسخته التجريبية ويضم عدد صغير من تطبيقات حكومية للذكاء الاصطناعي في مجالات مختلفة. على سبيل المثال، تتعامل أحد الخوارزميات مع تنظيم مواقف السيارات في المدينة، حيث تقوم الخوارزمية بمساعدة السلطات على تحديد إذا كانت السيارات المتوقفة مسموحًا بتوقيفها ومستوفية للرسوم. أما الخوارزمية الثانية فتُمكِّن المواطنين من الإبلاغ عن الأعطال في الأماكن العامة في المدينة من خلال "تخمين" فئة المشكلة الصحيحة وإرسالها إلى القسم البلدي المناسب. تتعرف الخوارزمية على بعض الكلمات مثل "نفايات" و"رصيف" لتحديد الفئة، والتي من المعتقد أنها تساهم في تسريع استجابة استفسارات المواطنين.

ثمّة ورقة بيضاء تم نشرها على موقع سجلّ الخوارزميات، تقدّم عدة توصيات لمعالجة مختلف جوانب التحدي الذي يفرضه تحيز الذكاء الاصطناعي. تشمل هذه التوصيات ضرورةَ وضع إرشادات للمدققين العامين في الخوارزميات.

يبدو أن هذه الخطوة لن تكون الوحيدة: إذ بادرت العاصمة الفنلندية هلسنكي، أسوةً بأمستردام، إلى إطلاق سجل مماثل للخوارزميات المستخدمة في الخدمات الحكومية للحدّ من تحيز الذكاء الاصطناعي، تلاه تنسيق بين عدد من العواصم والمدن الأوروبية الأخرى لإقامة جهود مشتركة مماثلة.

المراجع:

اشترك في منصة ابتكر لتبقَ على اطلاع على أحدث المبادرات والمساقات والأدوات والابتكارات الحكومية
قم بالتسجيل
اشترك في النشرة الإخبارية لمنصة ابتكر
القائمة البريدية للمبتكرين
تصل نشرتنا الإخبارية إلى أكثر من 30 ألف مبتكر من جميع أنحاء العالم!
اطلع على النشرة الإخبارية لدينا لتكون أول من يكتشف الابتكارات الجديدة و المثيرة و الأفكار الملهمة من حول العالم التي تجعلك جزءاً من المستقبل.
Subscription Form (#8)
المزيد من ابتكر

حلولٌ مستوحاةٌ من الطبيعة… العفن يرسم خريطة لمحطات شحن المركبات الكهربائية

من الملهم أن يجد الباحثون حلولًا لأكبر التحديات في أصغر الكائنات. هذا ما فعله باحثون في سعيهم لتطوير البنية التحتية للمركبات الكهربائية، فاستوحوا من العفن الغروي طريقةً لإنشاء شبكة شحنٍ متعدّدة الأغراض توفِّر الوقت والتكلفة والأثرَ البيئيّ. مع التحول العالمي نحو وسائل نقل نظيفة، من المتوقع أن تحتل المركبات الكهربائية مكانة الصدارة في مستقبل النقل […]

 · · 23 مايو 2025

هامبورغ تطورّ الذكاء الاصطناعي محلياً لتحديث العمل الحكومي

مع تسابق حكومات العالم للاستفادة من تقنيات الذكاء الاصطناعي في شتى المجالات سعياً لزيادة فعالية عملية اتخاذ القرار ورفع كفاءة خدماتها وسبر آفاق جديدة في العمل الحكومي، باشرت هامبورغ باختبار فعالية نموذج مبتكر من نماذج اللغات الكبيرة (LLM) أو برامج الذكاء الاصطناعي التوليدي، طورته المدينة الألمانية محلياً ليس بهدف تحسين آليات تقديم الخدمات العامة فحسب، بل ولإعادة تصور إطار عمل تلك الخدمات والارتقاء بها إلى مستويات غير مسبوقة.

 · · 23 مايو 2025

مشروع أحياء الابتكار في هلسنكي يحول الضواحي إلى مختبرات حية

تتّخذُ غالبية مجمعات الابتكار، سواءٌ أكانت أكاديمية أو تكنولوجية أو صناعية، من مراكز المدن ومحيطها مقراً لها. لكن عاصمة فنلندا، هيلسنكي، وجّهت أنظارها صوب ضواحي عاصمتها، ليس لتنميتها فحسب بل ولتحويلها تدريجياً إلى مناطقَ ذكيةٍ للعيش والعمل، وجعلها محرّكاً للنمو الاقتصادي القائم على الابتكار على الأمد الطويل، لكي تواكب التنمية، مثل باقي أحياء مدينة هلسنكي، من خلال تبني الأفكار الجيدة وتطويرها ضمن مشاريع تعاونية عملية. يأتي ذلك ضمن رؤية هلسنكي في أن تحتل مكان الريادة بين مدن العالم الذكية.

 · · 23 مايو 2025

أعضاء على رقاقة … ثورة في اكتشافِ الأدوية والرعاية الصّحيّة

سعياً إلى توفير أدوية أكثر أماناً وفعالية، أثمرت جهود العلماء ابتكاراً سُمي "الأعضاء على الرقاقة"، يقوم على محاكاة العمليات الحيوية على مستوى خَلَويّ، ويَعِد بسدّ الفجوة بين النظرية العلاجية والتطبيق السريريّ.

 · · 30 ديسمبر 2024

توربينات رياح تحصد طاقة الأعاصير في الصين

ابتكرت مجموعة مينج يانج الصينية تقنيةً متطوِّرةً تمكنها من تسخير أكثر ظواهر الطبيعة قسوةً لتوليد طاقةٍ نظيفةٍ ومتجددة، وهي منصّة توربيناتٍ متمركزة في المياه العميقة تحوِّل طاقة الرياح البحريّة إلى كهرباء حتى أثناء الأعاصير الشديدة.

 · · 30 ديسمبر 2024
magnifiercrossmenuchevron-downarrow-right