على الرغم من حداثة طرحها، وافتقارها لغاية الآن إلى قواعد تنظيمية وافية تحدّ من جوانب قصورها ومخاطرها، إلا أن تقنيات الذكاء الاصطناعي شهدت تبنّياً سريعاً وواسعاً في كلا القطاعين الحكومي والخاص. والتحيّز هو إحدى النقاط التي قد تعيب هذه التقنيات. لكن هناك مبادرة رائدة جديرة بالبحث والمتابعة طورتها العاصمة الهولندية أمستردام، كخطوة أولى للحد من ما يعرف بـ”تحيز الذكاء الاصطناعي” في تقديم الخدمات الحكومية، ذلك من خلال إنشاء سجلّ أو أرشيف للخوارزميات المستخدمة، سعياً لرفع مستوى الشفافية، والمساءلة وتوسيع نطاق المشاركة في تحسينها.

تستخدم الحكومات الخوارزميات في خدماتها المؤتمتة بهدف تسهيل نفاذ المستخدم لتلك الخدمات، أو تحسين تجربته، أو تحقيق المستوى الأمثل لأداء العمليات الداعمة للخدمات. كما تساعد في إدارة الخدمات، ومكافحة الاحتيال، وتساهم بشكل عام في خفض التكاليف، سواء على الأمد القصير أو الطويل. لكن ظاهرة تحيز الذكاء الاصطناعي أو الخوارزميات– أو كما تعرف بلغة المبرمجين: “التحيز البرمجي” في صنع القرارات المؤتمتة– أصبحت مصدر قلق متزايد للمسؤولين. فهي تشكل تحدّياً في تقديم الخدمات لجميع طالبيها بشكل عادل وسليم يتسم بالمساواة والإنصاف.

تنشأ جذور هذا التحيز خلال عملية تطوير الذكاء الاصطناعي، التي تعتمد إلى حد كبير على إعداد مجموعة من الإرشادات الواضحة والتعليمات المحددة، أو الخوارزميات، التي يتم تلقينها للنظام من خلال عملية التعلم الآلي، بالإضافة إلى مجموعة البيانات المرتبطة بالخدمة التي يتم تغذية النظام بها.

تتعدد أسباب هذه الظاهرة. أهمها التحيزات التاريخية المتوارثة في الممارسات والنظم؛ أو تلك غير التي يتقصّدها المبرمج الذي يعد الخوارزمية. كما يتمثل السبب أحياناً في خطأ فني في صياغة الخوارزمية، أو وجود بيانات وإحصاءات غير دقيقة.

وقد يزيد الذكاء الاصطناعي من حدة هذا التحيز عندما يتخذ قرارات غير عادلة مبنية على هذه الخوارزميات خلال تقديم الخدمات الحكومية، خاصة في المجالات الحيوية التي يمكن أن تؤثر سلبياً على سلامة المستخدم أو مستقبله، مثل خدمات الرعاية الصحية، والمحاكم، والتعليم. وبالنتيجة، يمكن أن يؤدي مثل هذا التحيز إلى تفضيل فئة من المستخدمين على غيرها، وعدم المساواة في حقوق بعض فئات المستخدمين، سواءَ أكانت على أساس العرق، أو الجنس، أو العمر، أو غيرها. ومع تزايد وتيرة دمج التقنيات الذكية والخوارزميات في مختلف أنواع الخدمات العامة، أصبحت مسألة إيجاد الحلول أولوية لدى الحكومات.

سجلّ الخوارزميات الهولندي، الذي يعدّ التجربة الأولى من نوعها في العالم، هو عبارة عن منصة قياسية قابلة للبحث عن نظم الخوارزميات وأرشفتها، تُوثَّق فيها كافةُ الفرضيات التي طرحت والقرارات التي اتخذت خلال عملية تطوير، وتطبيق، وإدارة خوارزميات جميع الخدمات البلدية التي توفرها مدينة أمستردام.

لا يسعى سجلّ خوارزميات أمستردام فقط إلى الكشف عن مواقع التحيز في التطبيقات القائمة ومعالجتها بشكل تعاوني مع الجمهور، بل وكذلك إلى استباق المشاكل، من جهة حث المبرمجين العاملين في جهاز الذكاء الاصطناعي الحكومي على مزيد من التنبه إلى التحيزات والأخطاء في كتابة الخوارزميات، وإلى نوعية وجودة البيانات التي يستندون إليها في المستقبل في ظل المساءلة.

الهدف الآخر الذي لا يقل أهمية، هو بناء ثقة المواطنين في نظم الذكاء الاصطناعي التي ما تزال غامضة لدى غالبيتهم، من خلال جذب مشاركتهم الفعالة في الاطلاع على الفرضيات والمفاهيم التي تم على أساسها تطوير كل خوارزمية من الخوارزميات، بطريقة سهلة الاستخدام، ولغة غير معقدة.  وفضلاً عن ذلك، تمت إجراء استشارات خلال مرحلة تطوير سجل الخوارزميات للبحث عن آراء المستخدمين، وهذه الممارسة تم دمجها في البنية الرقمية للسجل من خلال صفحة التغذية الرجعية يسمح للمستخدمين بالإبلاغ عن المشكلات أو تقديم ملاحظات.

يتيح هذا الإطار الفرصة لتوسيع النقاش العام، من جهة، ومشاركة الباحثين ومدققي البرمجيات المستقلين في آرائهم، من جهة أخرى، ما يجعل الجمهور شريكاً فاعلاً في التحكم في الخدمات.

وبالإضافة إلى الشفافية في عرض الخوارزميات والفرضيات التي قامت عليها، وأسماء مبرمجيها، يعزز السجل القابلية للشرح والتفسير بالكامل حيثما يتطلب الأمر ذلك وعند الطلب. وقد أكدت عدة دراسات تمت في مختلف أنحاء العالم على أن الشفافية والقابلية للشرح والتفسير هما أهم عاملين في تعزيز ثقة المواطن في الذكاء الاصطناعي. هذا عدا عن أن رفع مستوى شفافية الخدمات سيساهم في تعزيز شفافية مختلف أنشطة الحكومة بشكل عام.

ما يزال سجل أمستردام للخوارزميات في نسخته التجريبية ويضم عدد صغير من تطبيقات حكومية للذكاء الاصطناعي في مجالات مختلفة. على سبيل المثال، تتعامل أحد الخوارزميات مع تنظيم مواقف السيارات في المدينة، حيث تقوم الخوارزمية بمساعدة السلطات على تحديد إذا كانت السيارات المتوقفة مسموحًا بتوقيفها ومستوفية للرسوم. أما الخوارزمية الثانية فتُمكِّن المواطنين من الإبلاغ عن الأعطال في الأماكن العامة في المدينة من خلال “تخمين” فئة المشكلة الصحيحة وإرسالها إلى القسم البلدي المناسب. تتعرف الخوارزمية على بعض الكلمات مثل “نفايات” و”رصيف” لتحديد الفئة، والتي من المعتقد أنها تساهم في تسريع استجابة استفسارات المواطنين.

ثمّة ورقة بيضاء تم نشرها على موقع سجلّ الخوارزميات، تقدّم عدة توصيات لمعالجة مختلف جوانب التحدي الذي يفرضه تحيز الذكاء الاصطناعي. تشمل هذه التوصيات ضرورةَ وضع إرشادات للمدققين العامين في الخوارزميات.

يبدو أن هذه الخطوة لن تكون الوحيدة: إذ بادرت العاصمة الفنلندية هلسنكي، أسوةً بأمستردام، إلى إطلاق سجل مماثل للخوارزميات المستخدمة في الخدمات الحكومية للحدّ من تحيز الذكاء الاصطناعي، تلاه تنسيق بين عدد من العواصم والمدن الأوروبية الأخرى لإقامة جهود مشتركة مماثلة.

المراجع:

• https://algoritmeregister.amsterdam.nl/wp-content/uploads/White-Paper.pdf
• https://www.themayor.eu/en/a/view/helsinki-and-amsterdam-with-first-ever-ai-registries-5982
• https://www.government-transformation.com/data/helsinki-amsterdam-first-cities-in-world-to-establish-open-ai-registers
• https://amsterdamintelligence.com/posts/interview-with-linda-van-de-fliert-about-the-algorithm-register
• https://citiesfordigitalrights.org/9-european-cities-set-common-data-algorithm-register-standard-promote-transparent-ai