تشهد القطاعات انتشارًا متسارعًا لاستخدام تقنيات الذكاء الاصطناعي والأنظمة الخوارزمية. إذ باتت هذه التقنيات مستخدمة في مجالات متنوعة بدءًا من معالجة طلبات الهجرة والشرطة التنبؤية، وصولًا إلى تسعير السلع والخدمات المتاحة عبر شبكة الإنترنت.
ولكن، لماذا تعد هذه القرارات المبنية على أنظمة خوارزمية مثيرًة للجدل؟ غالبًا ما تفتقر مثل هذه القرارات للشفافية؛ الأمر الذي يجعل من الصعب تقييم مدى انسجامها مع قوانين حقوق الانسان وقوانين العمل وغيرها من منظومات الحوكمة. ومن جهتها، تُقبل الشركات الرقمية على استخدام الأنظمة الخوارزمية بشكل متزايد لتحديد الأسعار للمستخدمين بناء على مدخلاتهم، مثل رمز البريد وتاريخ التصفّح الخاص بهم وغيرها من الأساليب التي يجدها البعض مثيرة للقلق.
تعرّضت خوارزميات صنع القرار للنقد والمعارضة مرارًا، ويعزى ذلك إلى كونها تساهم في إدامة حالات التحيّز الاجتماعي كالعنصرية ولا تشمل الفئات المهمّشة كالأشخاص الذين يواجهون تحديات كأصحاب الهمم. يُثير هذا الأمر القلق بشكل خاص لأن هذه القرارات الحاسمة قد تؤثر بشكل سلبي على حياة الأفراد، لا سيّما أولئك الذين ينتمون لفئات مهمّشة في المجتمع.
تميل تقنيات الذكاء الاصطناعي والأنظمة الخوارزمية إلى تعميق حالات التحيز الاجتماعي التي يشهدها العالم. وخير دليل على ذلك حقيقة أن هذه الخوارزميات غالبًا ما تكون "مُدرّبة" باستخدام بيانات تاريخية، أي بيانات ذات طبيعة ترمز للتحيز الموجود من قبل. هناك العديد من الأمثلة على التحيز الخوارزمي الذي يشهده العالم بشكل متزايد. ففي فلوريدا على سبيل المثال، استُخدم الذكاء الاصطناعي للتنبؤ بدرجة خطر السجناء - أي بما معناه احتمالية ارتكابهم جرائم في المستقبل - وكانت النتيجة أن صنّف النظام السجناء ذوي البشرة الداكنة تحت قائمة المجرمين المستقبلين بما يقرب من ضعف معدل السجناء ذوي البشرة الفاتحة. كما تبيّن أن بعض أنظمة الشرطة التنبؤية الأخرى تسهم في تهميش الفئات الضعيفة بشكل أكبر من خلال زيادة تواجد قوات الشرطة في الأحياء ذات الدخل المتدني أو الأحياء التي يقطنها من غير البيض بحيث لا يكون تواجدهم متناسبًا مقارنة بالأحياء الأخرى. وفي كندا، وثّق تقرير مختبر المواطن لعام 2018 عملية صنع القرار المؤتمتة في نظام الهجرة واللاجئين الكندي. وقد ألقى هذا التقرير الضوء على الطبيعة المعقدة للعديد من الدعاوى المتعلقة بالهجرة واللاجئين والتي جعلت من استخدام الذكاء الاصطناعي تحدياً هاماً خصوصًا بوجود هذه الفئات الضعيفة والتي تواجه تحديات عدة.
نأتي إلى نيوزيلندا وهي ليست استثناء؛ ففي دراسة أجريت عام 2019 حول استخدام الأنظمة الخوارزمية في القطاع الحكومي ثبت وجود تباين كبير في مدى استخدام هذه الأنظمة وكيفية استخدامها.
وعليه، أطلقت وزارة الإحصاءات النيوزيلندية ميثاق الخوارزميات "Aotearoa New Zealand " ليتأكد أفراد المجتمع ويكونوا على ثقة بأن البيانات تُستخدم بشكل آمن وفعال عبر مختلف الجهات الحكومية. تعد نيوزيلندا أول دولة في العالم تضع مثل هذا الميثاق والمعايير التي من شأنها تنظيم استخدام الأنظمة الخوارزمية من قبل جهات القطاع الحكومي.
وتتعهد الجهات بموجب ميثاق نيوزيلندا الجديد بالتزام الشفافية العلنية حول تأثير الخوارزميات على عملية صنع القرار، بما في ذلك "التفسيرات البسيطة" وتوفير معلومات حول العمليات المستخدمة وكيفية تخزين البيانات ما لم يحظر القانون ذلك (كأسباب مرتبطة بالأمن الوطني على سبيل المثال) وتحديد وإدارة حالات التحيّز التي تعززها الأنظمة الخوارزمية.
كما ينبغي بالجهات مراعاة وجهة نظر "te ao Māori" أو السكان الأصليين حول جمع البيانات والتشاور مع المجموعات المتأثرة من المعادلات والخوارزميات؛ ففي نيوزيلندا يفتقر مجتمع Māori للتمثيل المتناسب في نظام العدالة والسجن.
ومن الجهات التي التزمت بالميثاق برنامج نيوزيلندا لتعويض الحوادث - الذي تعرّض لانتقادات في عام 2017 بسبب استخدامه الأنظمة الخوارزمية للكشف عن حالات الغش – بالإضافة إلى الجهات المعنية بالتصحيح والتي سخّرت الخوارزميات لتحديد احتمالية إقدام السجين على جريمة أو جنحة أخرى. وكان من بين الموقعين على الميثاق أيضًا الجهة المسؤولة عن الهجرة التي تبيّن في شهر مارس أنها تعتمد على الأنظمة الخوارزمية لتصنيف الطلبات.
أما بالنسبة للهيئات الأخرى التي خضعت لانتقادات على مستوى عالي بسبب استخدام الأنظمة الخوارزمية - بما في ذلك الشرطة التي شهدت موجة انتقادات لاذعة في عام 2019 من قبل ناشطين في الدفاع عن حق الخصوصية وذلك بسبب استخدامها تقنية تحديد الهوية من الوجه دون الإعلان عن ذلك وأيضًا الجهات المعنية بالتجسس - فلم تكن ضمن قائمة الموقعين.
اعتبارًا من الآن، وقّع الميثاق ما مجموعه 21 جهة مختلفة. وبالرغم من أن بعض الجهات لم توقع حتى الآن؛ لم تعلن أي جهة استبعادها للميثاق ومن المتوقع أن تقوم الجهات الأخرى بالتوقيع لاحقًا.
يدرك غالبية أفراد المجتمع النيوزيلندي أهمية الأنظمة الخوارزمية في دعم عملية صنع القرار وتطبيق السياسات الحكومية، ولكنهم يرغبون بالتأكد من أن هذه الأنظمة تُستخدم بشكل آمن ومسؤول. وهنا يأتي دور الميثاق في منحهم هذه الثقة. يساعد الميثاق في بناء ثقة المجتمع على المدى الطويل وبالتالي إطلاق القدرات الكاملة للبيانات لغايات الارتقاء بحياة الأفراد.
جاءت فكرة ميثاق الخوارزميات Aotearoa New Zealand نتيجة لتوصية وردت في تقرير صادر عام 2018 من قبل مسؤول البيانات الحكومية ومسؤول الدعم الرقمي في الحكومة. يوصي التقرير بأن الاستخدام الآمن والفعال للخوارزميات التشغيلية يتطلب المزيد من التناغم والاتساق في الحكومة. كما يعوّل التقرير على مبادئ الاستخدام الآمن والفعال للبيانات والتحليلات المصممة من قبل وزارة البيانات ومفوض الخصوصية.
لا تتضمن المعايير آلية التنفيذ في هذه المرحلة، ولكن يتوقع من الجهات التي وقعت على الميثاق توفير معلومات عبر مواقعهم الإلكترونية الرسمية لشرح كيفية استخدام الأنظمة الخوارزمية وتوفير رمز المصدر، وإن لم يقوموا بذلك يحق لأفراد المجتمع المطالبة بهذه المعلومات.
يعد هذا الميثاق واحدًا من العديد من المبادرات التي أطلقتها الحكومة لتحسين الشفافية، بما في ذلك الدعوة إلى تشكيل مجموعة استشارية مستقلة معنية بأخلاقيات البيانات والعمل على تحسين وعي المجتمع حول أخلاقيات البيانات على مستوى التعليم العالي. كما كانت نيوزيلندا ضمن الدول الموقعة على الشراكة الدولية المفتوحة للحكومات.
