كشفت السلطات في سنغافورة عن تطويرها لإطار عمل ومجموعة أدوات اختبار مبتكرة تساعد الشركات في مختلف القطاعات على تعزيز الحوكمة والشفافية والمساءلة في تطبيقاتها للذكاء الاصطناعي.
تأتي هذه المبادرة السباقة التي أطلقتها "هيئة تطوير وسائط الإعلام- IMDA"، و"لجنة حماية البيانات الشخصية في سنغافورة- PDPC" تحت اسم "التحقق من تطبيقات الذكاء الاصطناعي- AI Verify"، في زمن تتسارع فيه مساعي شركات التقنية للاستفادة من الفرص الهائلة التي تعد بها تطبيقات الذكاء الاصطناعي في شتى المجالات على الرغم من عدم نضوج معايير عالمية تحد من المخاطر المرتبطة بتطوير مثل تلك التطبيقات. وتعد تلك المخاطر جزءاً من التحديات التي واجهتها المبادرة.
يتوفر إطار العمل ومجموعة الأدوات التي أطلقتها سنغافورة حالياً بصيغة "منتج قابل للتطبيق بحد أدنى- MVP"، أي أنه يحتوي على ميزات كافية لغرض الاختبار، كما يعني أنّه قابل للتطوير بناءً على ملاحظات الشركات لدى استخدامه. لكنه يعد متقدماً من حيث اعتماد هيئة تطوير وسائط المعلومات في تطويره على الإرشادات والمبادئ التوجيهية الدولية بشأن أخلاقيات الذكاء الاصطناعي. تلك المبادئ التي تشمل الشفافية، والأمن والأمان، والإنصاف، والمساءلة. هذا فضلاً عن تحديد الهيئة لأهم ستة مخاطر في مجال الذكاء الاصطناعي القادر على تطوير مختلف أنواع المحتوى، وطرحها لإطار عمل حول كيفية التعامل مع تلك المخاطر التي تشمل التحيزات الثقافية والديموغرافية الكامنة في تصميم التطبيقات، وانتهاك حقوق الملكية الفكرية، وغيرها. فيما لم يتم تضمين أنظمة اختبار الأمن وإدارة البيانات في هذه التجربة (بما في ذلك الخصوصية)، كونها في الأصل متطورة دولياً.
ومع ذلك، فإن المنتج لا يهدف إلى إرساء معايير أخلاقية بقدر ما يهدف إلى حثّ الشركات على اختبار أنظمتها في الذكاء الاصطناعي وفق معايير المنتج من جهة التحقق من قدرات تلك الأنظمة والإجراءات القائمة للحد من المخاطر، وأنها تؤدي بالفعل ما تزعم به الشركات، مقارنة مع مجموعة مبادئ ومفاهيم تم تبنيها دولياً ومحلياً في سنغافورة في مجال حوكمة الذكاء الاصطناعي. وبدورها، تساهم التقارير الناتجة عن تلك الاختبارات في زيادة شفافية أنظمة الشركات أمام المساهمين والمعنيين والعملاء، وتعزيز ثقتهم بالشركات.
يمكن النفاذ إلى البرنامج من خلال السحابة الإلكترونية، ما يوفر المزيد من الحماية والأمن والسهولة، كما تتم المشاركة فيه حالياً بشكل طوعي من قبل الشركات الراغبة في إجراء تقييم ذاتي لتطبيقات الذكاء الاصطناعي التي تطورها أو تستخدمها، والاستفادة من نشر تقارير الاختبار الداعمة لأدائها. يضم المنتج عنصرين: أولاً، إطار العمل الخاص باختبار الحوكمة، الذي يحدد معايير الاختبار، والعملية المطلوب إجراءها؛ وثانياً، الأدوات البرمجية التي تستخدم في إجراء الاختبار الفني، والتي تقوم أيضاً بتسجيل وحفظ النتائج.
لكن المنتج لا يخلو من التحديات التي تجابه الجهات التنظيمية الساعية إلى وضع معايير لتطوير الذكاء الاصطناعي في مختلف الدول، والتي تشمل تحديد مفهوم الإنصاف ووضع معيار موحّد له ضمن مختلف القطاعات والثقافات والسياقات، بالإضافة إلى أن التطور التقني السريع للذكاء الاصطناعي في مجالات لا تحصى يجعل إطار العمل وبرمجيات التحقق المرافقة له ناقصة أو غير صالحة خلال فترات زمنية قصيرة نسبياً، ما يعطل عملية استخدامها من قبل الشركات، كما يتطلب التحديث المستمر لعناصر المنتج– وهذا يمكن معالجته جزئياً من خلال صياغة وتصميم المنتج ليكون مرناً قدر الإمكان، آخذاً بعين الاعتبار التقدم التقني المحتمل. لكن من جهة أخرى، يمكن للمنتج أن يستفيد من فرص التعهيد الجماعي "Crowdsourcing" ومزودي حلول التكنولوجيا في تحديد وسد الثغرات، بالإضافة إلى المجتمعات مفتوحة المصدر التي تخطط سنغافورة بالفعل لحشد جهودها في تطوير برمجيات الاختبار لتعزيز قدرتها على الحد من مخاطر تبني الذكاء الاصطناعي.
تسعى سنغافورة من خلال دعوة الشركات العالمية والمحلية للمشاركة في مبادرة "التحقق من تطبيقات الذكاء الاصطناعي" إلى تحقيق مجموعة أهداف، أهمها الاستفادة من ملاحظات وتوصيات الشركات حول المنتج للتحقق من أنه قادر بالفعل على تلبية حاجيات مختلف القطاعات من تطوير تطبيقات الذكاء الاصطناعي بصورة تضمن بناء الثقة مع أصحاب المصلحة الداخليين والخارجيين. وتطمح سنغافورة أيضاً إلى المساهمة في تطوير معايير معتمدة عالمياً للذكاء الاصطناعي من خلال تجربتها مع المنتج، خاصة أن مطورو تلك المعايير يأخذون بعين الاعتبار أفضل الممارسات والتجارب حول العالم. كما تسعى سنغافورة إلى تيسير القابلية للتشغيل البيني أو المشترك بين مختلف أطر عمل حوكمة الذكاء الاصطناعي، وهي تعمل حالياً مع الجهات التنظيمية والمؤسسات المطورة للمعايير العالمية سعياً لتحقيق التوافق مع أطر العمل القائمة، ما من شأنه أن يتيح فرصاً لتسويق منتجات وخدمات الذكاء الاصطناعي المحلية إلى العديد من الأسواق الخارجية. وتأمل سنغافورة أيضاً في بناء مجتمع لاختبار تطبيقات الذكاء الاصطناعي محلياً يتمتع بسمعة عالمية بالتعاون مع الشركاء متقاربي التفكير من رواد الصناعة، وصانعي السياسات، والمجتمع المدني، ما يضمن توافق مبادرتها مع متطلبات القطاعات من الذكاء الاصطناعي، والحصول على ثقة الجهات المعنيّة.
يمكن لمختلف الشركات الاستفادة من منتج "التحقق من تطبيقات الذكاء الاصطناعي"، خاصة مالكي أنظمة الذكاء الاصطناعي الراغبين بالتحقق من أداء أنظمتهم على مستوى القواعد والمفاهيم المتبعة عالمياً في حوكمة الذكاء الاصطناعي، بالإضافة إلى مزودي حلول التكنولوجيا، ومطوري تطبيقات الذكاء الاصطناعي، والباحثين الراغبين في تقديم خوارزميات ونماذج اختبار جديدة لهيئة تطوير وسائط الإعلام لتحسين المنتج مستقبلاً. من جهة أخرى، سيكون المنتج مناسباً لمزودي خدمات التكنولوجيا الراغبين في تقديم خدمات استشارية في اختبار الذكاء الاصطناعي لعملائهم، وكذلك الأمر بالنسبة للشركات الساعية إلى دمج المنتج مع خدماتهم.
وتأمل الهيئة أن يؤدي تراكم الجهود المرتبطة بالمنتج مستقبلاً إلى تسهيل عملية تطوير مؤشراً مرجعياً في مجال أخلاقيات الذكاء الاصطناعي.
يجدر بالذكر أن حكومة سنغافورة تعمل على تبني الذكاء الاصطناعي منذ سنوات عديدة. ما حدا بها إلى العمل مع ما يزيد عن 60 شركة ومؤسسة محلية وعالمية لتطوير "إطار العمل النموذجي لحوكمة الذكاء الاصطناعي"، يحظى برضا مختلف القطاعات، خاصة القطاعين المالي والصحي، اللذين تنشط سنغافورة في تطبيقاتهما.
المراجع:
- https://www.straitstimes.com/singapore/health/moh-agency-microsoft-to-develop-ai-tool-for-healthcare-workers-in-s-pore
- https://www.zdnet.com/article/singapore-puts-ai-on-the-cloud-to-boost-public-sector-deployment/
- https://www.straitstimes.com/opinion/forum/forum-singapore-has-made-moves-to-harness-full-potential-of-ai-and-ensure-responsible-use
- https://www.weforum.org/agenda/2023/01/how-singapore-is-demonstrating-trustworthy-ai-davos2023/
- https://www.smartnation.gov.sg/files/publications/national-ai-strategy.pdf
- https://aiverifyfoundation.sg/
- https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/press-releases/2023/singapore-launches-ai-verify-foundation-to-shape-the-future-of-international-ai-standards-through-collaboration
- https://aiverifyfoundation.sg/downloads/Discussion_Paper.pdf
