في منتدى اليونسكو: النموذج السعودي لإدارة مخاطر الذكاء الاصطناعي أمام خبراء العالم

استعرضت المملكة، خلال منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي في الرياض، تجربتها في الانتقال من المبادئ والأطر النظرية إلى التطبيق العملي في التعامل مع مخاطر تقنيات الذكاء الاصطناعي، من خلال "الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي" الذي أصدرته الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا".

ويقدم الإطار خارطة طريق إرشادية تساعد الجهات على تبني تقنيات الذكاء الاصطناعي بصورة آمنة ومسؤولة، من خلال منهجية متكاملة لتحديد المخاطر وتقييمها ومعالجتها ومراقبتها، بما يحقق التوازن بين تسارع الابتكار ومتطلبات الحوكمة والسلامة.

لماذا تحتاج أنظمة الذكاء الاصطناعي إلى إدارة مختلفة للمخاطر؟

تختلف المخاطر المرتبطة بالذكاء الاصطناعي عن تلك التي تواجه الأنظمة البرمجية التقليدية؛ إذ قد تمتد آثارها إلى مستويات تنظيمية ومجتمعية أوسع، كما يمكن أن تظهر بعض المخاطر أثناء تشغيل الأنظمة واستخدامها بصورة لم تكن متوقعة مسبقًا؛ ومن هنا تبرز الحاجة إلى أطر متخصصة تتعامل مع طبيعة هذه التقنيات، ولا تكتفي بالأساليب التقليدية المستخدمة في إدارة مخاطر الأنظمة البرمجية.

وخلال جلسة بعنوان "من الإطار إلى التطبيق"، اطّلع خبراء ومختصون دوليون على تجربة "سدايا" في إدارة مخاطر الذكاء الاصطناعي، وأهمية دمج إدارة المخاطر ضمن منظومة الحوكمة منذ مراحل تطوير الأنظمة الذكية وحتى استخدامها وتشغيلها.

إطار وطني للتبني الآمن والمسؤول

يمثل "الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي" وثيقة إرشادية تهدف إلى تحويل المبادئ والتوصيات الأخلاقية والدولية إلى ممارسات وسياسات قابلة للتطبيق داخل المؤسسات، ويستهدف الإطار بناء منهجية وطنية موحدة للتعامل مع مخاطر تقنيات الذكاء الاصطناعي في القطاعين الحكومي والخاص، بما يساعد الجهات على تحديد المخاطر وتقييمها ومعالجتها ومراقبتها، ويدعم في الوقت نفسه التحول الرقمي والتنافسية الاقتصادية للمملكة بما يتوافق مع مستهدفات رؤية السعودية 2030.

كما يركز على التعامل الاستباقي مع المخاطر، وتصنيف أنظمة الذكاء الاصطناعي وفق مستويات الخطورة، بما يتيح للجهات اتخاذ الإجراءات المناسبة بحسب طبيعة كل نظام واستخداماته وتأثيراته المحتملة.

من تحديد المخاطر إلى الاستجابة لها

يغطي الإطار مراحل متعددة لإدارة المخاطر، تبدأ بتهيئة بيئة الحوكمة المناسبة داخل الجهة، مرورًا بتحديد سيناريوهات المخاطر وتقييمها وتحديد المستوى المقبول منها، وصولًا إلى وضع آليات للرصد والمتابعة والاستجابة، وتهدف هذه المنهجية إلى الحد من الأضرار المحتملة وتعزيز الاستفادة الآمنة من حلول الذكاء الاصطناعي، مع توفير قدر من المرونة يسمح للجهات بتطبيق الإطار بما يتناسب مع طبيعة أعمالها ومستوى نضجها الرقمي.

ويشمل ذلك الأنظمة والتطبيقات ذات التأثير المرتفع على الأفراد والأصول والعمليات، ومن بينها النماذج التنبؤية، وتقنيات معالجة اللغات الطبيعية، وتحليل الصور ومقاطع الفيديو، والأتمتة الذكية، ونماذج الذكاء الاصطناعي ذات الاستخدام العام.

إرشادات عملية وليست معايير تقنية للأداء

يركز الإطار بصورة أساسية على الجانب التطبيقي لإدارة مخاطر الذكاء الاصطناعي داخل المؤسسات، ودعم اتخاذ القرارات المتعلقة بالحوكمة والتنظيم والتشغيل، ولا يضع الإطار معايير تقنية تفصيلية لقياس أداء نماذج الذكاء الاصطناعي، وإنما يقدم منهجيات وأدوات استرشادية تساعد المؤسسات على تطوير سياساتها الداخلية لتحديد المخاطر وتقييمها والتعامل معها أو قبولها وفق طبيعة أعمالها ومستويات المخاطر لديها.

ثلاث فئات رئيسية

يخاطب الإطار الوطني ثلاث فئات رئيسية داخل منظومة الذكاء الاصطناعي، وتشمل الفئة الأولى مطوري الأنظمة، بهدف دمج اعتبارات السلامة وإدارة المخاطر منذ مراحل التصميم والتدريب والاختبار وقبل إطلاق الأنظمة، أما الفئة الثانية فتشمل مشغلي الأنظمة، من خلال وضع سياسات واضحة للتشغيل والمراقبة، وتحديد المسؤوليات وآليات التعامل مع الحوادث، فيما تشمل الفئة الثالثة صناع السياسات، لمساعدتهم على تقييم جاهزية الأطر التنظيمية والقانونية وتطوير سياسات وتشريعات تدعم الابتكار مع إدارة المخاطر المحتملة وحماية المجتمع.

7 مبادئ أخلاقية للذكاء الاصطناعي

يستند الإطار إلى سبعة مبادئ أخلاقية أساسية تتوافق مع توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي الصادرة عام 2021.

وتشمل هذه المبادئ النزاهة والإنصاف للحد من التحيز، والخصوصية والأمن لحماية البيانات، والإنسانية لضمان توظيف التقنيات لخدمة البشر، إلى جانب تحقيق المنافع الاجتماعية والبيئية وتعزيز الاستدامة.

كما تتضمن الموثوقية والسلامة، والشفافية وقابلية التفسير لفهم القرارات التي تتخذها الأنظمة المؤتمتة، إضافة إلى المساءلة والمسؤولية من خلال تحديد أدوار المطورين والمشغلين وضمان وجود الإشراف البشري.

ويأتي استعراض النموذج السعودي ضمن النقاشات الدولية التي يشهدها منتدى اليونسكو حول كيفية تقليص الفجوة بين سرعة تطور تقنيات الذكاء الاصطناعي وقدرة الحكومات والمؤسسات على وضع أطر عملية لحوكمتها، وتحويل المبادئ الأخلاقية إلى سياسات وأدوات قابلة للتطبيق.

تابعوا المزيد من الأخبار: أمير منطقة الحدود الشمالية يكرم مبتكرات "إنبثون الإمارة" الفائزات بالمراكز الثلاثة الأولى