الخلاصة

  • تقول MAS إن المؤسسة المالية تحتفظ بالمسؤولية الأساسية عن الذكاء الاصطناعي الذي تستخدمه من طرف ثالث، بما فيه المضمّن داخل خدمة أخرى.
  • تبدأ المتطلبات برقابة مجلس الإدارة وحصر الاستخدامات، ثم تُستكمل ضوابط دورة الحياة؛ أما الاستخدامات عالية المخاطر فتحتاج إلى ضبط مبكر.

المسؤولية تتبع قرار الاستخدام

لا ينقل عقد السحابة أو البرمجيات مسؤولية المؤسسة المالية أمام الجهة الرقابية إلى المورّد. فقد أوضحت سلطة النقد في سنغافورة (MAS)، في الإرشادات النهائية المنشورة في 7 أكتوبر، أن قرار إدخال الذكاء الاصطناعي من طرف ثالث واستخدامه يظل قرار المؤسسة، وأنها تحتفظ بالمسؤولية الأساسية عن ذلك الاستخدام. لذلك ينصب التركيز على العملية التي يدخل فيها النظام، ومن قد يتأثر به، ومقدار اعتماد المؤسسة عليه، لا على مالك النموذج وحده.

تسري الإرشادات على جميع المؤسسات المالية وجميع أشكال الذكاء الاصطناعي. وتشمل النماذج والأنظمة والأدوات والخدمات التي تشتريها المؤسسة أو تشترك فيها أو تصل إليها أو تعتمد عليها بطريقة أخرى، كما تشمل الذكاء الاصطناعي المضمّن في منتج مورّد أو المستخدم من المورّد لتقديم خدمته. قد لا تذكر فاتورة المشتريات كلمة «ذكاء اصطناعي»، لكن ذلك لا يلغي ضرورة معرفة الاعتماد. ويقول إعلان MAS إن الإطار يكمل القوانين والإرشادات القائمة؛ فهو لا يعلن حظر فئة من التقنيات.

ينبغي للمؤسسة تحديد مواضع الاستخدام، والاحتفاظ بحصر مناسب، وتقييم كل حالة وفق أثرها المحتمل وتعقيدها التقني والتطبيقي ودرجة الاعتماد عليها. وتشمل الأخيرة استقلالية النظام ومقدار التدخل البشري. ويمكن ربط الحصر بسجلات البيانات والمورّدين القائمة؛ فالمطلوب معرفة الاستخدام الفعلي، لا إنشاء جهاز إداري منفصل لمجرد وجود الذكاء الاصطناعي.

يعتمد مجلس الإدارة، أو لجنة يفوضها، شهية المخاطر والأدوار والتوجه ويراجعها. وتتولى الإدارة العليا التنفيذ، وتحديد المسؤولين التشغيليين، وتصعيد المخاطر الجوهرية وإبلاغ المجلس بها. ويمكن استخدام اللجان القائمة إذا وفّرت رقابة منسقة وفعالة؛ ولا تفرض MAS لجنة متخصصة بالذكاء الاصطناعي لمجرد صدور الإرشادات.

اختبار العلاقة مع المورّد

في الخدمات الخارجية ذات الأهمية، ينبغي اختبار ملاءمتها في سياق الاستخدام الفعلي، وببيانات المؤسسة عند الاقتضاء. وينبغي أن يتيح العقد قدراً من الرؤية يتناسب مع الخطر عند إدخال الذكاء الاصطناعي أو تغييره. كما تشمل الاعتبارات سلسلة التوريد وتركيز الاعتماد وإدارة التغييرات وخطط الطوارئ والشروط القانونية وكفاءة الموظفين وتعقيد النظام.

لا تعني هذه التوقعات مطالبة كل مورّد بكشف جميع التفاصيل التقنية. تقر MAS بأن الإفصاح قد يكون محدوداً. عندئذ على المؤسسة أن تسجل فجوة المعلومات وتعوضها، مثلاً باختبارات إضافية أو مراجعة بشرية. وإذا تعذر إبقاء الخطر المتبقي ضمن شهية المؤسسة، فعليها النظر في تقييد الخدمة أو تعليقها أو استبدالها. لا يصبح الخطر قابلاً للإدارة لمجرد أنه مخفي خلف واجهة المورّد.

يكون التطبيق على مرحلتين. يبدأ نفاذ الإرشادات في 7 أكتوبر 2027، وهو موعد استكمال القسمين 3 و4 بشأن الرقابة والتحديد والحصر وتقييم الأهمية. أما القسمان 5 و6، المتعلقان بضوابط دورة الحياة وبناء القدرات، فموعدهما 7 أكتوبر 2028. لا يمنح ذلك جميع الاستخدامات مهلة موحدة لسنتين: فقد ذكرت استجابة MAS للملاحظات أن الاستخدامات عالية المخاطر ينبغي أن تتلقى ضوابط مناسبة في أسرع وقت. ويمكن أن تناسب السياسات الأساسية الاستخدامات التي يُستبعد أن تسبب أثراً ضاراً جوهرياً، لكنها تظل بحاجة إلى حدود استخدام واضحة وإشراف ومراجعة بشرية وأدوات معتمدة وتدريب وفحوص.

وتتعامل MAS مع الذكاء الاصطناعي الوكيلي بوصفه مجال مخاطر ناشئاً ومتطوراً. تنطبق التوقعات العامة الآن، وتعتزم السلطة التشاور مع القطاع المالي في 2027 بشأن أي توجيهات إضافية. لا يعني ذلك حظراً حالياً أو دليلاً على فقدان مؤسسة بعينها للسيطرة.

تتمثل المسألة المؤسسية في ما إذا كان الطرف الذي يجيز الاستخدام يرى ما يكفي ويختبره ويملك خياراً عملياً لإيقافه. وتُستخدم مذكرة هينغ لو رقم 32 هنا كتشبيه تحريري حول التفويض والرؤية في حوكمة الإنترنت فقط؛ فهي ليست دليلاً على القواعد المالية في سنغافورة. أما الاستنتاج فيستند إلى وثائق MAS: تظل المساءلة عند من يقرر الاستخدام، حتى إن امتد التنفيذ عبر سلسلة خارجية.

المصادر