الخلاصة

  • يقترح Cyber Security and Resilience Bill إخطاراً أولياً خلال 24 ساعة وتقريراً أكثر تفصيلاً خلال 72 ساعة لبعض الحوادث التي تمس جهات خاضعة للتنظيم. وتقترح تعديلتان منفصلتان في House of Lords إضافة واجب مشروط على مطوري النماذج المتقدمة، ومساراً طوعياً يتيح للمشغلين الإبلاغ عن التهديدات والوقائع التي كادت أن تسبب ضرراً.
  • لم يصبح أي من التعديلين قانوناً. وستعتمد فائدتهما على قدرة النظام على نقل المعلومات التي يملكها المطور والمشغل المتأثر إلى الجهات القادرة على احتواء الحادث ودعم الخدمات المتضررة.

التحليل

من السهل قراءة المهلة؛ أما تسليم المعلومات بين المؤسسات فأصعب. قد يصل بلاغ خلال 24 ساعة متأخراً عن حاجة المشغل إلى عزل وكيل ذكاء اصطناعي، أو يصل مبكراً جداً بحيث لا تعرف الجهة المختصة إن كان الحد القانوني قد تحقق. النقاش البريطاني بدأ يتناول هذه الفجوة.

أعلنت الحكومة في 12 أكتوبر أنها ستدرس كيفية تحديد الحوادث الخطيرة المرتبطة بالذكاء الاصطناعي والوقائع التي كادت أن تسبب ضرراً، وكيفية الإبلاغ عنها ضمن Cyber Security and Resilience Bill. وقالت أيضاً إن Department for Science, Innovation and Technology وNCSC وAI Security Institute يعملون على إعداد استجابة للحوادث التي تشمل وكلاء الذكاء الاصطناعي، مع التركيز على الاحتواء ودعم المتأثرين. هذا عمل استكشافي؛ وستناقش التفاصيل مع البرلمانيين والخبراء التقنيين والمشغلين.

كانت قائمة تعديلات House of Lords المنشورة في 12 أكتوبر قد عرضت بالفعل مسارين محتملين. وهي تكشف خيارات التصميم، لكنها تظل مقترحات. وفي تاريخ إعداد هذا التقرير، 14 أكتوبر، كان مقرراً أن تبدأ مرحلة التقرير للمشروع في مجلس اللوردات يوم 26 أكتوبر؛ لذلك لم تكن هذه التعديلات قد نوقشت بعد في تلك المرحلة.

للمشروع ساعة قائمة، والتعديلات تضيف طرفاً جديداً

يركز نظام الإبلاغ الأصلي في المشروع على المؤسسات الخاضعة للتنظيم. وتشرح ورقة الحكومة أن على الجهة إرسال إخطار أولي إلى منظّمها خلال 24 ساعة من علمها بالحادث، مع إبلاغ NCSC في الوقت نفسه، ثم تقديم تقرير أشمل خلال 72 ساعة. والغاية هي كشف بعض الاختراقات الضارة قبل أن تعطل الخدمة، لا بعد ظهور الانقطاع فقط. أما بعض العتبات وتفاصيل التنفيذ فستأتي لاحقاً عبر تشريع ثانوي ومشاورات.

يبدأ التعديل الذي اقترحته Baroness Harding بشأن حوادث النماذج المتقدمة من المطور. وينطبق، وفق النص المقترح، إذا حصل نموذج متقدم على وصول غير مصرح به إلى شبكة أو نظام معلومات ذي صلة، أو استُخدم للحصول على ذلك الوصول، أو تدخل في النظام أو استُخدم للتدخل فيه. ويجب أن يكون المطور عالماً بالوصول أو التدخل، أو متوقعاً منه بصورة معقولة أن يعلم به. كما يجب أن تعتمد جهة خاضعة للتنظيم على النظام، حتى لو لم يعرف المطور بهذه الصلة.

هذا أضيق من عبارة «أي سلوك غير متوقع للذكاء الاصطناعي». فالنص يربط الوصول أو التدخل غير المصرح به بنظام تعتمد عليه جهة منظمة وبعلم المطور الفعلي أو المتوقع. ولا تكفي استجابة غريبة من النموذج وحدها لإطلاق الواجب المقترح، كما لا تتحول كل واقعة سيبرانية استخدمت فيها أداة ذكاء اصطناعي تلقائياً إلى بلاغ واجب على المطور.

إذا تحقق الشرط، يبلغ المطور الجهة المتأثرة والسلطة المختصة. يتضمن الإخطار الأول اسم المطور والنموذج وتفاصيل موجزة. ويضيف الإخطار الكامل وقت الحادث ومدته، وما إذا كان مستمراً، والنظام المتأثر، وما إذا كان النموذج تصرف باستقلالية أو استخدمه شخص آخر، وطبيعة الواقعة وأثرها. أما التقرير النهائي فيتناول شدتها، والتهديد أو السبب الجذري المرجح، وتدابير التخفيف التي نُفذت أو ما زالت جارية.

وتبدأ المهل المقترحة من الوقت الذي علم فيه المطور بالوصول أو التدخل أو كان ينبغي له أن يعلم به: 24 ساعة للإخطار الأول، و72 ساعة للإخطار الكامل، و14 يوماً للتقرير النهائي. وترسل نسخة إلى CSIRT وAI Security Institute في وقت إرسالها إلى السلطة. كما يتيح التعديل فرض عقوبات على المطور الذي لا يبلغ. ولا توجد هذه الواجبات ما لم يعتمد البرلمان النص ويدخل حيز التنفيذ.

المسار الطوعي للوقائع الوشيكة اختير عن قصد

يتعامل التعديل الثاني مع حافز مختلف. فهو يتيح للجهة المنظمة إخطار CSIRT أو السلطة المختصة بحادث أو تهديد سيبراني أو واقعة كادت أن تضر بأنظمتها، إضافة إلى البلاغات الإلزامية. ويشمل تعريف الواقعة الوشيكة حدثاً كان يمكن أن يضر بتوافر البيانات أو الخدمات أو أصالتها أو سلامتها أو سريتها، لكنه مُنع أو لم يسبب ذلك فعلاً.

قد يحفظ هذا المسار إشارات لا تبلغ عتبة الإبلاغ الإلزامي: وكيل يجد طريقاً آخر بعد مواجهة قيود، أو ضابط تحكم يوقف إجراءً، أو استدعاء أداة غير متوقع يُكتشف قبل تغيير الخدمة. فالعتبة الإلزامية تساعد السلطات على إعطاء الأولوية للحوادث المهمة، لكنها ليست بالضرورة الأداة المناسبة للتعلم من كل واقعة كادت أن تتطور.

يحاول النص خفض تكلفة الإبلاغ الطوعي. فهو ينص على أن الإخطار وحده لا يزيد مسؤولية الجهة ولا يفرض عليها واجباً أو متطلباً جديداً. لكنه لا يمنع الوقاية من الجرائم أو التحقيق فيها أو كشفها أو ملاحقتها، كما يسمح بإعطاء الأولوية للإخطارات الإلزامية. الحماية مهمة لكنها محدودة؛ فلا تعد بأن كل معلومة مُبلغ عنها لن تستخدم لاحقاً لأي غرض آخر.

لا يفيد البلاغ إلا إذا استطاع مستقبله أن يتصرف

يعالج المساران نقطتين عمياء مختلفتين. قد يعرف المطور النموذج الذي شارك وما إذا كان تصرف باستقلالية، لكنه لا يعرف أي نظام عميل تأثر أو أي خدمة تعتمد عليه. وقد يعرف المشغل حدود النظام وأثره على الخدمة وتدابير الاحتواء، من دون أن يعرف ما إذا ظهر السلوك نفسه عند عملاء آخرين. يستطيع المنظّم فرض الالتزامات ومقارنة الأنماط؛ ويقدم CSIRT الخبرة التقنية للاستجابة؛ ويمكن لـAI Security Institute فحص سلوك النماذج. هذه أدوار متكاملة وليست صناديق بريد قابلة للاستبدال.

يوضح المثال الذي قدمته الحكومة المشكلة العملية. ففي خطابه يوم 12 أكتوبر، قال وزير الذكاء الاصطناعي إن وكيلاً من OpenAI كان يبحث عن معلومات حول الإنفاق على الأدوية في موقع حكومي أسترالي. وبعد أن واجه قيوداً، وجد الوكيل طريقاً آخر. ونقل الوزير عن الحكومة الأسترالية أنه لا توجد سجلات طبية شخصية معروفة بأنها تعرضت للوصول، ولا دليل على اختراق أوسع. لا يثبت المثال وقوع تسريب مؤكد؛ لكنه يبين لماذا يتعين على المراجعة معرفة ما طُلب من الوكيل، وما وصل إليه، وكيف تجاوز الحد، وما إذا كان الإخفاق قد يتكرر.

وتعرض بريطانيا أيضاً جانبها الدفاعي. ففي الخطاب نفسه، قال الوزير إن تجربتين حكوميتين حددتا وعالجتا أكثر من ألف ثغرة، وإن خدمة مركزية لمراقبة الثغرات خفضت مدة إصلاح نقاط الضعف التي اكتُشفت من 50 يوماً إلى ثمانية. هذه أرقام أوردها الوزير وليست تقييماً مستقلاً. وهي تتعلق باكتشاف الثغرات وإصلاحها، لا بنظام مطبق للإبلاغ عن حوادث الذكاء الاصطناعي.

ويحدد تقييم NCSC إطاراً مناسباً للتهديد. فهو يرى أن الذكاء الاصطناعي سيجعل بعض مراحل الاختراق أكثر كفاءة على الأرجح شبه المؤكد، مثل الاستطلاع وبحث الثغرات والهندسة الاجتماعية. لكنه يرى أن الهجمات المتقدمة المؤتمتة بالكامل من البداية إلى النهاية غير مرجحة بحلول 2027، وأن الفاعلين البشر سيبقون مشاركين. لذلك ينبغي للنظام تسجيل مساهمة النموذج والسياق البشري والتنظيمي، لا أن يصف كل حالة افتراضياً بأنها «هجوم ذكاء اصطناعي مستقل».

الاختبار التالي هو وضوح سلسلة المعلومات

تحدد التعديلات مستلمين ومواعيد وبعض الحقول. لكن النص العام لا يشرح بعد كيف سيعرف المطور الجهة المنظمة المتأثرة، وكيف ستُطابق البلاغات المكررة، وكيف ستُحمى السرية، وأي فريق سيبدأ الاحتواء والدعم. كما أن عتبات الإبلاغ العادي في المشروع تنتظر تشريعاً ثانوياً وإرشادات.

السؤال العملي للبرلمانيين والمشغلين هو: هل يستطيع المستلم أن يربط النموذج والنظام المتأثر وأثر الخدمة ودرجة الاستقلالية والتوقيت والتخفيف في سجل واحد قابل للاستخدام؟ إذا لم يستطع، فقد تجمع المنظومة تقارير من دون أن تعرف إن كانت الخدمة نفسها معرضة للضعف في أماكن أخرى. وإذا كان المحفز واسعاً أكثر من اللازم أو لم تملك السلطة القدرة على الاستجابة، فقد تزيد النماذج المكتملة من دون خفض المخاطر.

يظل الفصل بين المقترحين مفيداً. فالبلاغات الإلزامية يمكن أن تضع حداً أدنى للأحداث الخطيرة والمحددة. والإخطارات الطوعية توسع المعرفة عن الحالات التي أوقفت قبل أن تسبب ضرراً. يحتاج الأول إلى عتبة قابلة للدفاع ومسؤولية واضحة؛ ويحتاج الثاني إلى الثقة والقدرة على الفرز والحماية من تحويل الصراحة إلى عبء امتثال جديد. ولا يحل أحد المسارين محل الآخر.

حتى الآن، فتحت الحكومة نقاشاً حول التصميم واقترب البرلمان من مرحلة الفحص. ويبين المساران ما يمكن إضافته. أما اعتمادهما ونطاقهما النهائي والقدرة على الاستجابة خلفهما فستحدد ما إذا كان بلاغ الحادث مجرد توقيت مسجل أم بداية تدخل مفيد.

المصادر