تحقيقا Ofcom يختبران مطابقة الصور والمراجعة البشرية

الخلاصة

في 26 أكتوبر، فتحت Ofcom تحقيقين في خدمتين للبالغين لم تسمهما. وفي خدمة استضافة الصور، تفحص الهيئة تقييم المخاطر وخطوات كشف الصور الحميمة غير الرضائية المعروفة وإزالتها.
يوصي البند C14 في مدونة Ofcom بمطابقة الصور عبر البصمات الرقمية ضمن نطاقه. أول تطابق ببصمة غير موثقة يستلزم المراجعة، وعلى الخدمة قياس الأخطاء وتسجيل الإعدادات.

في 26 أكتوبر، فتحت Ofcom تحقيقين في خدمتين للبالغين لم تكشف اسميهما: واحدة تستضيف الصور، وأخرى لمشاركة محتوى البالغين. في قضية الاستضافة، تبحث الهيئة ما إذا كان المزود قد أجرى تقييماً مناسباً وكافياً لمخاطر المحتوى غير القانوني وأبقاه محدثاً وفق المادة 9 من قانون السلامة على الإنترنت، وما إذا كان قد تبنى تدابير البند C14 أو بدائلها وفق المادة 10. وقالت Ofcom إنها حجبت الأسماء بسبب طبيعة المواقع.

البصمة الرقمية اختصار لصورة، تتيح مقارنة ما يرفعه المستخدم بمادة سبق تحديدها على أنها صورة حميمة غير رضائية (NCII). تبدو المهمة كأنها تناسب الآلة: تقارن، تضع إشارة، ثم تحذف. لكن مدونة Ofcom لا تمنح البرنامج إلا دور الكشف؛ القرار ومسؤوليته عند مشغل الخدمة.

لدى الخدمات المشمولة بالبند C14، تستدعي أول مطابقة إيجابية لبصمة غير موثقة، ضمن إعداد محدد للمطابقة الإدراكية، مراجعة المحتوى. ويمكن إزالة المطابقات الأخرى عند كفاية الثقة في الكشف؛ وفي غير ذلك تُحال إلى المراجعة. وينبغي للمشرفين البشريين مراجعة نسبة مناسبة من المواد المكتشفة، مع مراعاة موثوقية النظام وضرر بقاء صور الإساءة وأثر إزالة مادة مشروعة عن طريق الخطأ.

تحتاج قاعدة البصمات إلى سجل عمل. ينبغي أن تضم عدداً مهماً من المواد الأصلية، وأن تُحدّث بانتظام وتحمي من العبث. وعلى المزود السعي إلى حذف بصمة يتبين أنها لا تخص إساءة للصور الحميمة. كما يتعين أن يراعي الإعداد الإيجابيات الكاذبة، وأن يراجع توازن الدقة والاسترجاع كل ستة أشهر على الأقل، وأن يوثق أسباب الضبط والمراجعات والتعديلات. المرشح الذي لا يستطيع تفسير أخطائه يعاني خللاً في الحوكمة، لا في البرمجيات فحسب.

تبدأ السلسلة قبل الفحص. تلزم المادة 9 المزود بتقييم مخاطر خدمته وتحديث التقييم، وبإجراء تقييم جديد قبل تغييرات كبيرة في التصميم أو التشغيل. وتحول المادة 10 هذا التقييم إلى تدابير متناسبة: منع وصول المستخدمين إلى المحتوى غير القانوني ذي الأولوية، وإدارة المخاطر، وتقليل مدة بقائه، وإزالته سريعاً بعد علم الخدمة به. المطابقة أداة؛ أما النتيجة التشغيلية فمسؤولية الخدمة.

تقول صفحة برنامج Ofcom إنها تواصلت مع 25 خدمة تعدها عالية المخاطر. وتنفذ عدة خدمات مطابقة StopNCII، بينما حجبت عدة خدمات الوصول من المملكة المتحدة، وهو ما تتابعه الهيئة. التحقيقان الرسميان يضيفان مسار إنفاذ إلى هذا البرنامج الأوسع. والمشهد التشغيلي واضح: بعض الخدمات تبني ضوابط للمطابقة، وأخرى تغلق الوصول البريطاني. ستكشف تحديثات Ofcom المقبلة كيف تفحص السجلات فعالية الضوابط.

إذا ثبت الإخلال، تقول Ofcom إن الغرامة قد تصل إلى 18 مليون جنيه إسترليني أو 10% من الإيرادات العالمية المؤهلة، أيهما أعلى. وتسمح المادة 144 لها بالتقدم إلى المحكمة لفرض أمر على خدمات مساعدة مثل الدفع والإعلان والاتصال بالإنترنت. وعلى المحكمة التحقق من الأسس القانونية والصلة بالخدمة المساعدة والضرورة والتناسب لحماية مستخدمي المملكة المتحدة، مع مراعاة حقوق الأطراف والمستخدمين. المحكمة تمسك بالمفتاح؛ وعلى Ofcom تقديم الطلب والأدلة أولاً.

ستظهر جودة الضبط في السجل الذي يربط الإشارة بالقرار: مصدر البصمة، سبب الإزالة، المراجعة البشرية وتصحيح الخطأ. لدى Ofcom الآن 25 خدمة في مسار الإشراف وتحقيقان رسميان؛ والاختبار التالي هو ما تستطيع الأدلة إثباته عن حماية الناس من الإساءة وعن منع حذف الصور المشروعة.