الخلاصة

  • قد يضيف تحديثٌ الذكاء الاصطناعي إلى برنامج تقاعد قائم من دون أن يظهر كمنتج مستقل؛ وعلى الأمناء تتبع التغييرات أثناء العقد.
  • إذا أثّر النظام في نتيجة عضو، فعلى الأمناء تحديد ما يحتاج إلى فهمه وضمان مراجعة بشرية ومسار للاعتراض والتصحيح والمعالجة.

السؤال الذي يهم عضو الخطة ليس اسم النموذج؛ بل من يشرح النتيجة إذا أثّر فيها الذكاء الاصطناعي، وأين يطلب مراجعتها. تطلب TPR من الأمناء تحديد ما يحتاج العضو إلى فهمه وكيف يحصل على الدعم حين يؤثر الاستخدام في تجربته أو نتيجته.

قد يدخل الذكاء الاصطناعي إلى برنامج قائم عبر تحديث في منتصف العقد، من دون أن يظهر كأداة منفصلة. لا ينقل هذا التغيير مسؤولية الإدارة والقرارات إلى شركة البرمجيات. فالأمناء مسؤولون عن العمليات الداخلية والخدمات التي ينفذها المزوّدون معاً.

لذلك يبدأ الإشراف قبل التعاقد ويتجدد عند التغيير المهم. ينبغي أن يعرف المجلس الاستخدامات المهمة، والقرارات التي قد تتأثر، وما إذا كان تغير النموذج أو البيانات أو الوظيفة أو الصلاحيات أو نطاق الاستخدام يستدعي فحصاً إضافياً.

ولا تكفي سياسة عامة لدى المزوّد. على الأمناء طلب ضمانات تخص الخدمة التي تتلقاها الخطة: ما البيانات التي يعالجها النظام، ومن يراجع مخرجاته، وما السجلات المحفوظة، وكيف تُصعّد المشكلة، وكيف تستمر الخدمة إذا تعطل النظام.

لكي يشرح المجلس قراراً متأثراً بالذكاء الاصطناعي، يحتاج إلى سجل يبين المعلومات المستخدمة، والفحوص البشرية، وأسباب قبول المخرج أو رفضه، وصاحب القرار. يحتاج العضو أيضاً إلى طريق واضح للاعتراض؛ وعلى الخطة أن ترصد مساهمة النظام في الخطأ، ثم تصعّد الحالة وتصححها وتقدم المعالجة المناسبة.

تربط TPR شدة الضوابط بأثر الاستخدام. أداة لترتيب ملفات داخلية لا تحتاج إلى المراجعة نفسها التي يحتاجها نظام يتواصل مع الأعضاء أو يؤثر في قراراتهم. وتعرض الإرشادات هذه الخطوات كتطبيق للواجبات القائمة، مع اقتراح سجل للاستخدامات ومتابعة للمخاطر والاستمرارية والتقييم المتواصل.

لا تنشر TPR قائمة بالخطط التي تستخدم الذكاء الاصطناعي أو عدد الأنظمة؛ فلا يمكن قياس حجم التبني من بياناتها. يستطيع كل مجلس، مع ذلك، أن يطلب سجلاً خاصاً بخدمته يربط التحديث بالقرار والمراجع البشري ومسار العضو للتصحيح.

المصادر: إرشادات TPR التفصيلية للذكاء الاصطناعي؛ إعلان 29 أكتوبر؛ خطة TPR للذكاء الاصطناعي.