الخلاصة
- لا تحدد درجة الدقة من يتحمل المسؤولية عندما يغير الناتج عميلاً أو دفعة أو نظاماً.
- يبدأ الاستخدام الآمن بصلاحيات محدودة وأدلة قابلة للتتبع ومراجعة بشرية وتراجع موثوق.
تجمع أداة الذكاء الاصطناعي نموذجاً وبيانات وواجهة، وغالباً وصولاً إلى أنظمة أخرى. يعتمد الخطر على ما يسمح لها بقراءته وتقريره وتغييره، لا على اسمها. ينبغي فصل المساعدة عن التنفيذ واختبار إخفاقات واقعية وحفظ أدلة المخرجات المهمة. والدليل التالي تجربة مضبوطة تبين الإنذارات الكاذبة ومسار التصعيد وقدرة التراجع. لا تستحق الأتمتة سلطة أوسع إلا بعد عمل تلك الحدود تحت الضغط.
