ملخص

  • قضية chatbot التابعة لـ Air Canada مهمة لأن محكمة التسوية المدنية في كولومبيا البريطانية اعتبرت النصائح الآلية للعملاء جزءًا من بيئة الاتصال العامة للشركة، وليس كغريب منعزل يتحدث بجانب موقع الويب.
  • مسألة المسؤولية لا تتعلق بما إذا كان كل خطأ في chatbot يخلق نفس الالتزام، بل بمن سيطر على مصدر السياسات، واختبارات الردود، ومسار التصعيد، واتساق موقع الويب، وأدلة توقعات العملاء، وحل استرداد الأموال، والتصحيح بعد الخطأ.
  • تدعم المصادر العامة تسجيلًا دقيقًا: يصف حكم المحكمة النزاع والعلاج، وتصف مستندات Air Canada سياق خدمة العملاء والأسعار، وتشرح مصادر حوكمة الذكاء الاصطناعي لماذا تتطلب النصائح الآلية ملكية وإشرافًا وتدخلًا بشريًا.
  • الدرس الأوسع لأتمتة الخدمات هو أن الروبوت الذي يجيب على أسئلة السياسة يمكن أن يصبح نظام اتصال عملاء منظمًا عندما يعتمد عليه المستخدمون بشكل معقول في عمليات الشراء أو استرداد الأموال أو حقوق السفر أو المطالبات أو القرارات العاجلة.

حول النزاع الأتمتة إلى رقابة على اتصال العملاء

الملف العام لقضية chatbot Air Canada مضغوط بشكل غير معتاد ومفيد بشكل غير معتاد. في قضية Moffatt ضد Air Canada، المفهرسة من قبل CanLII تحتhttps://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html، فحصت محكمة التسوية المدنية في كولومبيا البريطانية طلب راكب اعتمد على chatbot Air Canada للحصول على نصائح استرداد الأموال بشأن أسعار الحزن. تركز النزاع على ما إذا كان بإمكان العميل شراء تذاكر، والسفر، ثم طلب استرداد سعر الحزن بعد ذلك بناءً على بيان chatbot. حكم المحكمة هو المصدر الرئيسي لما تم إثباته في هذه الدعوى الصغيرة المحددة. إنه ليس حكمًا عالميًا على كل chatbot لشركة طيران، أو كل نظام ذكاء اصطناعي، أو كل سيناريو استرداد أموال.

تكمن قيمة القرار بالنسبة للمسؤولية في كيفية تعريفه للمسؤولية. لم يعتمد الراكب على رسالة إنترنت عشوائية. لقد تفاعل مع أداة آلية مقدمة في بيئة عملاء Air Canada. كانت Air Canada تتحكم في موقع الويب، ومحتوى السياسات، ونشر chatbot، وكل العلاقة التي ظهر فيها الرد. رفضت المحكمة فكرة أن chatbot كان كيانًا قانونيًا منفصلاً. هذا هو درس المخاطرة الأساسي: عندما تنشر شركة قناة آلية للعملاء، يجب أن تتوقع أن يتم التعامل مع هذه القناة كجزء من عمليات الخدمة للشركة.

توفر مستندات خدمة العملاء لـ Air Canada تحتhttps://www.aircanada.com/ca/en/aco/home/fly/customer-support.html، وصفحة الاتصال تحتhttps://www.aircanada.com/ca/en/aco/home/fly/customer-support/contact-us.html، ونقطة الدخول للمعلومات القانونية وأسعارها تحتhttps://www.aircanada.com/ca/en/aco/home/legal/conditions-carriage-tariffs.html، وصفحة السفر للحزن تحتhttps://www.aircanada.com/ca/en/aco/home/book/special-offers/bereavement.htmlسياقًا مؤسسيًا ذا صلة. لا ينبغي تفسير هذه الصفحات بشكل مفرط كاعترافات تتعلق بالقضية القضائية. إنها تظهر البيئة العامة التي يبحث فيها الركاب عن الخدمات والشروط وقواعد الأسعار وسبل المطالبة. في نزاع يتضمن قناة آلية، هذه البيئة مهمة لأن العملاء لا يعيشون كل صفحة وكل روبوت وكل سعر وكل نموذج دعم كصوامع مؤسسية معزولة.

صفحة وكالة النقل الكندية حول لائحة حماية المسافرين الجويين تحتhttps://otc-cta.gc.ca/eng/air-passenger-protection-regulationsونص اللائحة الفيدرالية تحتhttps://laws-lois.justice.gc.ca/eng/regulations/SOR-2019-150/يوفران سياقًا أوسع لحقوق المسافرين الجويين. قانون النقل الكندي تحتhttps://laws-lois.justice.gc.ca/eng/acts/C-10.4/يوفر الإطار القانوني. لا يدعي هذا المقال أن مسألة سعر الحزن التي نظرت فيها المحكمة قد تم الفصل فيها وفقًا لكل قاعدة من قواعد حماية المسافرين. إنه يستخدم مصادر الهيئة التنظيمية والقانون لإظهار لماذا اتصال العملاء لشركات الطيران ليس كلامًا عابرًا. إنه يقع في بيئة سفر منظمة حيث يمكن أن تؤثر قواعد الأسعار واسترداد الأموال والمطالبات والمواعيد النهائية على حقوق المسافرين وتكاليفهم.

لم يكن البوت المصدر الوحيد للسياسة، لكنه مع ذلك مصدر مؤسسي

أحد أصعب مشاكل حوكمة الأتمتة هو عدم الاتساق. قد تقول صفحة ويب شيئًا. قد يلخصه الروبوت بشكل مختلف. قد يطبق وكيل مركز الاتصال نصًا. قد يحتوي السعر على صياغة رسمية. قد يقدم بريد دعم استثناءً. قد يعرض تطبيق الجوال نسخة مختصرة. العميل الذي يريد إجراء عملية شراء عاجلة لا يمكنه بسهولة التحقق من جميع سياسات الشركة. قضية Air Canada تظهر لماذا هذا مهم. يُزعم أن الراكب تلقى نصائح من chatbot حول توقيت استرداد الأموال تتعارض مع القواعد الفعلية لسعر الحزن لـ Air Canada. السؤال القانوني والتشغيلي كان ما إذا كان بإمكان الشركة تجنب مسؤوليتها بالإشارة إلى صفحة أخرى.

النظام المسؤول سيعامل كل قناة سياسة موجهة للعملاء كجزء من مجموعة أدلة. يجب على الشركة أن تعرف أي مصدر يستخدمه الروبوت، ومتى تم تحديث المصدر آخر مرة، وكيف تم اختبار الرد، وما إذا كان الرد يشير إلى الشروط الرسمية، وما إذا كان الرد عالي المخاطر يتطلب تصعيدًا بشريًا، وما إذا كان بإمكان العملاء الاحتفاظ بالرد الذي اعتمدوا عليه. يمكن إنشاء رد البوت أو استرجاعه أو كتابته أو تجميعه من قاعدة معرفة. النتيجة للمستهلك هي نفسها: يتلقى الراكب ردًا عبر قناة الشركة وقد يتصرف بناءً عليه.

قرار المحكمة ضيق، لكن الدرس التشغيلي واسع. لا ينبغي للقنوات الآلية أن ترد على أسئلة سياسية عالية المخاطر دون خط أنابيب محتوى متحكم به. الأهلية لسعر الحزن، مواعيد استرداد الأموال، حلول الرحلات المفقودة، تعويض رفض الصعود، مطالبات الأمتعة، السفر الطبي، ترتيبات الوصول، القاصرين غير المصحوبين، وقواعد الإلغاء، كلها قد تنطوي على المال، المواعيد النهائية، التوثيق، والإجهاد العاطفي. إذا أعطى نظام آلي ردًا نهائيًا في هذه المجالات، يجب على الشركة أن تكون قادرة على إثبات أن الرد كان مبنيًا على السياسة الحالية أو أن التحويل البشري كان ضروريًا.

لا يمكن أن يكون هذا الإثبات مرتجلًا بعد نزاع. يجب أن يكون مدمجًا في سير العمل. يجب أن تظهر السجلات السؤال، الرد، إصدار المصدر، موضوع السياسة، قاعدة الثقة أو التوجيه (إن وجدت)، وما إذا تم توجيه العميل إلى بشري أو الشروط الرسمية. يجب على الشركة الاحتفاظ بما يكفي من المعاملة لتقييم الثقة مع احترام الخصوصية ومبادئ تقليل البيانات. إذا لم تستطع الشركة إعادة بناء الرد، لا يمكنها بسهولة إثبات أن العميل أساء فهم القناة. إذا كان لدى العميل لقطة شاشة والشركة ليس لديها مسار مصدر، فإن عدم التوازن في الإثبات متوقع.

هنا حيث تلتقي أتمتة برمجيات المؤسسات بثقة العملاء. تنشر العديد من الشركات روبوتات الدردشة لتقليل حجم الدعم، وتقليل أوقات الرد، وتوجيه الأسئلة الشائعة. هذه أهداف مشروعة. ولكن عندما يرد النظام بدلاً من مجرد إعادة التوجيه، فإنه يتحمل مخاطر النصيحة. الروبوت الذي يقلل المكالمات من خلال إعطاء ردود سياسية يجب إدارته كنظام رد سياسي، وليس كميزة بحث زخرفية. توفير التكاليف وراحة الخدمة يأتيان مع التزامات الرقابة.

ثقة العميل هي مسألة الإثبات المركزية

القضية أمام المحكمة دارت حول الثقة: ماذا رأى الراكب، ماذا فعل بعد الرؤية، وهل كان من المعقول اعتبار الرد كرد من Air Canada؟ الثقة ليست تلقائية. العميل الذي يتجاهل تحذيرات واضحة، أو يزور لقطة شاشة، أو يقرأ صفحة بشكل انتقائي، قد لا يكون لديه دعوى قوية. لكن الشركة التي تقدم أداة كقناة لخدمة العملاء يجب أن تفترض أن بعض المستخدمين سيعتمدون عليها، خاصة عندما يكون الرد محددًا ويظهر في مسار الشراء أو الخدمة.

لذلك يجب دمج أدلة الثقة في حوكمة الأتمتة. يجب على الشركة أن تعرف ما إذا كان رد البوت قد ظهر قبل الشراء، بعد الشراء، أثناء تسجيل الوصول، أثناء اضطراب، أو في تدفق المطالبة. يجب أن تعرف ما إذا كان الرد يحتوي على رابط لصفحة سياسة، أو إخلاء مسؤولية، أو دعوة للاتصال بوكيل، أو تحذير بأن القواعد قد تختلف. يجب أن تعرف ما إذا كان لدى العميل طريقة سهلة لحفظ الرد أو الرجوع إليه. يجب أن تعرف ما إذا كان مسموحًا للبوت بالرد على أسئلة استرداد الأموال أو كان يجب تحويلها.

المعلومات العامة لمحكمة التسوية المدنية الكندية تحتhttps://civilresolutionbc.ca/ومسار دعاواها الصغيرة تحتhttps://civilresolutionbc.ca/tribunal-process/small-claims/تساعد في فهم لماذا يصبح هذا النوع من النزاع عامًا. صُممت المحكمة لتسوية بعض النزاعات المدنية في منتدى عبر الإنترنت أقل تكلفة. يمكن لهذا المنتدى تحويل نزاع استرداد أموال صغير نسبيًا إلى إشارة حوكمة لصناعة أكبر بكثير. قد يكون المبلغ متواضعًا؛ مبدأ المسؤولية ليس كذلك.

لثقة العملاء أيضًا بُعد اقتصادي في اقتصاد الاتصال والإساءة. تقوم الشركات بأتمتة الدعم جزئيًا لأن الاتصال البشري مكلف والحجم كبير. يستخدم العملاء الدعم الآلي لأنه متوفر وسريع وغالبًا ما يكون المسار الأول المرئي. إذا تعاملت الشركات بعد ذلك مع الردود الآلية على أنها غير موثوقة عندما تكلف المال، ينتقل العبء إلى العملاء: يجب عليهم التحقق من البوت مقابل شروط مخفية، والاتصال بوكيل، والاحتفاظ بلقطات الشاشة، وتحمل التأخير. هذا تصميم غير عادل إذا كانت الشركة قد شجعت على استخدام القناة. النهج المسؤول هو تصنيف الموضوعات عالية المخاطر وتحويلها مع ضوابط أكثر صرامة.

الرد ليس بالضرورة إزالة جميع روبوتات الدردشة. يمكن للروبوت المصمم جيدًا مساعدة الركاب في العثور على نماذج الأمتعة، وخيارات الاتصال للوصول، وتحديثات الحالة، وصفحات السياسة. يحدث الخطر عندما يبدو أن البوت يحدد حقًا قانونيًا أو ماليًا دون أساس موثوق أو تصعيد. يجب أن يكون الفرق صريحًا. يمكن أتمتة التنقل منخفض المخاطر على نطاق واسع. يجب أن تكون النصائح عالية المخاطر مصدرة ومختبرة ومسجلة ومحولة عندما يكون عدم اليقين جوهريًا.

النصائح الآلية تحتاج إلى مصدر حقيقة

تتناسب قضية Air Canada مع النقاش الأوسع حول موثوقية سير عمل الذكاء الاصطناعي، لأن chatbot هو مكون سير عمل، وليس جديدًا معزولًا. يأخذ مدخلات من مستخدم، ويطابق تلك المدخلات مع موضوع سياسة، ويسترد أو يولد ردًا، ويؤثر على الإجراء التالي للمستخدم. إذا كان الرد يتعلق باسترداد الأموال، فقد ينقل سير العمل المال. إذا كان يتعلق بوثائق السفر، فقد يؤثر على الصعود. إذا كان يتعلق بترتيبات الوصول، فقد يؤثر على الحقوق المدنية. يجب أن يتوافق مطلب الموثوقية مع النتيجة.

توجيه الحكومة الكندية بشأن اتخاذ القرار الآلي تحتhttps://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592موجه للأنظمة الفيدرالية، وليس لـ chatbot خدمة العملاء الخاص بـ Air Canada. ومع ذلك فهو مفيد كمفردات حوكمة عامة كندية لأنه يركز على تقييم التأثيرات والشفافية وضمان الجودة والتدخل البشري للأنظمة الآلية. صفحة مجلس الخزانة حول تقييم التأثير الخوارزمي تحتhttps://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.htmlذات صلة لنفس السبب: توضح كيف تفكر المؤسسات العامة في عواقب وضوابط الأنظمة الآلية.

توفر مصادر الخصوصية وحوكمة الذكاء الاصطناعي سياقًا إضافيًا. دليل مكتب مفوض الخصوصية الكندي حول الخصوصية والذكاء الاصطناعي التوليدي تحتhttps://www.priv.gc.ca/en/privacy-topics/technology/artificial-intelligence/gd_principles_ai/يركز على الاستخدام المراعي للخصوصية لأنظمة الذكاء الاصطناعي. إطار إدارة مخاطر الذكاء الاصطناعي من NIST تحتhttps://www.nist.gov/itl/ai-risk-management-frameworkومنشور AI RMF 1.0 تحتhttps://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdfيوفران لغة مستخدمة على نطاق واسع حول الصحة والموثوقية والمساءلة والشفافية وإدارة المخاطر. مبادئ OECD للذكاء الاصطناعي تحتhttps://oecd.ai/en/ai-principlesتوفر مرجعًا عامًا آخر للحوكمة. هذه المصادر لا تحكم في قضية Air Canada. إنها تساعد في تحديد كيف تبدو الحوكمة المسؤولة للأتمتة.

بالنسبة لـ chatbot لشركة طيران، مشكلة مصدر الحقيقة فورية. قواعد الأسعار تتغير. قواعد استرداد الأموال تختلف حسب السوق، نوع التذكرة، تاريخ السفر، سبب الاضطراب، حالة الراكب، والوثائق. للسفر الحزني قواعد الأهلية والإجراءات الخاصة به. إذا كان البوت يسحب من محتوى قديم، أو أسئلة شائعة عامة، أو مجموعة تدريب غير كاملة، أو ملخص صفحة بدون شروط، فقد ينتج ردًا معقولًا لكنه خاطئ. تجد الشركة نفسها بعد ذلك في أسوأ مزيج ممكن: يعتقد العملاء الرد لأنه يأتي من العلامة التجارية، بينما ينكره الموظفون لاحقًا لأنه لا يتوافق مع السياسة الرسمية.

لذلك يجب أن يبدأ تصميم الرقابة بجرد السياسات. ما هي الموضوعات المسموح للبوت بالرد عليها مباشرة؟ ما هي الموضوعات التي تتطلب رابطًا للشروط الرسمية؟ ما هي الموضوعات التي تتطلب تأكيدًا بشريًا؟ ما هي الردود التي يجب أن تتضمن تاريخًا أو إصدارًا للمصدر؟ ما هي الردود التي يجب حظرها لأنها تعتمد على تفاصيل حجز خاصة؟ ما هي الأسواق التي لديها التزامات قانونية مختلفة؟ ما هي اللغات المدعومة؟ ما هي الردود المؤرشفة التي يجب الاحتفاظ بها لتسوية النزاعات؟ هذه أسئلة منتج وقانونية وخدمة عملاء وتقنية في نفس الوقت.

إخلاءات المسؤولية لا تحل محل الحوكمة

تستخدم العديد من الأنظمة الآلية إخلاءات المسؤولية. يمكن أن يكون الإخلاء مفيدًا إذا أوضح للمستخدمين بوضوح ما يمكن للأداة فعله وما لا يمكنها فعله. لكن الإخلاء ليس رقابة كاملة. إذا دعت الشركة العملاء لطرح أسئلة سياسية، وقدمت ردودًا واثقة، واستفادت من تقليل عبء الدعم، فلا ينبغي لها أن تتوقع أن إخلاءً عامًا سيشفي ردًا خاطئًا حول موضوع عالي المخاطر. منطق المحكمة في قضية Air Canada متسق مع هذه الرؤية العملية: لا يمكن للشركة ببساطة أن تعلن أن قناتها العامة الخاصة منفصلة عن الشركة عندما يتفاعل العملاء معها بشكل معقول كجزء من الخدمة.

إخلاءات المسؤولية هي الأضعف عندما تتعارض مع التصميم. إذا كان البوت موضوعًا في مكان بارز، ويستخدم بيئة العلامة التجارية للشركة، ويرد بلغة موثوقة، ويظهر في مسار المساعدة، فسيعتبره العملاء رسميًا. إذا كانت الشركة تريد أن يكون البوت مجرد مساعد بحث، فيجب أن يتصرف على هذا النحو: يحيل إلى المصادر، ويتجنب لغة المطالبة النهائية، ويحول الأسئلة الخطرة. إذا تصرف كوكيل، يجب على الشركة إدارته كوكيل.

أفضل رقابة هي رقابة متدرجة. أولاً، تصنيف الأسئلة حسب المخاطر. ثانيًا، بناء الردود على محتوى معتمد. ثالثًا، اختبار الردود مقابل حالات حدية معروفة. رابعًا، توفير روابط المصادر والتواريخ للردود السياسية. خامسًا، تحويل الأسئلة الغامضة أو عالية المخاطر إلى بشري. سادسًا، الاحتفاظ بسجلات الردود لتسوية النزاعات. سابعًا، مراقبة الشكاوى واسترداد الأموال. ثامنًا، تصحيح قاعدة المعرفة بسرعة عند العثور على أخطاء. تاسعًا، إبلاغ العملاء المتأثرين عندما يكون رد خاطئ معروف قد أثر على القرارات. عاشرًا، التحقق مما إذا كانت حوافز الأتمتة تسبب ضررًا يمكن تجنبه للعملاء.

هذا النموذج المتدرج يحمي الموظفين أيضًا. لا ينبغي لوكلاء الدعم أن يجدوا أنفسهم يعتذرون عن رد من البوت لا يمكنهم الرجوع إليه. لا ينبغي للفرق القانونية أن تتعلم بعد فوات الأوان أن فريق المنتج أطلق نصائح سياسية دون حفظ. لا ينبغي تقييم مديري المنتج فقط على معدل تحويل المكالمات عندما تشمل التكاليف الخفية مسؤولية استرداد الأموال. لا ينبغي للمهندسين أن يطلب منهم استنتاج سياسات قانونية من صفحات غير منظمة. chatbot محكوم يعطي كل مجموعة دورًا محددًا.

أتمتة الطيران لها عواقب عاجلة

خدمة عملاء شركات الطيران هي مجال خطير بشكل خاص للنصائح الآلية لأن الركاب يتصرفون غالبًا تحت ضغط الوقت. قد يحتاجون إلى شراء تذكرة بسرعة بسبب وفاة في الأسرة. قد يحتاجون إلى اتخاذ قرار بشأن الإلغاء أو التعديل أو قبول قسيمة أو طلب استرداد أو تقديم مطالبة أو السفر لاحقًا وطلب تعويض. رد خاطئ قد يحبس قرار شراء يصعب التراجع عنه. في سياق أسعار الحزن، قد يكون العميل أيضًا في ضائقة عاطفية.

يغير الإلحاح تحليل العدالة. لا يمكن للعميل دائمًا الانتظار في طابور الهاتف، أو مقارنة شروط الأسعار، أو طلب المشورة القانونية قبل شراء تذكرة. إذا كان بوت الشركة يعطي ردًا محددًا في وقت اتخاذ القرار، يمكن للعميل بشكل معقول اعتباره كافيًا. تعلم الشركة أو يجب أن تعلم أن الدعم الآلي يُستخدم في هذه اللحظات. لذلك يجب أن يكون التصميم أكثر حذرًا للنصائح المالية العاجلة.

موارد وكالة النقل الكندية للشكاوى وحقوق الركاب تحتhttps://otc-cta.gc.ca/eng/air-travel-complaintsوhttps://rppa-appr.ca/engتظهر أن نزاعات السفر الجوي غالبًا ما تتضمن عمليات المطالبة والأدلة والمواعيد النهائية. مرة أخرى، هذه الصفحات ليست حكم المحكمة. إنها تظهر النظام البيئي التنظيمي الذي يبحث فيه الركاب عن الانتصاف. chatbot يجيب على أسئلة الحقوق أو استرداد الأموال في هذا النظام البيئي قد يؤثر على ما إذا كان الراكب يقدم المطالبة الصحيحة، أو يحتفظ بالوثائق الصحيحة، أو يفوت موعدًا نهائيًا.

يمكن للأتمتة أيضًا خلق مكاسب اتساق عندما تكون محكومة جيدًا. يمكن للبوت إعطاء نفس الرد المعتمد في كل مرة، والاحتفاظ بسجل، والإشارة إلى السياسة الحالية، وتحويل الاستثناءات. يمكن أن يكون الوكلاء البشريون غير متسقين أيضًا. المشكلة ليست خدمة بشرية مقابل خدمة آلية. إنها ما إذا كانت الشركة تستطيع إثبات أن الرد كان متحكمًا فيه ومختبرًا وصحيحًا بما يكفي للنتيجة. نص بشري سيء ونص بوت سيء يثيران أسئلة مسؤولية مماثلة. البوت يجعل السؤال أسهل للتوسيع وأسهل للتكرار.

الموضوعات عالية المخاطر تحتاج إلى قواعد توجيه، وليس فقط صياغة أفضل

أبسط حل بعد حادث هو إعادة كتابة رد. قد يكون ذلك ضروريًا، لكنه غير كافٍ. الرقابة المستدامة هي قاعدة توجيه تحدد الموضوعات عالية المخاطر قبل عرض الرد الخاطئ. أسعار الحزن مثال جيد لأنها تجمع بين المال والإلحاح والتوثيق والإجهاد العاطفي. بوت أكثر أمانًا قد يعطي ردًا مختصرًا للملاحة، ويحيل إلى صفحة الحزن الحالية، ويذكر أن الأهلية تعتمد على شروط محددة، ويقدم اتصالًا بشريًا. يجب أن يتجنب وعد استرداد الأموال بعد السفر ما لم تدعم السياسة الحالية هذا الوعد بوضوح.

يجب أن تكون قواعد التوجيه مرئية لمديري المنتج والفرق القانونية. لا ينبغي أن تعيش فقط في تكوين المورد أو مكتبة المطالبات. يجب أن يتمكن مسؤول السياسة من مراجعة قائمة الموضوعات التي يمكن للبوت معالجتها: استرداد الأموال، القسائم، السفر الطبي، الوصول، القاصرين، الحيوانات، الأمتعة، الاضطرابات، نقاط الولاء، فروق الأسعار، والسفر الحزني. لكل موضوع، يجب على الشركة أن تقرر ما إذا كان بإمكان البوت الرد، أو يجب أن يحيل، أو يجب أن يطرح أسئلة توضيحية، أو يجب أن يحول. يجب أن يكون هذا القرار مؤرخًا ومرتبطًا بمصدر.

يجب أن تستخدم الاختبارات أسئلة عملاء معادية، وليس فقط صياغات مثالية. الركاب لا يطرحون أسئلة سياسية بلغة قانونية. يسألون عما إذا كان بإمكانهم الشراء الآن واسترداد الأموال لاحقًا، أو ما إذا كانت شهادة الوفاة كافية، أو ما إذا كان فرق السعر ينطبق، أو ما إذا كان بإمكانهم تقديم وثائق بعد السفر، أو ما إذا كان أحد الأقارب مؤهلاً. يجب أن تشمل مجموعة الاختبار هذه الأسئلة الطبيعية. يجب أن تشمل متغيرات متعددة اللغات أو بلغة بسيطة عندما تدعم القناة ذلك. يجب أن تشمل حالات حدية من المحتمل أن تولد ثقة مكلفة.

ينطبق نفس الإطار خارج شركات الطيران. البنوك والتأمين والمستشفيات والجامعات والمرافق العامة والمقاولون الحكوميون جميعهم يستخدمون اتصال عملاء آلي. إذا كان للموضوع عواقب منخفضة، قد يكون الرد الخاطئ مجرد إزعاج. إذا كان الموضوع يتعلق بالمال أو الأهلية أو الصحة أو المواعيد النهائية أو الهوية أو الحقوق القانونية، فإن الرد هو رقابة. نزاع Air Canada هو مثال عام لأن المبلغ كان صغيرًا بما يكفي لمحكمة، لكن مشكلة التصميم عامة بما يكفي لأي مؤسسة خدمية.

لا ينبغي تقسيم الملكية حتى تختفي

غالبًا ما يختبئ خطر الأتمتة في فجوات الملكية. فريق الرقمنة يمتلك الواجهة، فريق خدمة العملاء يمتلك القناة، الفريق القانوني يمتلك السياسة، فريق الهندسة يمتلك التكامل، قد يمتلك مورد النموذج أو منصة البوت، والعمليات تمتلك الشكاوى. عندما يظهر رد خاطئ، يمكن لكل فريق أن يقول بشكل معقول إن فريقًا آخر يتحكم في الطبقة ذات الصلة. هذا هو السبب بالضبط في أنه يجب تعيين مالك على مستوى الإدارة قبل النشر.

المالك لا يحتاج إلى كتابة كل رد شخصيًا. المالك يحتاج إلى سلطة طلب الاختبار، والتحكم في المصدر، والحفظ، والتحويل، والتصحيح. يجب أن يتلقى المالك مقاييس تجمع بين أداء الأتمتة وضرر العميل: دقة الردود حسب الموضوع عالي المخاطر، معدل التحويل، معدل الشكاوى المرتبطة بمحادثات البوت، استرداد الأموال أو الإلغاءات بسبب نصائح آلية خاطئة، تأخير تحديث المصدر، والحالات غير المحلولة حيث لم يمكن إعادة بناء رد البوت. مقياس معدل تحويل المكالمات وحده غير مكتمل لأنه يكافئ عددًا أقل من الاتصالات البشرية، حتى لو قام البوت ببساطة بنقل المخاطر إلى العملاء.

حوكمة الموردين جزء من هذه الملكية. إذا كانت الشركة تستخدم منتج chatbot تابع لجهة خارجية، يجب أن يغطي العقد حفظ البيانات، وإمكانية الوصول للتدقيق، وتكوين المصادر، ومسؤولية الاختبار، وإدارة التغيير، والاستجابة للحوادث، وتصدير سجلات المحادثة للنزاعات. لا يمكن للشركة أن تقول للعملاء إن البوت منفصل فقط لأن موردًا قدم جزءًا من المكدس. من وجهة نظر العميل، القناة مملوكة لشركة الطيران. من وجهة نظر الحوكمة، يجب على الشركة التأكد من أن أدلة المورد يمكن أن تدعم هذه المسؤولية.

إدارة تغيير السياسة هي اختبار آخر للملكية. قواعد الأسعار وإجراءات استرداد الأموال تتغير. إذا لم يتم تحديث مصدر البوت في وقت واحد مع موقع الويب وصفحة الأسعار ونص مركز الاتصال وقاعدة معرفة الوكلاء، فإن عدم الاتساق متوقع. يجب أن يمنع سير العمل المحكوم أن تصبح سياسة نشطة على قناة واحدة بينما تبقى نصائح قديمة على أخرى. يجب أن يظهر سجل التغيير الصفحات المتأثرة، ونوايا البوت أو إدخالات المعرفة، وحالات الاختبار، والموافقات، وتاريخ النشر. هذا هو انضباط برمجيات المؤسسات الروتيني المطبق على اتصال العملاء.

يجب أن يشمل التصحيح مراجعة القناة المتأثرة

عندما تقرر محكمة أو هيئة قضائية أن عميلاً اعتمد على نصائح آلية خاطئة، فإن تصحيح هذا العميل هو فقط الخطوة الأولى. يجب على الشركة أيضًا التحقق مما إذا كانت القناة قد أنتجت نصائح مماثلة للآخرين. هذا لا يتطلب افتراض أضرار واسعة النطاق. إنه يتطلب مراجعة. السجلات، إذا تم حفظها بشكل صحيح، يمكن أن تظهر ما إذا كان ركاب آخرون قد طرحوا أسئلة مماثلة، وتلقوا ردودًا مماثلة، ونقروا على روابط مماثلة، أو أنهوا المحادثة بعد تلقي البيان الخاطئ. إذا لم تكن السجلات متاحة، فإن غياب الدليل هو بحد ذاته نتيجة رقابية.

يجب أن تكون مراجعة القناة المتأثرة متناسبة. رد غامض واحد على صفحة عالية المخاطر قد يتطلب فقط تصحيح المحتوى. رد خاطئ حول أهلية استرداد الأموال قد يتطلب البحث عن التفاعلات الأخيرة، ووضع علامات على المطالبات المفتوحة، وإخطار فرق الدعم، وتحويل الموضوع مؤقتًا إلى بشر. إذا تمكنت الشركة من تحديد العملاء المتأثرين، يجب أن تقرر ما إذا كانت تقدم مراجعة. إذا لم تستطع تحديدهم، يجب أن توثق السبب. هذه العملية تحول نزاعًا عامًا إلى تعلم، بدلاً من معاملته كحادث قانوني معزول.

يجب أن تفحص المراجعة أيضًا كيف تمت دعوة العملاء للاحتفاظ بالأدلة. إذا كان الرد الآلي يمكن أن يكون مهمًا، يجب أن يكون العميل قادرًا على الوصول إلى نص أو رقم مرجعي. تسمح العديد من الشركات للعملاء بالدردشة بسهولة، لكن تجعل حفظ المعاملة صعبًا. هذا التصميم يفيد الشركة في نزاع لاحق لأن العميل قد يفقد الدليل. التصميم المتوازن يعطي العميل نصًا أو ملخصًا للموضوعات عالية المخاطر، مع تقليل الحفظ غير الضروري للأسئلة العادية.

أخيرًا، يجب أن يغذي التصحيح مجموعة الاختبار. يجب أن يصبح نمط الفشل الدقيق لقضية Air Canada حالة انحدار: راكب يسأل عما إذا كان يمكن طلب تعديل سعر الحزن بعد السفر، مع حقائق مماثلة للنزاع. يجب على النظام إما الرد بشكل صحيح مع روابط المصادر، أو تحويل السؤال. كل تغيير مستقبلي للسياسة يجب أن يعيد تشغيل هذه الحالة. هذه هي الطريقة التي تمنع بها مؤسسات البرمجيات عودة الأخطاء القديمة تحت صياغات جديدة.

يجب أن ينجو ملف الإثبات من النزاع

في قضية Air Canada، جعلت لقطة شاشة الراكب وحكم المحكمة الرد الآلي مرئيًا. لا ينبغي لشركة ناضجة أن تضطر إلى الاعتماد فقط على لقطة شاشة العميل. يجب أن تكون قادرة على استرداد سجل المحادثة، ومصدر السياسة، وإصدار البوت، ونموذج الرد أو مسار الاسترجاع، وأي قواعد تصعيد كانت سارية في ذلك الوقت. هذه الأدلة تحمي العملاء والشركة. يمكن للعملاء إثبات ما قيل لهم. يمكن للشركة إثبات ما صمم النظام من أجله وما إذا كان العميل قد رأى القيود.

يجب أن يكون ملف الإثبات متناسبًا. لا ينبغي أن يخزن بيانات شخصية غير ضرورية إلى الأبد. لا ينبغي أن يخلق مراقبة كاملة لطلبات العملاء. لكن بالنسبة للنصائح المالية أو القانونية عالية المخاطر، فإن فترة احتفاظ تتماشى مع المواعيد النهائية للنزاع معقولة. يجب أن يتضمن الملف التاريخ، القناة، موضوع السياسة، إصدار المصدر، الرد، الروابط المعروضة، سياق حجز العميل (إذا لزم الأمر)، وما إذا تم اقتراح تصعيد بشري. يجب أيضًا تسجيل التصحيحات اللاحقة لقاعدة المعرفة.

يجب أن يميز الملف بين ثلاثة أنواع من الأخطاء. الأول خطأ محتوى: مصدر السياسة كان خاطئًا أو قديمًا أو غير مكتمل. الثاني خطأ استرجاع أو توليد: المصدر الصحيح موجود، لكن البوت أنتج الرد الخاطئ. الثالث خطأ تصميم: لم يكن ينبغي للبوت الرد مباشرة على السؤال. كل نوع خطأ يتطلب تصحيحًا مختلفًا. أخطاء المحتوى تتطلب صيانة السياسة. أخطاء الاسترجاع تتطلب إصلاح النموذج أو البحث أو النموذج. أخطاء التصميم تتطلب توجيهًا وتصنيفًا للمخاطر.

يجب على الشركة أيضًا تتبع التصحيح للعملاء. إذا أعطى بوت نصيحة استرداد أموال خاطئة لراكب، هل تم عرض نموذج الرد على آخرين؟ هل تم البحث في السجلات عن ردود مماثلة؟ هل تم إخطار العملاء المتأثرين أو عرض عليهم مراجعة؟ هل تم تعطيل البوت لهذا الموضوع حتى التصحيح؟ هل تم توضيح صفحة الأسعار أو المساعدة؟ هل تم تحديث تعليمات مركز الاتصال؟ هل تم قياس أداء المنتج فقط على التحويل أم أيضًا على نتائج النزاع؟ يجب أن يثير قرار المحكمة هذه الأسئلة في أي شركة تستخدم أتمتة خدمة العملاء.

ما لا تثبته القضية

لا ينبغي المبالغة في تفسير قرار Air Canada. إنه لا يثبت أن كل رد من chatbot لكل شركة ملزم في كل الظروف. إنه لا يثبت أن أنظمة الذكاء الاصطناعي التوليدي خطيرة بطبيعتها. إنه لا يضع قاعدة وطنية لمسؤولية الفئة لجميع خدمات العملاء الآلية. إنه لا يكشف عن الهندسة الكاملة لـ chatbot Air Canada، أو عقود الموردين، أو سجلات الاختبار، أو التصحيحات بعد النزاع. إنه لا يخبر الجمهور بعدد العملاء الذين رأوا نصائح مماثلة. إنه لا يظهر ما إذا كان النظام المعني نصيًا بحتًا، أو قائمًا على الاسترجاع، أو توليديًا، أو هجينًا.

هذه المجهولات مهمة لأن مسؤولية الأتمتة تعتمد على التصميم. بوت بسيط قائم على القواعد مع نماذج رد معتمدة له مخاطر مختلفة عن نظام توليدي يلخص صفحات السياسة. مساعد بحث يحيل إلى روابط له مخاطر مختلفة عن وكيل محادثة يصوغ قواعد المطالبة. سير عمل عالي المخاطر مسجل ومختبر له مخاطر مختلفة عن بوت مفتوح على مصراعيه. بدون الهندسة الداخلية، لا ينبغي للجمهور تقديم ادعاءات تقنية غير مدعومة.

الدرس المؤكد أضيق وأقوى: عندما توفر شركة قناة خدمة عملاء آلية، يجب أن تتوقع المسؤولية عن النصائح التي تقدمها هذه القناة في بيئة خدمة الشركة. إذا كانت الشركة ترغب في تقييد الثقة، يجب أن تصمم القناة وفقًا لذلك. إذا كانت تريد أن ترد القناة على أسئلة سياسية، يجب أن تدير القناة وفقًا لذلك. إذا وجدت خطأ، يجب أن تصحح القناة وتتعامل مع العملاء المتأثرين.

هذا الدرس كافٍ. إنه ينقل النقاش من الجدة إلى التشغيل. السؤال ليس ما إذا كان البوت مثيرًا أو فعالاً. السؤال هو ما إذا كان هناك مالك، ومصدر حقيقة، ومجموعة اختبار، وسياسة حفظ، ومسار تصعيد، وعملية مراقبة، ومسار تصحيح. هذه ضوابط عادية. الأتمتة تجعلها أكثر إلحاحًا لأن ردًا خاطئًا يمكن أن ينتشر إلى العديد من المستخدمين قبل أن يلاحظه أحد.

قرار ضيق يمكن أن يضع مع ذلك توقعًا رقابيًا واسعًا

الطريقة الأكثر فائدة لقراءة قرار المحكمة هي كمعيار رقابي وليس كقاعدة تكنولوجية واسعة. يشير القرار إلى أن القناة الآلية يمكن أن تتحمل مسؤولية الشركة عندما تقع في بيئة الخدمة وتعطي نصائح محددة للعملاء. هذا التوقع متوافق مع الحدود الحذرة. لا يزال بإمكان الشركات استخدام الأتمتة. لا يزال بإمكانها تضمين روابط المصادر. يمكنها تحويل الأسئلة المعقدة. يمكنها الطعن في الثقة غير المناسبة. ما لا يمكنها فعله بأمان هو استخدام الأتمتة لنصائح الخدمة ثم معاملة القناة كخارجية عندما تكون النصائح خاطئة.

بالنسبة لمجالس الإدارة، يجب أن يظهر هذا التوقع في الشهية للمخاطرة. يمكن للمجلس قبول الأتمتة للملاحة منخفضة المخاطر مع مراقبة خفيفة. يمكن أن يطلب تحويلًا بشريًا للحقوق المالية. يمكن أن يطلب ردودًا مصدرة للموضوعات المنظمة. يمكن أن يحظر الردود المفتوحة للحقوق القانونية. يمكن أن يطلب اختبارًا مستقلاً قبل الإطلاق. هذه قرارات حوكمة. يجب اتخاذها قبل النزاع، وليس بعد أن ينتج العميل لقطة شاشة.

بالنسبة لفرق المنتج، يجب أن يظهر هذا التوقع في بوابات الإطلاق. تحديث chatbot يغير نصائح استرداد الأموال لا ينبغي نشره كتغيير لون. يجب أن يكون له مراجعة سياسة، وأدلة اختبار، والتحكم في الإصدار، وقدرة على التراجع، ومراقبة. يجب أن يسأل قائمة التحقق للإطلاق عما إذا كانت القناة يمكن أن تولد ثقة العميل وكيف تتم إدارة هذه الثقة. إذا لم يستطع الفريق الإجابة، فإن الميزة ليست جاهزة لنصائح خدمة عالية المخاطر.

بالنسبة للفرق القانونية والامتثال، يجب أن ينقل التوقع التركيز من إخلاءات المسؤولية إلى الأدلة. أقوى دفاع ضد نزاعات الأتمتة ليس عبارة تفيد بأن البوت قد يخطئ. إنه دليل على أن البوت صمم لتجنب الردود الخاطئة عالية التأثير، وأن العملاء تم تحويلهم عندما كان عدم اليقين كبيرًا، وأن الأخطاء تم تصحيحها، وأن العملاء المتأثرين حصلوا على تعويض. هذه الأدلة أكثر إقناعًا لأنها تتناول السبب التشغيلي للضرر.

ملف إثباتي للقراء

يستخدم هذا المقال المصادر العامة التالية كملف إثباتي لقضية استرداد الأموال عبر chatbot لـ Air Canada، وسياق خدمة العملاء لشركة الطيران، وبيئة حقوق الركاب، ومفردات حوكمة الأتمتة. يتم التعامل مع المصادر القانونية والقضائية كأدلة في ملف القضية. تُستخدم مصادر المؤسسات للسياق العام. تُستخدم مصادر حوكمة الذكاء الاصطناعي كمفردات رقابية، وليس كاستنتاجات ضد Air Canada.

أسئلة لمجلس الإدارة

تظل الأسئلة الحاسمة: من كان يملك السيطرة العملية على مصادر سياسات chatbot، واختبارات الردود، ومسارات التصعيد، واتساق موقع الويب، وأدلة توقعات العملاء، ومعالجة استرداد الأموال، والموقف القانوني، والدليل على أن قنوات الخدمة الآلية كانت تدار كاتصالات مؤسسية رسمية؟ يجب أن تحدد الإجابة الكاملة مسؤول المنتج، ومسؤول السياسة، والمراجع القانوني، ومسؤول الدعم، ومسؤول الهندسة، ومسؤول حفظ البيانات، ومسؤول التصحيح.

يجب أن تفصل المراجعة خمسة مستويات من الأدلة. المستوى الأول هو الدليل القانوني: حكم المحكمة، ملف المطالبة، حل استرداد الأموال، وأي اتصال مع العميل تم حفظه. المستوى الثاني هو دليل السياسة: قواعد سعر الحزن، الأسعار، صفحات الويب، وإصدارات المصادر. المستوى الثالث هو دليل الأتمتة: تصميم البوت، مصادر التدريب أو الاسترجاع، حالات الاختبار، سجلات الردود، وعتبات التصعيد. المستوى الرابع هو دليل العميل: الثقة، الإلحاح، لقطات الشاشة، محاولات الاتصال، ومسار التصحيح. المستوى الخامس هو دليل الحوكمة: التصحيح بعد الخطأ، المراقبة، مراجعة العملاء المتأثرين، ومقاييس مجلس الإدارة.

بالنسبة لشركات الطيران وغيرها من مؤسسات الخدمة، فإن علامة التصحيح ليست مجرد إزالة رد من chatbot. إنها برنامج أتمتة محكوم يعرف أي الموضوعات يمكن الرد عليها، وأيها يجب تحويلها، وما هي المصادر التي تتحكم في الرد، وكيف يتم تسجيل الثقة، وكيف يتم تصحيح الأخطاء، وكيف يتم حماية العملاء عندما تتحدث قناة آلية بسلطة الشركة العملية. لذلك فإن قضية Air Canada هي دعوى صغيرة برسالة تشغيلية كبيرة: الأتمتة التي ترد على أسئلة سياسة العملاء ليست خارج الشركة. إنها جزء من الشركة.

يجب اختبار حوكمة الأتمتة قبل أن يصبح العملاء مجموعة الاختبار

الخطر التشغيلي لأتمتة خدمة العملاء هو أن الشركات قد لا تكتشف أخطاء السياسة إلا بعد أن يعتمد عليها العملاء. هذا هو نموذج الاختبار الخاطئ للنصائح المتعلقة باسترداد الأموال، والأسعار، والتأمين، والائتمان، والصحة، والسفر، أو القانون. يجب أن يكون للموضوعات عالية التأثير اختبارات مسبقة تطرح أسئلة شائعة بلغة حقيقية فوضوية، وتقارن الردود بالمصادر المعتمدة، وتتحقق من أن النظام يحول الحالات غير المؤكدة إلى بشر. لا ينبغي أن يصبح العملاء مجموعة الانحدار المهمة الأولى.

يجب أن تتضمن مجموعة الاختبار تناقضات. يجب أن تطرح نفس السؤال ببيانات مختلفة، وأنواع أسعار مختلفة، وحالات سفر مختلفة، ومواقع عملاء مختلفة، وقيود أدلة مختلفة. يجب أن تطلب استثناءات، مواعيد نهائية، سبل انتصاف، واسترداد أموال بعد استخدام الخدمة بالفعل. يجب أن تتضمن أسئلة يجب على البوت رفضها مباشرة. النظام الذي يجيب على كل سؤال بثقة ليس ناضجًا؛ قد يخفي ببساطة عدم اليقين. النظام المحكوم يعرف متى لا يتحدث.

يجب أن تغطي حوكمة الإطلاق أيضًا انجراف المصادر. إذا تغيرت صفحة الحزن، أو تم تحديث سعر، أو غير المنظم لغة حقوق الركاب، أو أوضحت فريق سياسة استثناءً، يجب أن يتغير المصدر المحكوم للبوت في وقت واحد. يجب أن تكون الشركة قادرة على إظهار أن المصدر المحدث وصل إلى البوت، وأن الردود القديمة المتضاربة تم سحبها، وأن حالات الاختبار عالية المخاطر تم اجتيازها بعد التغيير. هذه إدارة تغيير عادية مطبقة على الاتصال الآلي.

قيمة الأتمتة لا تلغى بهذه الضوابط. الأتمتة الجيدة يمكن أن تقلل أوقات الانتظار وتساعد العملاء في العثور على معلومات دقيقة. لكن القيمة لا توجد إلا إذا كان النظام جديرًا بالثقة. الأتمتة الجديرة بالثقة لا تُعرَّف بردود سلسة. إنها تُعرَّف بالتحكم في المصادر، والاختبار، والتصعيد، وحفظ الأدلة، والتصحيح عندما تعطي القناة التي تسيطر عليها الشركة التعليمات الخاطئة لعميل.