摘要

  • Air Canada 聊天机器人案件具有重要意义，因为不列颠哥伦比亚民事解决法庭将自动化客户咨询视为公司公共沟通环境的一部分，而非独立于网站说话的陌生人。
  • 问责问题不在于每个聊天机器人错误是否产生相同责任，而在于谁控制了政策来源、回答测试、升级路径、网站一致性、客户期望证据、退款解决方案以及错误后的纠正。
  • 公开来源支持可靠的记录：法院判决描述了争议和补救措施，Air Canada 的材料描述了客户服务和票价背景，而 AI 治理来源解释了为何自动化咨询需要所有权、监督和人工救济途径。
  • 服务自动化的更广泛教训是，回答政策问题的机器人可以成为受监管的客户联系系统，如果用户合理依赖它进行购买、退款、旅行权利、索赔或时间敏感决策。

争议事件将自动化转化为客户联系控制

Air Canada 聊天机器人争议的公开记录异常紧凑且异常有用。在 Moffatt v. Air Canada 案中，由 CanLII 索引于https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html，不列颠哥伦比亚民事解决法庭审理了一名乘客的主张，该乘客依赖 Air Canada 的聊天机器人获取丧亲票价退款建议。争议围绕客户是否可以在购票、旅行后，基于聊天机器人的陈述事后申请丧亲票价退款。法院判决是这一特定小额索赔争议中事实认定的主要来源，并非针对每个航空公司聊天机器人、每个 AI 系统或每个退款场景的普遍裁决。

该判决对问责的价值在于它如何定义责任。乘客并非依赖随意的互联网帖子，而是与 Air Canada 客户导向环境中呈现的自动化工具进行了互动。Air Canada 控制了网站、政策内容、聊天机器人的部署以及回答出现的整体关系。法院拒绝了聊天机器人是独立法律主体的观点。这就是核心风险教训：当企业为客户发布自动化渠道时，该渠道应被视为企业服务运营的一部分。

Air Canada 的公开客户服务资料（https://www.aircanada.com/ca/en/aco/home/fly/customer-support.html）、联系页面（https://www.aircanada.com/ca/en/aco/home/fly/customer-support/contact-us.html）、法律和票价信息入口（https://www.aircanada.com/ca/en/aco/home/legal/conditions-carriage-tariffs.html）以及丧亲旅行页面（https://www.aircanada.com/ca/en/aco/home/book/special-offers/bereavement.html）提供了相关企业背景。这些页面不应被过度解读为对案件事实的承认。它们显示了乘客寻求服务、条款、票价规则和索赔途径的公开环境。在自动化渠道争议中，这一环境至关重要，因为客户不会将每个页面、每个机器人、每个票价和每个支持表格视为独立的企业孤岛。

加拿大交通局的《航空乘客保护条例》页面（https://otc-cta.gc.ca/eng/air-passenger-protection-regulations）和联邦法规文本（https://laws-lois.justice.gc.ca/eng/regulations/SOR-2019-150/）提供了航空乘客权利的更广泛背景。《加拿大交通法》（https://laws-lois.justice.gc.ca/eng/acts/C-10.4/）提供了法律框架。本文并未声称法院依据每条乘客保护规则裁决了丧亲票价问题。它使用监管机构和法律来源来表明为何航空公司的客户沟通并非随意言论。它们处于受监管的旅行环境中，票价规则、退款、索赔和截止日期可能影响乘客的权利和成本。

机器人并非唯一的政策来源，但仍是企业来源

自动化治理最棘手的问题之一是不一致性。网站页面可能说明一件事。机器人可能以不同方式总结。呼叫中心代理可能应用脚本。票价可能包含权威措辞。支持邮件可能提供例外。移动应用可能显示较短的版本。想要进行时间敏感购买的客户无法轻松检查企业的全部政策堆栈。Air Canada 案显示了这一点为何重要。乘客据称收到了关于退款时间的聊天机器人建议，这与 Air Canada 实际的丧亲票价规则相矛盾。法律和运营问题在于企业是否可以通过引用另一个页面来规避责任。

一个负责任的系统会将每个客户导向的政策渠道视为证据集的一部分。企业应了解机器人使用的来源、来源最后更新时间、回答如何测试、回答是否引用权威条款、高风险回答是否需要人工升级，以及客户是否可以保留他们所依赖的回答。机器人的回答可能是生成的、检索的、脚本化的或从知识库编译的。对消费者而言结果相同：乘客通过航空公司的渠道获得回答，并可能据此行动。

法院判决范围狭窄，但运营教训广泛。自动化渠道不应在没有受控内容管道的情况下回答高风险的策略相关问题。丧亲票价资格、退款期限、错过转机的解决方案、拒绝登机赔偿、行李索赔、医疗旅行、无障碍安排、无人陪伴未成年人和取消规则都可能涉及金钱、截止日期、文件和情感压力。如果自动化系统在这些领域给出明确回答，企业应能证明回答基于当前政策，或需要人工交接。

这种证明不能在争议发生后临时拼凑。它必须嵌入工作流程。日志应显示问题、回答、来源版本、政策主题、信心或路由规则（如适用），以及客户是否被转介给人工或权威条款。企业应保留足够多的交易信息以评估依赖性，同时尊重隐私和数据最小化原则。如果企业无法重建回答，则难以证明客户误解了渠道。如果客户有截图而企业没有来源轨迹，则证据不平衡是可预见的。

企业软件自动化在此与客户信任交汇。许多企业部署聊天机器人以减少支持量、缩短响应时间并引导常规问题。这些是合法目标。但当系统回应而非仅转介时，它承担了建议的风险。一个通过提供政策回答来减少通话量的机器人必须像政策回答系统一样管理，而非装饰性搜索功能。成本节约和服务便利伴随着控制职责。

客户依赖是核心证据主题

法庭案件的争议围绕依赖：乘客看到了什么，看到后做了什么，以及将回答视为 Air Canada 的回答是否合理。依赖不是自动的。忽略明确警告、伪造截图或选择性阅读页面的客户可能没有强有力的主张。但将工具呈现为客服渠道的企业应假设部分用户会依赖它，特别是当回答具体且出现在购买或服务路径中时。

因此，依赖证据应纳入自动化治理。企业应了解机器人回答是在购买前、购买后、值机时、中断期间还是索赔工作流程中显示的。它应知道回答是否包含政策页面的链接、免责声明、联系代理的提示或规则可能变化的警告。它应知道客户是否有简便方式保存或引用回答。它应知道机器人是否允许回答退款问题还是应转介。

加拿大民事解决法庭的公开信息（https://civilresolutionbc.ca/）及其小额索赔程序（https://civilresolutionbc.ca/tribunal-process/small-claims/）有助于理解为何此类争议成为公开事件。法庭旨在以成本较低的在线论坛解决特定民事纠纷。这个论坛可以将相对较小的退款争议转化为更广泛行业的治理信号。金额可能不大，但问责原则并非如此。

客户依赖也有滥用联系经济学的维度。企业部分自动化支持是因为人工联系成本高、数量大。客户使用自动化支持是因为它可用、快速且通常是第一个可见的途径。当企业在涉及金钱时视自动化回答为不可靠时，负担就转移到客户身上：他们必须用隐藏条款核对机器人、呼叫代理、保存截图并承受延迟。如果企业鼓励使用渠道，这是不公平的设计。负责任的方法是对高风险主题进行分类并加强控制。

答案不一定是移除所有聊天机器人。设计良好的机器人可以帮助乘客找到行李表格、无障碍联系方式、状态更新和政策页面。风险出现在机器人似乎在没有可靠基础或升级的情况下澄清法律或财务权利时。区别应明确。低风险导航可以广泛自动化。高风险建议应基于来源、测试、记录并在不确定性重大时转介。

自动化建议需要真实来源

Air Canada 案属于更广泛的 AI 工作流可靠性讨论，因为聊天机器人是工作流组件，而非孤立的新奇事物。它接收用户输入，将输入映射到政策主题，检索或生成回答，并影响用户的下一步。如果回答涉及退款，工作流可能移动资金。如果涉及旅行证件，工作流可能影响登机。如果涉及无障碍安排，工作流可能影响公民权利。可靠性要求应与后果相匹配。

加拿大政府关于自动化决策的政策（https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592）针对联邦系统，而非 Air Canada 的私人客服机器人。但它作为加拿大公共治理词汇仍然有用，因为它强调影响评估、透明度、质量保证和人工干预。财政部关于算法影响评估的页面（https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html）同样相关：它显示了公共机构如何思考自动化系统的后果和控制。

隐私和 AI 治理来源提供了进一步背景。加拿大隐私专员关于隐私和生成式 AI 的指南（https://www.priv.gc.ca/en/privacy-topics/technology/artificial-intelligence/gd_principles_ai/）强调以隐私保护方式使用 AI 系统。NIST 的 AI 风险管理框架（https://www.nist.gov/itl/ai-risk-management-framework）及其出版物 AI RMF 1.0（https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf）提供了广泛使用的关于有效性、可靠性、问责性、透明度和风险管理的语言。OECD AI 原则（https://oecd.ai/en/ai-principles）提供了另一个公共治理参考。这些来源并不裁决 Air Canada 争议。它们有助于定义负责任的自动化治理的样子。

对于航空公司聊天机器人，真实来源问题很直接。票价规则会变化。退款规则因市场、票种、旅行日期、中断原因、乘客身份和文件而异。丧亲旅行有自己的资格和程序规则。如果机器人从过时内容、通用常见问题解答、不完整的训练集或没有条件的页面摘要中提取，它可能产生看似合理但错误的回答。企业随后面临最糟糕的组合：客户相信回答因为它来自品牌，而员工后来否认它因为与权威政策不一致。

因此，控制设计应从政策清单开始。机器人可以直接回答哪些主题？哪些主题需要链接到权威条款？哪些主题需要人工确认？哪些回答必须包含日期或来源版本？哪些回答必须被阻止因为它们依赖于私人预订详情？哪些市场有不同的法律义务？支持哪些语言？哪些存档回答必须为争议解决保留？这些同时是产品问题、法律问题、客服问题和技术问题。

免责声明不能代替治理

许多自动化系统使用免责声明。如果免责声明清楚告诉用户工具能做什么和不能做什么，可能有用。但免责声明不是完整控制。如果企业邀请客户提问政策问题，提供自信的回答，并受益于减少的支持量，它不应期望通用免责声明能弥补高风险主题的错误回答。Air Canada 案中法院的推理与此实际观点一致：企业不能仅仅声称其自己的公开渠道与企业分离，当客户合理将其作为服务的一部分互动时。

免责声明在设计与它们冲突时最薄弱。如果机器人位置突出、使用企业品牌环境、以权威语言回答并出现在帮助路径中，客户会视其为官方。如果企业希望机器人仅作为搜索助手，它应表现得像助手：引用来源、避免明确的权限声明并转介风险问题。如果它表现得像代理，企业应像管理代理一样管理它。

更好的控制是分层的。第一，按风险分类问题。第二，将回答建立在已批准内容之上。第三，针对已知边界案例测试回答。第四，为政策回答提供来源链接和日期。第五，将模糊或高风险问题转介给人工。第六，保留回答日志用于争议。第七，监控投诉和退款。第八，发现错误时及时纠正知识库。第九，如果已知错误回答可能影响了决策，通知受影响的客户。第十，审计自动化激励是否导致可避免的客户损害。

这种分层模型也保护员工。支持代理不应留下来为无法查阅的机器人回答道歉。法律团队不应在产品团队已启动政策建议且未保留记录后才得知。产品负责人不应仅根据通话转移率来评估，当隐藏成本包括退款责任时。工程师不应被要求从非结构化页面推断法律政策。受控的聊天机器人为每个群体提供了明确角色。

航空公司自动化具有时间敏感后果

航空公司客服是自动化建议的特别高风险领域，因为乘客通常面临时间压力。他们可能因家人去世而需要快速购票。他们可能需要决定是否取消、改签、接受代金券、申请退款、提交索赔或之后旅行并寻求退款。错误回答可能锁定难以撤销的购买决策。在丧亲票价情境中，客户可能还承受情感负担。

时间敏感性改变了公平分析。客户在购票前并不总能等待电话队列、比较票价条款或寻求法律建议。如果航空公司的机器人在决策时点给出具体回答，客户合理视为充分。企业知道或应知道自动化支持在这些时刻被使用。因此，设计应在时间敏感的财务建议上更加谨慎。

加拿大交通局关于投诉和乘客权利的资源（https://otc-cta.gc.ca/eng/air-travel-complaints和https://rppa-appr.ca/eng）显示航空旅行争议通常涉及索赔流程、证据和截止日期。同样，这些页面不是法院判决。它们显示了乘客寻求救济的监管生态系统。回答权利或退款问题的聊天机器人可能影响乘客是否提交正确索赔、保留适当文件或错过截止日期。

自动化若控制得当也可带来一致性收益。机器人每次可给出相同的批准回答、保留日志、链接到当前政策并转介例外。人工代理也可能不一致。问题不在于人工服务与自动化服务。而在于企业能否证明回答是受控、测试且对后果足够准确的。糟糕的人工脚本和糟糕的机器人脚本引发类似的问责问题。机器人使问题更易扩展、更易重复。

高风险主题需要路由规则，而非仅更好的措辞

事件后最简单的解决方案是重写回答。这可能是必要的，但不够。持久控制是在错误回答显示之前识别高风险主题的路由规则。丧亲票价是一个很好的例子，因为它结合了金钱、时间压力、文件和情感压力。更安全的机器人可能给出简短的导航回答、链接到当前丧亲页面、说明资格取决于特定条件，并提供人工联系方式。它应避免承诺旅行后退款，除非当前政策明确支持该承诺。

路由规则应对产品和法律负责人可见。它们不应仅存在于供应商配置或提示库中。政策负责人应能审查机器人可以回答的主题列表：退款、代金券、医疗旅行、无障碍、未成年人、宠物、行李、中断、忠诚度积分、票价差异和丧亲旅行。对于每个主题，企业应决定机器人是否可回答、必须链接、必须询问澄清问题或必须转介。该决定应注明日期并与来源绑定。

测试应使用对抗性客户问题，而非仅理想措辞。乘客不以法律语言提出政策问题。他们询问是否现在购买后能退款、死亡证明是否足够、票价差异是否适用、旅行后能否提交文件或亲属是否符合资格。测试套件应包含这些自然问题。它应包含多语言或简单语言变体（如渠道支持）。它应包含可能产生代价高昂依赖的边界案例。

相同框架适用于航空公司之外。银行、保险公司、医院、大学、公用事业和政府承包商都使用自动化客户联系。如果主题后果低，错误回答可能只是烦恼。如果主题涉及金钱、资格、健康、截止日期、身份或法定权利，回答就是一种控制。Air Canada 争议是一个公共例子，因为金额足够小以适合法庭，但设计问题足够普遍以适用于任何服务组织。

所有权不能分割直至消失

自动化风险常隐藏在所有权缝隙中。数字团队拥有界面，客服团队拥有渠道，法律团队拥有政策，工程团队拥有集成，供应商可能拥有模型或机器人平台，运营团队拥有投诉。当错误回答出现时，每个团队都能合理声称另一个团队控制了相关层面。这正是为什么部署前必须指定执行级别的所有者。

所有者不必亲自撰写每个回答。所有者需要权力要求测试、来源控制、保留、转介和补救。所有者应获得结合自动化绩效和客户伤害的指标：按高风险主题的回答准确率、转介率、与机器人对话相关的投诉率、因错误自动化建议导致的退款或撤销、来源更新延迟以及机器人回答无法重建的未解决案例。仅通话转移率指标不完整，因为它奖励较少人工联系，即使机器人仅将风险转移给客户。

供应商治理是此所有权的一部分。如果企业使用第三方聊天机器人产品，合同应涵盖数据保留、审计访问、来源配置、测试责任、变更管理、事件响应以及争议的对话记录导出。企业不能仅因供应商提供了堆栈的一部分就告诉客户机器人是独立的。从客户角度看，渠道属于航空公司。从治理角度看，航空公司应确保供应商安排能支持这一责任。

政策变更管理是另一个所有权测试。票价规则和退款程序会变化。如果机器人的来源未同时与网站、票价页面、呼叫中心脚本和代理知识库更新，不一致性是可预测的。受控工作流程应防止一个渠道中的政策生效而另一个渠道中保留过时建议。变更记录应显示受影响的页面、机器人意图或知识条目、测试用例、批准和部署日期。这是常规企业软件纪律应用于客户沟通。

补救措施应包括受影响的渠道审查

当法院或法庭认定客户依赖了错误的自动化建议时，对该客户的补救只是第一步。企业还应审查渠道是否向其他客户产生了类似建议。这不需要假设普遍伤害。它需要审查。日志（如适当保留）可以显示其他乘客是否提出类似问题、收到类似回答、点击类似链接或在收到错误陈述后终止对话。如果日志不可用，缺乏证据本身就是一个控制发现。

受影响的渠道审查应相称。高风险页面上的单独模糊回答可能仅需内容更正。关于退款资格的错误回答可能需要搜索近期互动、标记未结索赔、通知支持团队并临时将主题转介给人工。如果企业可识别受影响的客户，应决定是否提供审查。若无法识别，应记录原因。此过程将公开争议转化为学习，而非视为一次性法律案件。

审查还应调查客户如何被指示保存证据。如果自动化回答可能具有重要意义，客户应能访问记录或参考编号。许多企业使客户易于聊天但难以保存交易。这种设计有利于企业在后续争议中获益，因为客户可能丢失证据。平衡的设计为高风险主题提供记录或摘要给客户，同时最小化随意问题的不必要保留。

最后，补救措施应反馈测试套件。Air Canada 案中的确切故障模式应成为回归案例：客户询问旅行后能否申请丧亲票价调整，事实与争议类似。系统应要么正确回答并附带来源链接，要么转介问题。未来的每次政策变更应重新执行此案例。这样，软件组织可以防止旧错误在新措辞下再现。

证据档案应能经受争议

在 Air Canada 案中，乘客的截图和法院判决使自动化回答可见。成熟的企业不应仅依赖客户截图。它应能检索对话记录、来源政策、机器人版本、回答模板或检索路径以及当时生效的升级规则。这些证据保护客户和企业。客户可证明他们被告知了什么。企业可证明系统设计目的以及客户是否看到限制。

证据档案应相称。它不应不必要地无限存储个人数据。它不应创建客户询问的全面监控。但对于高风险财务或法律建议，适合争议时效的保留期是合理的。档案应包含日期、渠道、政策主题、来源版本、回答、显示的链接、客户的预订上下文（若需要）以及是否提供人工升级。它还应记录知识库的后续更正。

档案应区分三种错误类型。第一种是内容错误：来源政策错误、过时或不完整。第二种是检索或生成错误：正确来源存在但机器人产生了错误回答。第三种是设计错误：机器人根本不应直接回答该问题。每种错误类型需要不同的补救。内容错误需要政策维护。检索错误需要模型、搜索或模板修复。设计错误需要路由和风险分类。

企业还应追踪客户的伤害补救。如果机器人向乘客提供了错误退款建议，该回答模式是否也显示给其他人？是否搜索了日志寻找类似回答？受影响的客户是否被通知或提供审查？该主题的机器人是否在修复前被禁用？票价或帮助页面是否澄清？呼叫中心指导是否更新？产品绩效是否根据转移率和争议结果衡量？法院判决应在每个使用客服自动化的企业中引发这些问题。

案件不能证明什么

Air Canada 判决不应被过度解读。它不证明每家公司每次聊天机器人回答在任何情况下都具有约束力。它不证明生成式 AI 系统本质上不安全。它不为所有自动化客服设立全国性集体责任规则。它未披露 Air Canada 的完整聊天机器人架构、供应商合同、测试记录或事后补救措施。它未告知公众有多少客户看到类似建议。它未显示相关系统是纯脚本、检索、生成式还是混合。

这些未知很重要，因为自动化问责取决于设计。具有批准回答模板的简单规则型机器人与总结政策页面的生成式系统有不同风险。返回链接的搜索助手与表述权利要求规则的对话代理有不同风险。记录、测试的高风险工作流与广泛开放的机器人有不同风险。没有内部架构，公众不应提出无根据的技术主张。

已确认的教训更窄且更强：当企业部署自动化客服渠道时，它应预期就该渠道在企业服务环境中给出的建议承担责任。如果企业希望限制依赖，它必须相应设计渠道。如果它希望渠道回答政策问题，它必须相应管理渠道。如果它发现错误，它必须纠正渠道并接触受影响客户。

这个教训已经足够。它将辩论从新奇性转向运营。问题不在于机器人是否令人兴奋或高效。问题在于是否有所有者、真实来源、测试套件、保留政策、升级路径、监控流程和补救路径。这些是常规控制。自动化使它们更紧迫，因为错误回答可能在有人注意到之前扩展到许多用户。

狭窄的判决仍能设定广泛的控制期望

阅读法院判决最有用的方式是将其视为控制期望而非广泛的技术规则。判决传递了一个信号：当自动化渠道位于服务环境中并给出具体客户建议时，它可以承载企业责任。这一期望与谨慎的界限兼容。企业可以继续使用自动化。它们可以继续包含来源链接。它们可以转介复杂问题。它们可以挑战不合理的依赖。它们不能安全地做的是使用自动化进行服务建议，然后在建议错误时将渠道视为外部。

对于董事会，这一期望应反映在风险偏好中。董事会可接受低风险导航的自动化并附轻量监控。它可要求财务权利的人工转介。它可要求受监管主题的回答基于来源。它可禁止开放式的法定权利回答。它可要求在部署前进行独立测试。这些都是治理决策。它们应在争议发生前做出，而非在客户产生截图之后。

对于产品团队，这一期望应体现在发布门禁中。更改退款建议的聊天机器人更新不应像颜色变更一样发布。它应有政策审查、测试证据、版本控制、回滚能力和监控。启动清单应询问渠道是否可能产生客户依赖以及如何处理这种依赖。如果团队无法回答，该功能尚未准备好用于高风险服务建议。

对于法律和合规团队，这一期望应将注意力从免责声明转向证据。对抗自动化争议的最强防御不是说机器人可能出错的语句，而是证明机器人设计为避免高风险错误回答、客户在不确定性重要时被转介、错误被纠正以及受影响客户有补救措施。这些证据更有说服力，因为它们解决了伤害的操作原因。

读者证据档案

本文使用以下公开来源作为 Air Canada 聊天机器人退款争议、航空公司客服背景、乘客权利环境和自动化治理词汇的证据档案。法律和法院来源作为争议记录的证据。企业来源用于公开背景。AI 治理来源用作控制词汇，而非针对 Air Canada 的事实认定。

给董事会的提问

关键问题仍然存在：谁实际控制了聊天机器人的政策来源、回答测试、升级路径、网站一致性、客户期望证据、退款处理、法律立场以及自动化服务渠道是否像官方客户沟通一样管理的证据？完整答案应识别产品负责人、政策负责人、法律审查者、支持负责人、工程负责人、数据保留负责人和补救负责人。

审查应区分五个证据层级。第一层是法律证据：法院判决、索赔记录、退款解决方案和任何保留的客户沟通。第二层是政策证据：丧亲票价规则、票价、网站页面和来源版本。第三层是自动化证据：机器人设计、训练或检索来源、测试用例、回答日志和升级阈值。第四层是客户证据：依赖、时间压力、截图、联系尝试和补救路径。第五层是治理证据：错误后纠正、监控、受影响客户审查和董事会指标。

对于航空公司和其他服务企业，修复的标志不是简单移除聊天机器人回答，而是一个受控的自动化项目，了解哪些主题可回答、哪些必须转介、哪些来源控制回答、如何记录依赖、如何修复错误以及当自动化渠道以企业实际权威发言时如何保护客户。因此，Air Canada 争议是一个小额索赔却传递了重大运营信息：回答客户政策问题的自动化并非企业外部。它是企业的一部分。

自动化治理应在客户成为测试集之前进行测试

客户服务自动化的运营风险在于企业可能在客户依赖之后才发现政策错误。对于退款、票价、保险、信贷、健康、旅行或法律相关建议，这是错误的测试模型。高风险主题应在部署前测试，使用杂乱真实语言的常见问题，将回答与批准来源比较，并验证系统将不确定的案例转介给人工。客户不应成为第一个有意义的回归套件。

测试套件应包含矛盾。它应以不同数据、票种、旅行状态、客户位置和证据限制提出相同问题。它应询问在服务已使用后的例外、截止日期、救济途径和退款。它应包含机器人必须直接拒绝的问题。自信回答每个问题的系统并不成熟；它可能仅在隐藏不确定性。受控系统知道何时不应发言。

发布治理还应涵盖来源漂移。当丧亲页面更改、票价更新、监管机构更改乘客权利语言或政策团队澄清例外时，机器人的受控来源必须同时更改。企业应能显示更新来源已到达机器人、旧的矛盾回答已撤回，以及高风险测试用例在更改后通过。这是常规变更管理应用于自动化沟通。

自动化的价值不会被这些控制否定。良好的自动化可以减少等待时间并帮助客户找到准确信息。但价值仅在系统可信时存在。可信赖的自动化不是由流畅回答定义的，而是由来源控制、测试、升级、证据保留以及当企业控制渠道给客户错误指示时的补救措施定义的。