加拿大航空为聊天机器人赔了 812 加元：企业 AI 自动化该在哪一步等人签字？

2024 年 2 月，加拿大不列颠哥伦比亚省民事争议解决审裁处在 Moffatt 诉加拿大航空案中，判加航向一名乘客支付共计 812.02 加元，其中包括利息和审裁费用。起因是加航官网上的聊天机器人告诉乘客 Moffatt，可以在行程结束后再申请丧亲优惠票价，而加航从来没有过这条政策。加航在庭上辩称，聊天机器人要为自己的行为负责。审裁员称这个说法是「令人惊讶的抗辩」，并裁定官网上的所有内容都由航空公司负责，聊天机器人也包括在内。

对准备上线面向客户的助手的企业来说，这个案子引出一个很实际的问题：助手对外做出的承诺，由谁来把关？这份责任最好在设计工作流时就落到人头上，那时团队还能决定助手可以发出什么。

审批链本身就是一份需求说明

大公司从外面看很慢，因为工作要经过一个个有审批权的人。采购单先给经理，再给财务。对外发布的报告先过撰写团队，再过法务，最后到高管手里。这些环节可能出于财务管控、法律义务，或者过去吃过的亏；也有一些早已过时，照搬进软件之前，先弄清它们为什么存在。

做自动化的时候，这条链是你手里最有用的文档。哪些决定有风险、谁对它负责、每个负责人点头之前要看什么证据，都写在里面，自动化可以拿它当需求说明的起点。不过团队仍要确认，现有的控制能不能覆盖新系统，审核人又打算怎样检查它的输出。

给报表平台加 AI，可以先画一张审批图：谁审批什么，每位审核人要查哪些证据。再按这张图划定 AI 的职责，让它起草某一节内容、收集佐证记录，审批权仍留在报告负责人手里。

一项工作能不能自动跑，看出错的代价

每项任务都该先问两件事：出错要花多少钱，能不能轻松撤回。

内部标签和初稿，如果出错影响可控、结果也明确标为待核实，就可以考虑自动处理。但医疗摘要或机密搜索结果的风险可能高得多，不能只看任务名称，还要看输出会被拿去做什么。付款、发给客户的邮件、对外公布的数字、权限变更、删除记录，要么代价高，要么根本撤不回，每一次都应该等一个具体的人签字，至少在系统积累起很长一段可靠记录之前都要这样。

客服回复很适合用来说明这条线怎么划。助手可以查到退款政策，拟一份答复；遇到政策含糊，或者答复承诺了例外处理，就交给有退款决定权的人审核，再发给客户。

审核要比自己动手快，人工审批才守得住

人工审批这一步，只有人真的在审才起作用。如果检查 AI 输出花的时间和自己做一遍差不多，审核人要么开始不看就点通过，要么悄悄回去自己干，自动化就成了只花钱、不省事的摆设。

METR 在 2025 年初的一项试验中，16 名资深开源开发者在熟悉的项目上完成了 246 项任务。允许使用 AI 后，完成时间增加了 19%，参与者事后却估计自己快了约 20%。这项研究规模小，涉及的工具和代码库也很特定，不能说明所有用 AI 的团队表现如何；它提醒我们，衡量效率要算整条流程，审核时间也在内。

审批界面要让人看清改了什么、每个数字从哪来、哪些检查没通过。风险和验收条件相同的事项才适合合并审核。即使改成固定规则，也要写清适用范围，并指定一个有权撤销规则的人。

流程要先写在纸上，AI 才能照着做

企业里的大多数流程，有一部分只存在于人的脑子里。清单上写着「核实供应商数据」，资深分析师知道这句话的意思是对比三张表格，再给采购部的某个人打个电话。AI 系统只能照着写下来的那个版本执行。

把流程写下来，能赶在自动化让问题更难察觉之前，暴露出没人负责的环节。以核实供应商为例，要列明对照哪三份记录、比较哪些字段、出现差异由谁处理。只写「核实供应商」，这三个决定就全落在了当次执行的人身上。

写好的流程既能指导自动化，也能帮新员工弄懂同一项任务。把它和工作流放在一起，原始记录或职责一有变化就跟着更新。

下一步自动化什么，审批日志里有线索

系统跑了几个月以后，按类型统计审批次数，再细看修改记录。一连串被直接通过的初稿是值得研究的证据，但要和少见的失败情形、出错代价放在一起看。只有测过这些情况、准备好回退办法、指定了监控负责人之后，才适合把任务交给系统自动执行。

这样的复盘要和工作流负责人一起排进日程。每提出一项调整，都记下依据的证据、新的限制，以及出了问题由谁来处理。