即使增加审批环节，审核也不会随之变多
当AI生成的产出不断增加，人类同样需要时间去审核。本文统筹考量审批件数、审核时间与执行风险，探讨了让监督真正发挥实效的前提条件。
商业在“由人类做最终确认”这句话之后需要确定的事
只要让人类来审批AI生成的结果，大家往往就很容易感到放心。然而，仅仅决定把事情交由谁负责，并不能算完成了审核机制的建立。还必须明确该负责人一天需要阅读多少份结果、究竟要核查哪些要点，以及是否拥有叫停错误结果的实权。
例如，引入AI之后待审核的产出增加了十倍，但审核人数与时间却毫无变化，情况会变成怎样呢？哪怕额外指定了一名审批人，他们也可能根本没有足够的时间去通读具体内容；甚至可能会为了尽快处理请求，而徒增略过核查步骤的风险。
我认为在引入智能体（Agent）时，必须将生成速度与审核能力一并设计考量。这意味着需要明确哪些行为需要人类批准，并计算这些行为发生的频率。
管理者所担忧的，也包括决策的责任
经合组织（OECD）调查了来自法国、德国、意大利、日本、西班牙和美国的 6,000 多名中层管理者。其 2025 年发布的数据中探讨的“算法管理”，是指用于支持或自动化工作分配、工作监控、绩效评估等事务的软件。这项调查并非仅局限于生成式 AI。
使用这些工具的管理者在认可其有助于决策的同时，也表达了担忧。28% 的受访者表示错误决策的责任不明确，各有 27% 的受访者表示难以理解决策背后的逻辑，以及对劳动者身心健康的保护不足。责任归属虽被提及最多，但与其他担忧的差距并不大。
我们不应将这一结果解读为“管理者不担心准确度”。它更接近于表明：既需要预防错误决策，也需要明确出错时由谁来应对。该调查同样未证明增加审批环节的原因或其实际效果。
我在这项调查中关注的，是试图单靠审批流程来化解责任焦虑时所带来的问题。因为“存在审批人”这一事实，与“该审批人能够进行实质性管理”这一事实，可能是两码事。
审批记录中可能会遗漏究竟审查了什么
审批流程通常用于发现错误，并记录是否由有权人员准予执行。要想让这两项功能同时发挥作用，就必须具备可供审查的信息与充足的时间。
若要发现错误，就必须阅读发生了何种变更、基于何种依据作出判断，以及会对谁产生影响。必要时，还需核对原始数据。然而，无论相关人员是否仔细阅读了内容，系统中往往只会留下审批账号与审批时间。
正因如此，如果仅仅统计审批件数，很难了解是否真正进行了审查。负责人可能为了赶处理量而一次性批准多项申请；反之，也可能为了充分审查而使请求长时间处于等待状态。在上述两种情况下，仅凭审批界面都很难判断其中的缘由。
在这里，也很难认为责任会自动转移到审批人一人身上。因为配置权限的人、运营系统的组织、管理原始数据的负责人的角色都交织在一起。审批日志只是用于核实事情经过的材料，它本身并不能代替责任的划分。
NIST在2024年发布的生成式人工智能风险管理配置文件（Profile）也探讨了因人与AI的角色配置而产生的风险。该文件建议明确区分监督角色，并制定与风险程度相匹配的评估机制。虽然这只是一份自愿参考的指南，但它提醒人们比起审批按钮的数量，更应关注监督机制能够切实发挥作用的前提条件，这一点十分具有参考价值。
哪怕降低需审批的比例，待审核件数也可能增加
以下是为了说明这种关联所做的虚拟测算，并非实际组织的测量值。
如果 5 名业务人员每人每天发起 4 次请求，管理者需要审核 20 件。假设引入智能体后，每人每天提出 50 项行动建议，总数便达到 250 件。即便其中只有 20% 需要事前审批，呈报给管理者的也有 50 件之多。
| 项目 | 引入前 | 引入后假设 |
|---|---|---|
| 每日生成的行动 | 20 件 | 250 件 |
| 需事前审批的比例 | 100% | 20% |
| 每日审核请求 | 20 件 | 50 件 |
| 每件按审核 3 分钟计 | 60 分钟 | 150 分钟 |
需事前审批的比例虽然下降了，但待审核件数却变成了 2.5 倍。如果每件的审核时间不变，所需时间同样会变成 2.5 倍。
在 250 件中如果要只审核 20 件，该比例必须降到 8%。但这并不意味着 8% 就是合适的审批标准。如果存在 50 件具有风险的行动，绝不能仅仅为了凑时间而取消其中 30 件的审核。此时要么限制执行量，要么补充审核人力，要么将高风险行动的设计收敛在更狭窄的范围内。
我认为，刚开始时按如下方式估算会更容易理解：
所需审核时间 ≈ 行动数量 × 需事前审批比例 × 单件审核时间 + 复核与异常恢复时间
这是一个用来预估工作量的简单算式。在实际情况中，每项行动的审核时间各不相同，有时合并多件一起查看效率更高；而且还必须测量重新核实驳回结果、或是恢复执行错误所花费的时间。
一旦该数值超出负责人的可用工时，就必须调整处理吞吐量。不能仅凭“审批率降低了”的汇报来评判引入成效，还需要核实实际积压的请求与等待时间。
自动批准变多，并不意味着人类监督随之消失
Anthropic 于 2026 年 2 月开展的使用情况研究中有一项耐人寻味的结果。在 Claude Code 新用户的会话中，采用完全自动批准的比例约为 20%，而在经验丰富的使用群体中，该比例超过了 40%。与此同时，经验丰富的用户在任务执行中途介入并予以中止的比例也更高。
研究人员将其解读为监督方式的转变。也就是与其对每一个行为进行预先批准，不如在观察执行过程的同时，在必要节点适时介入。仅仅因为自动批准增多，并不能说明用户放弃了审查，也无法证明安全性已经得到验证。
在同一项研究中，任务越复杂，智能体提出确认性问题的频率以及用户予以中止的频率就越高。其中智能体提问频率的增长速度更为显著。当然，仅凭提问或中止的次数，并不能直接衡量人类究竟对内容阅读了多少。
我认为，这一结果与其说是得出“人类的介入并不会增加”的结论，倒不如说更倾向于表明我们需要关注究竟是以何种方式进行监督。只有当审查者能够查看中间结果、察觉到异常走向并能立即叫停时，事后介入的方式才可能真正奏效。
相比单次操作，可以先审查工作计划
Anthropic 在 4 月的另一篇文章中指出，反复出现审批请求会给用户带来摩擦，甚至导致用户麻木地随手放行。作为解决方案之一，他们介绍了 Claude Code 的 Plan 模式（计划模式）：先呈现执行计划，待用户审查并修改后再启动工作。
这种思路同样适用于组织。例如，在阅读资料并起草内部报告的任务中，可以先审查目标、需阅读的资料以及成果的保存路径；如果执行过程中需要访问超出计划的数据或向外发送内容，再由人工重新判断。
不过，同意了计划并不意味着允许后续的所有操作。工具的访问权限、金额上限以及对外传输所需的审批仍需单独设定；同时还必须具备相应的手段，能够识别并制止超出最初授权范围的行为。
改变审批单元，意味着将需要审查的上下文一次性呈现出来。 这并不代表即使中途风险发生变化，也可以凭借最初获得的审批一路执行到底。
监督与文档留存需分别予以确认
韩国《人工智能基本法》第34条规定了提供高影响人工智能或利用其提供产品与服务的经营者的责任。第1款第4项是人类的管理与监督，第5项是能够确认安全性与可信度保障措施的文档编制与留存。
仅凭存在审批日志，并不能断定某项义务已经得到履行。必须分别查看实际进行了怎样的管理与监督，以及文档中是否充分体现了安全性与可信度措施。仅留下点击时间的记录，也不能被视为履行了第5项要求。
适用对象也同样不仅取决于“是企业内部工具还是对外服务”。还必须综合考量其是否应用于法律所列举的领域，以及是否存在对生命、人身安全或基本权利造成重大影响或风险的隐患。普通文档草案与用于招聘评估的文档，绝不会仅仅因为同属“内部文档”而受到同等对待。
若各行业另有专门规定的程序，也必须予以遵守。缩短审查时间的设计，绝不能成为省去必要法定程序的依据。
结合风险与审查能力来制定审批标准
在实际业务中，最好先列出具体行为的清单。仔细审视究竟会改变什么、一旦出错损失有多大、是否可逆，以及谁会受到影响。哪怕是内部操作，只要涉及将个人信息发往外部或覆盖重要数据，就可能存在高风险。
以下是用于展开讨论的参考示例。即使是同一种行为，根据数据与权限范围的不同，控制方式也会有所差异。
| 行为示例 | 需优先确认的条件 | 控制方式示例 |
|---|---|---|
| 内部草稿、查询已授权的资料 | 是否涉及敏感信息访问及外部传输 | 收紧访问权限、对结果进行抽样审查 |
| 修改内部工单 | 修改范围与可恢复性 | 限制范围与频次、保留修改记录与异常审批 |
| 客户通知、价格变更 | 接收方、金额、外部影响 | 执行前确认内容与对象、设定变更限额 |
| 大额支付、注销账户、重大人事决策 | 损失规模及相关流程 | 限制自动执行权限、执行必要的专业审查与审批 |
审批界面必须同时展示变更内容、判断依据以及受影响的对象。还应提供查看原始资料的链接，以及驳回或中止操作的途径。如果审查者每次都得在多个系统之间来回穿梭核对，即便减少了审批请求，依然会耗费大量时间。
在衡量成效时，可以在自动化率的基础上增加以下指标：
- 每日审查请求量、单笔审查耗时与等待时间
- 审批后发现错误或二次修改的比例
- 批量审批的情况及其审查方式
- 驳回后的返工以及异常恢复所花费的时间
- 因审批负担过重而放弃使用自动化的业务及原因
最后一项很难仅凭系统日志来掌握。必须向当事人询问放弃使用的原因。除了管理者，还应一并核实发起请求的业务经办人员的时间与工作负担。
Oswarld视角
我认为“由人工最终确认”只是安全设计的起点。接下来的关键在于：决定允许哪些操作、如何为审核提供必要的信息，以及确定负责人能够承受的处理量。
如果把所有操作都设为需要审批，当下可能会让人觉得省去了界定权限范围的麻烦。但这样一来，做决定的负担就被推给了每一次接收审批请求的人。随着请求不断增多，各个审批人就不得不反复对同一套标准进行解读。我认为，更好的做法是由组织预先制定好明确的标准，只将真正需要斟酌判断的例外情况提交给审核人。
今年 3 月，我曾在这份时事通讯中强调，信任是引入智能体的一大制约因素。而现在，我认为有必要在这一解释中加上“审核能力”。虽然我们确实能看到，随着用户对产品的熟悉，他们愿意赋予系统更高的自主度，但这并不意味着组织本身所能承担的工作量也会随之增加。
要想提升吞吐量，要么腾出用于审核的时间，要么减少高风险操作的执行，要么让重复确认变得更加容易。如果仅仅是加一道审批环节，很难指望这一根本抉择能迎刃而解。
如果本周要落实一项检查，我建议将当前需要审批的操作清单与实际花费的审核时间放在一起评估。唯有先弄清楚团队是否拥有充分阅读所需的时间，我们才能进一步探讨：究竟哪些地方该保留人工审批，又有哪些地方应该缩减执行范围。
💬 引入自动化工具之后，你们的审核请求变多了吗？为了确保有充足的时间审阅内容，你们调整过哪些标准？
参考资料
- OECD, How widespread is algorithmic management in workplaces?，2025 年 12 月
- Anthropic, Measuring AI Agent Autonomy in Practice，2026 年 2 月 18 日
- Anthropic, Trustworthy agents in practice，2026 年 4 月 9 日
- 《人工智能基本法》第 34 条
- NIST, Generative Artificial Intelligence Profile，2024 年 7 月
延伸阅读：AI Agent 与信任问题 · 说验证者是瓶颈，只对了一半
