AI 自动化里必须保留人工确认的 7 个位置

先说结论。

AI 自动化可以生成建议、准备参数和排队任务，但七类动作默认应保留人工确认：发送、删除、付款、审批、客户回复、公开发布和权限变更。

共同点是它们会影响外部对象、资产、责任或访问边界。模型判断再稳定，也不能替代组织授权。

适合谁：自动化已经具有写操作的团队

这份方法适合正在把模型接入邮件、CRM、内容发布、财务或权限系统的产品与工程团队。只做本地摘要、没有外部写操作的个人工具，可以简化审批，但删除原文件等不可逆动作仍要确认。

它解决的实际问题，是自动化已经具备执行能力，却没有把最终授权、执行证据和失败补救连成责任链。

人工确认不是弹窗，而是一条责任链

有效审批要让人知道将执行什么、依据是什么、影响谁、能否撤回。只显示“AI 已生成，是否继续”会迫使审批人盲点通过。

审批结果包括通过、修改后通过、驳回和升级。所有动作记录审批人、时间、输入版本、修改差异和执行回执。

低风险、可逆动作可以批量确认；高影响、不可逆动作需要更严格证据和可能的双人审批。

位置一：任何对外发送

邮件、短信、通知和消息会代表组织立场。收件人、正文、附件和发送时间都可能出错。

审批界面要展示最终版本、收件人范围、敏感信息检查和附件。群发还应显示人数与退订规则。

内部低风险提醒可以按模板自动发送，但模板和触发规则本身要经过审批。

位置二：删除与不可逆修改

删除文件、记录、索引和配置会破坏状态。模型可以识别候选，但执行前要展示对象列表、原因、影响和备份状态。

优先使用软删除、回收站和延迟执行。批量删除设置数量阈值和二次确认。

若动作可完全回滚且范围很小，可以降低审批强度，但仍要保留审计。

位置三：付款与财务动作

付款、退款、报销和价格修改涉及资产与合规。AI 可以核对单据、发现异常和准备草稿，不能直接成为授权人。

审批要展示金额、币种、对象、合同或单据、预算、重复检查和异常提示。超过阈值沿用现有财务审批链。

具体场景是发票识别把小数点读错。模型置信表达无法替代金额规则和人工复核。

位置四：代表组织作出的审批

录用、采购、授信、内容下架和合规放行等决定影响他人权益。模型可整理材料，但最终决定应由有权限的人作出。

界面要区分事实、规则命中和模型建议，允许审批人查看原始证据。不得用不可解释总分掩盖决定依据。

已有制度比新建 AI 审批更优先，自动化应接入而不是绕开。

位置五：客户回复与承诺

客服和销售回复可能包含价格、交付、退款和责任承诺。第一版更适合生成草稿，由员工确认事实和语气。

普通 FAQ 在有明确知识来源、低风险和可转人工时，可以扩大自动回复范围。涉及个案政策、投诉和合同内容仍要升级。

审批记录应关联客户会话和引用来源，便于后续争议追踪。

位置六：公开发布

网站、公众号、社交媒体和公告一旦发布，会形成品牌与法律影响。AI 可完成渠道改写和排版，发布前需要编辑确认事实、版权、敏感信息和链接。

定时发布还要显示最终预览、渠道、账号和时间。修改母稿后，各渠道稿应重新进入审核。

模板化的状态通知可自动化，但不能与观点、营销承诺和新闻发布混为一类。

位置七：权限与访问范围变更

新增管理员、共享客户数据、扩大知识库可见范围和创建 API key 都会改变安全边界。

审批必须展示变更前后差异、申请主体、理由、有效期和最小权限建议。临时权限应自动到期。

模型可以建议角色，真正写入 IAM 或业务权限系统前必须由授权人确认。

常见失败：审批人没有足够信息

审批按钮很多，却看不到原始输入和模型修改，人会形成机械通过。另一个失败是审批后执行失败，却没有回执，责任链在最后一步断开。

不要用审批覆盖糟糕的权限设计。即使人通过，系统也应进行服务端校验、幂等、限额和审计。

审批过多同样会堵塞流程。把动作按影响、可逆性、外部性和敏感度分级，低风险任务走抽检。

审批节点操作清单

• 展示动作对象、最终内容、关键参数和原始证据；
• 显示风险、权限、影响范围和是否可回滚；
• 提供通过、编辑、驳回、升级，不只一个确认按钮；
• 记录审批人、版本、修改差异、理由和时间；
• 执行使用幂等键，返回外部系统结果；
• 失败可重试，成功后有撤回或补救入口。

审批质量也需要被观察

审批通过率高不一定说明模型稳定，也可能说明审批人已经疲劳。应观察平均停留时间、修改比例、驳回原因、批量通过和事后撤回。

若高风险动作经常在几秒内通过，界面可能没有提供足够证据，或审批责任设置不合理。可以减少低风险提示，把注意力留给真正需要判断的差异。

审批规则变更也要版本化。相同动作在不同时间被不同标准处理，需要能回到当时有效的规则。

下一步：只改一个高风险写操作

拿现有自动化画一张动作表，标出是否对外、是否影响资产、是否改变权限、是否可逆和错误后果。命中任一高风险条件的节点，先补人工确认；低风险通知则尽量合并或抽检，把注意力留给真正需要判断的差异。

最小开始不是一次实现七类审批，而是选出当前流程里影响最大的一个写操作，为它补最终预览、原始证据、审批人、驳回原因和执行回执，再用一周真实记录检查机械通过。它的优势是责任和失败位置可追溯，限制是等待时间会增加，而且人工点击不能替代服务端权限校验。

替代方案是复用现有 ERP、CRM 或工单系统的审批链，把 AI 草稿送入原流程，而不是另建一套 AI 审批中心。试点结束时只追问：审批人为什么修改或驳回，以及执行失败后能否补救。这两个答案比新增了多少确认弹窗更能说明治理是否有效。