FDE现实课 04 · Agent治理
AI干活，人签收：企业Agent最该保留的一个按钮
全自动不是目标，风险分级、审批和责任闭环才是生产系统。
一个Agent草拟了退款方案，金额比正常范围高十倍。它没有"犯大错"，只是把一个字段理解错了。
如果系统里还保留确认按钮，这是一条待修改的建议；如果为了追求全自动，已经让它直接提交退款，这就是一笔真实损失。
企业谈Agent时，喜欢把"无需人工"当作成熟度。可生产系统的成熟，往往体现在另一件事：它知道什么时候必须停下来等人。
并非每个动作都值得审批
如果任何步骤都要人点一下，AI只是多加了一层界面。合适的做法是按错误后果分级。
低风险任务可以自动完成，比如内部资料分类、草稿整理、格式转换。错了容易发现，也能低成本重做。
中风险任务需要确认，比如对外邮件、价格建议、客户标签修改。AI准备好内容和证据，人检查关键差异后放行。
高风险任务需要专业审批，比如付款、退款、合同承诺、生产停机和敏感权限变更。审核者还要具备相应职责，不能随便找个人点"同意"。
OpenAI面向企业的Agent指南也把人工介入放在两个位置：超过失败或重试阈值时，以及执行高风险、不可逆动作之前。人工不是系统失败后的补丁，而是架构的一部分。
一个确认按钮，至少要展示五件事
很多系统虽然有人审，审核页面却只放"同意"和"拒绝"。员工看不到AI依据了什么，只能凭感觉点，这会把人变成橡皮图章。
有效的签收页面至少应显示：AI准备执行什么、用了哪些来源、关键字段发生了什么变化、为什么触发人工确认、出了问题怎样撤回。
确认完成后，还要记录批准人、时间和修改内容。这样后续才能解释一次动作是谁决定的，也能把人的修正变成评测数据。
人也会犯错，为什么还要人签收
因为这里保留的不是"人一定比模型聪明"，而是责任和例外处理。
模型擅长快速处理大量常规情况；人能结合当天的客户关系、异常背景和公司承诺作出判断。两者的分工应该随真实数据调整，而不是凭一句"AI已经很强"一次定死。
如果某类任务连续几个月通过率很高、错误可回滚，可以逐步提高自动化额度。若人工频繁修改，就先看原因：资料过期、规则没写清、权限不足，还是模型确实判断不稳。
"AI干活，人签收"不是终点
它适合企业从辅助走向自动化的过渡阶段。随着证据积累，一部分确认可以取消，一部分仍应长期保留。
重要的是，每次放权都有数据，每次出错都能回溯，每次扩大自动化范围都知道自己承担了什么风险。
企业Agent最贵的按钮，不是"生成"。
是那个在正确时刻出现、让正确的人看见足够信息之后再点下去的"确认"。
参考资料
• OpenAI：A practical guide to building agents
完