整理者的实践建议
让验证对准业务损失
把“有没有产物”升级成“哪些错误不能接受”。
- 区分措辞变化、格式错误、事实错误与会影响业务决策的错误。
- 为可自动检查的部分建立检查;为主观与高后果部分安排人工核验。
- 保留输入、版本、产物与差异,避免只留下模型自己的通过声明。
- 定义暂停、回退和升级条件,让异常有出口。
可以这样开始
请基于最终用途列出不可接受的失败方式,区分自动检查、人工核验和执行前审批。对每项检查说明它能发现什么、不能发现什么,以及失败时如何暂停或升级。
检测器的漏报也要评估;不能用一套未知质量的检查为全部结果背书。
来自哪些讨论
少盯 AI,怎么知道它做对了?
把精力放在验收与证据上,检查本身也需要预算。
每次做法不同,算不算不稳定?
先分清过程变化,和真正影响使用的结果偏差。
AI 做错了,你能看出来吗?
检查机制能发现错误,但谁来保证检查本身没漏掉问题?
原话依据
我觉得可以把这些人的共同方法压成五件事: 尽快拿到真实结果,而不是长时间设计第一版。 先跑,再根据结果改。 人主要控制目标和边界,执行尽可能下放。 不需要每一步都参与。 上下文尽量外置。 环境、规则、历史经验放进 Agent 能自己读取的地方,而不是靠人反复解释。 验证比监督重要。 测试、评测、Git、日志、对比结果,比盯着 Agent 每一步做什么有效得多。 不断消灭重复摩擦。 同一种错误第二次出现,就考虑是不是环境、工具或流程应该改,而不是再人工处理一次。
不需要一开始就准确知道它属于 99% 还是 1%。真正需要的是一套机制,让普通问题能够低成本地被验证,而危险问题能够尽早暴露并升级。
所以说技术能力不一定要内化到脑子里,但还要有足够的基础去理解这些问题