少盯 AI,怎么知道它做对了?

为什么这样整理

从遥控 AI,转向检查它做成了什么

8 月 25 日的分享,把测试、评测、版本记录、日志和前后对比,放在盯着 Agent 每一步之前。意思是把人的精力用在目标、边界和结果证据上,而不是每个小动作都等人点头。[80]

“没报错”不是全部验收

生成了文件、程序没报错、AI 自己宣布通过,都只是局部信号。代码能跑、分析有依据、业务真的接受,要分别检查。临诗予说审代码也花时间,提醒了另一个现实:检查需要人和预算,不会因为执行变快就自动消失。[43]

怎样既放手,又不失控

写清楚哪些事允许自主做,结果怎样复查,高后果动作什么时候必须审批或找专家,出了异常能否还原输入和版本。这个组合,比“全放手”或“全程盯着”更接近原讨论的意思。[125][126]

自动化检查也会漏错,尤其当生成和检查共享错误假设时。减少人工介入只是一个指标,不能替代结果可靠性的证据。

还可以继续问

你的验证机制会不会只检查 AI 已经擅长展示的东西,却看不到最危险的失败?

核对早期整理措辞

以下保留早期主题稿,供核对表达差异。它同样是整理文字,不是聊天原话。

原文中的转向

8 月 25 日的方法总结把测试、评测、Git、日志和结果对比放在“盯着 Agent 每一步”之前。核心是把人的精力放到目标、边界和结果证据,而不是把自动化系统变成每一步都等人批准的遥控工具。[80]

验证要对准什么

“有文件输出”“程序没报错”“AI 自己说通过”都只是局部信号。对代码、分析与业务交付,需要不同层次的检查。临诗予的审查成本提醒,也说明验证本身需要预算,而不会自动消失。[43]

整理后的分工原则

把允许自主执行的范围写清;为结果设置可复查的检查;对高后果动作保留审批或升级;异常出现时能还原输入、版本和过程。这个组合比“完全放手”或“全程盯人”更接近群中讨论的方向。[125][126]

加入观澜

观澜群邀请卡,微信扫码加入,有效期为 2026 年 10 月 1 日前

原图注明 10 月 1 日前有效;能否入群以微信提示为准。