少盯 AI,怎么知道它做对了?
为什么这样整理
从遥控 AI,转向检查它做成了什么
8 月 25 日的分享,把测试、评测、版本记录、日志和前后对比,放在盯着 Agent 每一步之前。意思是把人的精力用在目标、边界和结果证据上,而不是每个小动作都等人点头。[80]
“没报错”不是全部验收
生成了文件、程序没报错、AI 自己宣布通过,都只是局部信号。代码能跑、分析有依据、业务真的接受,要分别检查。临诗予说审代码也花时间,提醒了另一个现实:检查需要人和预算,不会因为执行变快就自动消失。[43]
怎样既放手,又不失控
写清楚哪些事允许自主做,结果怎样复查,高后果动作什么时候必须审批或找专家,出了异常能否还原输入和版本。这个组合,比“全放手”或“全程盯着”更接近原讨论的意思。[125][126]
自动化检查也会漏错,尤其当生成和检查共享错误假设时。减少人工介入只是一个指标,不能替代结果可靠性的证据。
还可以继续问
你的验证机制会不会只检查 AI 已经擅长展示的东西,却看不到最危险的失败?
核对早期整理措辞
原文中的转向
8 月 25 日的方法总结把测试、评测、Git、日志和结果对比放在“盯着 Agent 每一步”之前。核心是把人的精力放到目标、边界和结果证据,而不是把自动化系统变成每一步都等人批准的遥控工具。[80]
验证要对准什么
“有文件输出”“程序没报错”“AI 自己说通过”都只是局部信号。对代码、分析与业务交付,需要不同层次的检查。临诗予的审查成本提醒,也说明验证本身需要预算,而不会自动消失。[43]
整理后的分工原则
把允许自主执行的范围写清;为结果设置可复查的检查;对高后果动作保留审批或升级;异常出现时能还原输入、版本和过程。这个组合比“完全放手”或“全程盯人”更接近群中讨论的方向。[125][126]