没有经历过工程问题,可能无法判断AI架构方案。
原话 122工作流与验证
少盯 AI,怎么知道它做对了?
整理提要
人不必亲自控制每个动作,却必须知道凭什么相信最终结果。
大家怎么说
局部补充
问题从“必须亲自踩过所有坑”推进到“如何让错误暴露”。***仍要求有理解基础,风险识别本身未被自动解决。
不能把99/1当统计;不能把“提出机制”当成“机制已可靠”。
继续追踪这个问题
工作方法被归纳为五件事
先拿结果、控制目标与边界、外置上下文、验证优先、消除重复摩擦。夜河明确说已收藏。
开始检验流程本身,而不只检查结果
给规范而非模板、质疑流程假设、区分路径变化与结果偏差,集中出现在这段讨论里。
还有哪些条件没说完?
自动化检查也会漏错,尤其当生成和检查共享错误假设时。减少人工介入只是一个指标,不能替代结果可靠性的证据。
你的验证机制会不会只检查 AI 已经擅长展示的东西,却看不到最危险的失败?
接着看
会答题,为什么还做不完整件事?
任务一长,保持目标、发现走偏和最终交付都成了考验。
先跑一版,怎样才不只是反复重来?
每次尝试都要带回能改变下一步的新证据。
AI 做错了,你能看出来吗?
检查机制能发现错误,但谁来保证检查本身没漏掉问题?