没有经历过工程问题,可能无法判断AI架构方案。
原话 122你怎么知道这次属于“99”还是“1”?
发现危险任务的能力,能否被验证机制替代?
讨论走到了哪里
问题从“必须亲自踩过所有坑”推进到“如何让错误暴露”。***仍要求有理解基础,风险识别本身未被自动解决。
不能把99/1当统计;不能把“提出机制”当成“机制已可靠”。
原话 126按时间核对原话
放回话题里看
AI 做错了,你能看出来吗?
检查机制能发现错误,但谁来保证检查本身没漏掉问题?
少盯 AI,怎么知道它做对了?
把精力放在验收与证据上,检查本身也需要预算。