便宜的模型,真的省钱吗?
为什么这样整理
便宜了几块,可能多忙一小时
北鱼说过“浪费时间也是一种苦”;在另一段讨论里,他抱怨加上复杂配置后,修一个 Bug 可能就要数小时。Recover 也遇到花了钱还没修好、换个模型很快解决的情况。大家真正要算的,不只是会员多少钱,而是把一次任务做成,总共付出了什么。[50][42][74][75]
账单之外还有什么
除了调用费用,还要算等待、检查、补救、切换工具,以及错误造成的损失。这只是帮助思考的成本清单,不是精确的财务公式。临诗予说,原来写代码的时间有一部分变成了审代码的时间:机器写得快,不代表人忙得少。[43]
什么时候该换工具
哪些任务可以用便宜模型,什么时候该升级,反复失败到什么程度应当停下来,都要看实际记录。为了省一次调用而多返工一小时,不一定划算;反过来,一个简单任务也不一定值得用最贵的模型。不能把“继续试”默认当成唯一办法。
聊天中的花费和耗时均是个案自述,不能当作跨模型的性价比排名;“重试更多会更好”也没有被原文证明。
还可以继续问
一个任务反复失败几次以后,应该换模型、换方法,还是先重查目标?
核对早期整理措辞
从“便宜”到“白忙一场”
北鱼在一次工具体验讨论中说:“浪费时间也是一种苦。”另一次谈到复杂配置时,又抱怨修一个 Bug 可能耗时数小时。Recover 则描述,某模型花了钱仍没修好,换一条路径很快解决。这里的共同问题不是会员价,而是一次成功交付到底花了多少。[50][42][74][75]
成本不只在账单里
可以把总成本理解为:实际调用支出、等待时间、人的核验与修复时间、切换工具成本,以及错误带来的损失。这是整理模型,不是财务计量公式。临诗予提到写代码的时间转成了审代码的时间,正好说明“机器更快”和“总工时更少”不能直接画等号。[43]
由此得到的工作原则
低成本模型适合哪些任务、何时升级模型、何时停止重复尝试,都应该由真实任务记录支持。省下一次调用却多花一小时修复,不一定是节省;反过来,简单任务也不必总用最昂贵的工具。