AI 成本别只算 Token:一次合格交付要花多少
以一个假设场景为例:两个模型完成同一份文档初稿,便宜模型的调用费只有另一款的一半。但它需要更多人工修改、补充资料和重新生成,最终交付反而更贵。企业评估 AI 文档成本时,分母应该靠近实际业务结果,例如一份被负责人接受的交付,而不只是一次模型返回。
先定义“合格交付”
对于会议纪要,合格可能意味着负责人确认事项和责任人可用;对于客户方案,可能需要业务审阅通过并进入正式流程。不同任务的标准应分别定义。若把所有生成文本都算作完成,会让产量看起来很高,却无法说明有多少真正被采用。这里讨论成本口径,不替代内容质量的专业审阅。
| 成本项目 | 建议记录方式 |
|---|---|
| 模型调用 | 关联到任务的实际计量与费用 |
| 重复生成与失败 | 保留次数和费用,不从分子剔除 |
| 人工审核与修订 | 记录实际投入时间及统一换算口径 |
| 平台和维护 | 按事先约定的方法分摊 |
| 未采用产物 | 计入消耗,单独标记结果 |
用小样本比较完整流程
可以选取难度相近的真实任务类型,使用经过批准的样本资料,分别记录从发起到接受的过程。模型费用取自实际计量,人工时间由参与人记录,未知成本保留未知。不要把估算的人员时间包装成财务实付,也不要把一次试点结果外推为全年节省。
模型网关相关文章强调按请求和业务主体归集费用,LiteLLM 文档也提供不同预算维度。它们能帮助建立调用账,但完整交付成本还需要业务系统中的接受状态与人工投入记录。网关显示费用降低,只能证明该口径下的模型支出变化,不能独自证明业务总成本下降。
一个可复用的核算公式
可以把单位合格交付成本写为:同批任务的模型、平台分摊与人工处理成本之和,除以被接受的交付数量。若没有合格交付,单位值应标为无法计算,不能填零。比较时同时列出任务数、采用数、周期和成本边界,让别人知道分母是什么。
例如,一组任务生成十份初稿、只接受六份,失败和弃用的调用仍属于这组试验成本。若另一个方案接受率更高但处理更慢,团队需要结合业务时效选择,而不是只按单价排序。任何示例数字都应明确是演示口径,正式报告使用自己的观测数据。
把结果用于改进,而不是简单削预算
成本较高可能来自资料准备不足、任务范围过大、模型不适配或审核要求不同。先拆解主要消耗,再选择缩小任务、改进输入或调整路由。不要把人工审核当成可以随意删除的成本项,尤其是直接影响客户或经营决策的内容。
当业务负责人能解释每份交付为什么被接受,财务能理解成本边界,技术团队能追溯调用,成本比较才有决策价值。本文提供核算方法,不承诺使用 AI 必然节省,也不把某个供应商的标价视为当前采购价格。
在企业文档中验证
如果要把本文方法用于企业文档,可预约演示,结合实际资料核对协作、权限与集成方式。
需要在自己的环境中验证时,可先了解私有化部署方案,再确定试用范围与验收要求。