大模型推理成本计算器
「用API还是自己部署」是每个AI项目立项都要回答的问题，答案其实是一道算术题。填入调用量，看清楚两条路的月成本差多少、多少调用量时值得自己买卡。
纯浏览器本地计算，数据不上传免注册 · 免费使用3档模型价格 · 4类场景预设
这些数字怎么算的
预设参数以2026年市场行情为参考，均可自行修改
- API月成本 = 日调用量 × (输入tokens ÷ 100万 × 输入单价 + 输出tokens ÷ 100万 × 输出单价) × 30天。模型单价以2026年国产主流模型公开定价档位中值为预设。
- 私有化月均成本 = 一次性投入 ÷ 36个月（硬件折旧）+ 月运维费用。
- 盈亏平衡日调用量 = 私有化日均成本 ÷ 单次API调用成本，未考虑并发峰值与冗余算力。
- 未计入：API方案的限流与网络抖动成本、私有化的机房电力、模型迭代带来的重新适配成本。
- token预设来自交付项目实测均值，不同业务差异可达数倍，请用真实日志校准。
API还是私有化：先算账，再站队
这个问题上的争论大多靠立场，不靠数字。其实它有个清晰的数学结构：API的成本随调用量线性增长，私有化的成本是「一次性投入 + 缓慢的运维开销」。两条线一定有个交点——调用量低于交点，API明显划算；高于交点，私有化每月都在帮你省钱。上面工具算的就是这个交点在你业务里的位置。
但数字之外还有三个常被忽略的变量：数据敏感度（客户数据或商业机密不允许出内网时，成本不是首要问题）；并发峰值（私有化硬件要按峰值而不是均值配置，这一项可能让交点翻倍）；模型迭代速度（旗舰模型一年升两级，自建的「旗舰」一年后就是中档，折旧要算得狠一点）。我们在这篇私有化部署与SaaS对比里展开过完整的决策框架。
两个省token的实战技巧
一是分级路由：大部分请求其实用轻量档就够，只有复杂问题才升级到旗舰档，混合路由能省40%-60%的成本——这也是AI客服项目的标准做法。二是控制上下文：知识库问答的成本大头在输入token，检索策略从「多塞几段」优化成「精准命中」，输入量减半就是成本减半。RAG准确率与成本的平衡，参考这篇RAG准确率优化。
如果你正处在选型阶段，把真实的调用日志发给我们，按你的数据出一份API与私有化的逐项对比方案：联系我们，或电话 18616880101。
常见问题
模型单价是按什么标准填的？
预设价格按2026年国产主流大模型公开定价的档位中值填写（每百万tokens）：轻量档输入0.5元/输出2元，中档2元/8元，旗舰档8元/32元。各家定价调整频繁，请以你实际选用模型的官方价格页为准，直接改输入框里的数字即可。
场景预设的token数是怎么来的？
来自我们交付项目里的实测均值：AI客服挂知识库后单次输入约3000 tokens（含检索到的上下文）、输出约500；文档批处理的输入普遍在8000以上。你的实际值可能差数倍，建议抓一天真实日志取平均后填入。
私有化部署的费用怎么算？
轻量档按消费级多卡工作站整机（含部署实施）约30万元、月运维1.5万元计；旗舰档按8卡服务器集群约150万元、月运维4万元（含工程师人力分摊）。硬件按36个月折旧摊到每月。未含机房电力与冗余备份费用。
为什么不用GPU时租来对比？
GPU时租适合短期峰值和POC，长期跑生产服务时租成本通常高于包机自建。如果你的场景是临时性批量处理，把时租价格折算进「私有化一次性投入」栏也可以近似比较。