问“训练一个行业模型多少钱”,得到的报价可能差两个数量级。这不全是报价方水分大,而是“训练”这个词底下装的东西太多:有人指拿几千条问答对跑一轮LoRA,有人指清洗几百万字语料后做完整SFT再加私有化部署。想把预算问明白,先把它拆成五块。
第一块:数据工程,最贵也最值
训练效果的上限由数据决定,成本大头也在这里。原始语料——客服记录、工单、内部文档、行业问答——几乎从来不能直接用:要脱敏、去重、清洗格式,再把散落的知识改写成问答对,术语和表达风格要统一。一份高质量的标注规范,改三稿很正常。
以2026年市场行情为参考,数据工程通常占定制项目总成本的四到六成,几千到几万不等,取决于语料起点有多乱。这笔钱省不得:数据潦草的训练,等于把噪声背进了模型权重里,后面怎么调都调不回来。很多客户自己的团队参与整理,能把这块成本压掉一半——前提是有人把标注规范和示例搭好。
第二块:算力,比想象中便宜
LoRA微调对显卡要求不高。以2026年市场行情为参考,单张消费级显卡每小时一两元到几元,一轮几千条数据的训练几小时就跑完,整个项目的算力开销通常几百元封顶。完整SFT要看基座规模,中大型模型需要多张专业卡,算力成本几千到几万,但多数企业场景根本走不到这一步。
算力我们建议用客户名下的云账号按小时租,不买卡。买卡只在大调用量跑满回收期时才划算,这笔账可以用大模型成本计算器算。
第三块:训练人力与迭代轮次
工程师的时间是隐形成本:搭环境、跑基线、调参数、每轮训练后跑评测集对比。LoRA项目一到三周,完整SFT一到两个月。省钱的办法不是压缩迭代轮次,而是训练前把评测集定好——没有评测集的迭代没有终点,有评测集的迭代两三轮就该收敛。
第四块:部署与推理
训练完的模型要跑起来才算交付。私有化部署涉及推理框架选型、显存规划、并发压测;要压成本就走蒸馏和量化,把模型塞进小显卡,推理成本能降一个量级。推理成本的结构在AI推理成本里拆过,部署完的月支出才是长期账。
第五块:评测集建设
评测集是从真实业务问题里抽的一套考卷,训练前定基线,每轮训练用它打分。成本几千到一万,看似额外开支,实际是整个项目的仲裁机制——效果好不好由它说了算,甲乙双方都不用靠感觉吵架。它是一次性投入,后续每次迭代复用。
档位参考
把五块合起来,以2026年市场行情为参考:LoRA微调加部署通常数千到一万多,适合“模型要会说行话、按固定格式输出”这类场景;完整SFT数万到十几万,适合语料充足、行业表达需要重训的场景。报价远低于这个区间的,多半没做数据工程和评测,效果全凭运气。
三种不值得训的情况
一是知识经常变。产品手册、政策法规每月都更新的知识,用RAG管更新、微调管表达,硬要全部训进权重,每次更新都要重训,成本是无底洞。
二是数据凑不出几千条。数据不足时正确动作是先做数据积累或干脆用RAG,硬训出来的模型只会一本正经地胡说。
三是问题定义不清。“让AI更聪明一点”这种目标训不出东西。能写成“输入什么、输出什么、答对的标准是什么”的任务,才值得进训练流程。
选型判断的方法在微调还是RAG里写过,数据安全边界的评估可以看私有化与SaaS的取舍。如果拿不准,大模型定制的评估阶段会给一个明确结论——包括“你这个场景不用训”这种我们最常给出的结论。训练不是越贵越好的事,把五块成本摊开看,哪块该花哪块该省,一目了然。