怎么给业务选一个大模型：开源与闭源、参数、上下文、价格的取舍
选大模型没有"最好的"，只有"最合适的"。同样的需求，用对模型能把成本降一个量级，用错则既慢又贵。本文从开源/闭源、参数规模、上下文长度、价格、延迟五个维度拆解取舍，最后给出一张可落地的对比表和一个真实预算示例。想系统看模型能力怎么比较，可参考AI 相关分类下的评测文章。
一、先分清开源还是闭源
- 闭源模型（GPT、Claude、Gemini）：效果好、省心，通过OpenAI API 平台等官方接口调用，按用量付费，但数据要经过对方服务器，成本随调用量线性上涨。
- 开源模型（Llama、Qwen、DeepSeek 等）：可私有化部署，数据不出门，长线成本可控，但需要自己准备推理环境。入门部署可以看Ollama 本地部署教程，模型仓库可参考Hugging Face 使用指南。
一句话：要省事选闭源，要数据可控和长线省钱选开源。另外，闭源厂商普遍提供限流、细粒度计费和托管服务，开源方案则要自己操心并发、可用性和升级——这部分隐性成本常被忽略。
二、参数规模：不是越大越好
参数（Parameter）是模型里可调节的权重数量，常以 B（Billion，十亿）为单位。7B 是小模型，70B 是中型，数百 B 属于大模型。规律是：参数越大，通常越聪明，但推理越慢、越吃显存、越贵。
对绝大多数业务，不必追求最大。客服、摘要、分类等任务，7B-70B 的开源模型或闭源的小型号往往已经够用；只有复杂的推理、代码生成才需要顶尖大模型。评测方法可以参考AI 模型评测指南。
三、上下文、价格与延迟：三个预算维度
- 上下文长度：决定单次能塞进多少内容。处理长文档、长对话选 128K 以上的；短问答用 8K-32K 就够，别为用不到的窗口多花钱。
- 价格：不同模型差价可达数十倍。同样 100 万 Token，入门模型可能几美元，旗舰模型可达几十美元。先拿真实业务数据估算，再决定。补充：很多接口对输入和输出分别计价，输出通常更贵；生成大量长文本的任务，成本估算要以输出量为主。
- 延迟：首字响应时间（TTFT）和每秒输出速度直接影响体验。客服机器人等交互场景对延迟敏感，优先选快的模型；离线批处理则无所谓。
四、选型对比表
| 维度 | 开源小模型 | 闭源旗舰 | 闭源中小型 |
|---|---|---|---|
| 典型参数 | 7B-32B | 数百 B | 数十 B |
| 推理质量 | 够用 | 最高 | 良好 |
| 单次成本 | 硬件均摊 | 高 | 中低 |
| 延迟 | 看硬件 | 中高 | 低 |
| 数据安全 | 私有化可控 | 需评估合规 | 需评估合规 |
| 适合场景 | 数据敏感/长线省钱 | 复杂推理、代码 | 客服、摘要、日常问答 |
五、一个真实选型示例
假设你做一个面向中小商家的 AI 客服，日均 1 万次对话，单次约 1,000 Token，则每月约消耗 3 亿 Token。同样这个需求，三种方案的成本差异很大：
| 方案 | 月 Token | 单价（每百万 Token） | 月成本 | 说明 |
|---|---|---|---|---|
| 闭源小型 | 3 亿 | $1.5 | 约 $450 | 够用、省心 |
| 闭源旗舰 | 3 亿 | $15 | 约 $4,500 | 质量最高，贵 10 倍 |
| 开源 7B 自部署 | 3 亿 | 硬件均摊 | 约 $50-150/月 | 数据可控 |
同样需求，旗舰方案成本是小型方案的 10 倍，但体验差异可能只有一点点。先用小型方案上线、留好模型路由接口，等数据证明需要时再升级，是最省钱的路径。
六、按场景快速决策
- 客服/内容摘要/分类：闭源中小型或 7B-32B 开源模型，成本最低。
- 代码生成/复杂推理：优先闭源旗舰；预算紧可先评测开源 70B 档。
- 处理敏感数据：直接走开源私有化部署。
- 高频 API 调用：算清每百万 Token 单价，必要时用批处理降成本，参考AI 模型部署指南。
七、常见问题（FAQ）
问：开源模型一定比闭源差吗？
不一定。开源社区迭代很快，部分开源模型在中文、性价比上已不输闭源中小型号，差距主要在顶尖推理能力。
问：可以同时接好几个模型吗？
可以。很多项目会做"模型路由"：简单问题走便宜模型，难问题走旗舰模型，综合成本大幅下降。
问：想自己部署开源模型，要什么硬件？
7B 模型量化后约需 8-16GB 显存，可参考GPU 云服务器对比挑选算力。
问：选型应该先看价格还是先看质量？
先用真实业务样例同时评测两三个候选，跑一遍你真正要做的事（客服回复、摘要、代码），再算成本。评测方法见AI 模型评测指南，结论往往比看参数和价格更可靠。