TAG COLLECTION

推理加速 资源聚合

汇总与推理加速相关的服务商、新闻资讯与公司资料,帮助您快速比较产品、服务与行业动态。

3 服务商 0 新闻资讯 0 公司

服务商

3 条结果

Groq

美国

Groq 以自研 LPU 芯片提供超低延迟推理云,托管主流开源权重模型并兼容 OpenAI 风格接口,迁移通常只需改 2 处配置,提供免费层与按 Token 计费付费层,适合语音与实时对话场景;不足是缺少闭源旗舰模型、容量与接入受商务与网络约束。

硅基流动

中国

硅基流动(SiliconCloud)提供开源模型托管 API,覆盖 DeepSeek、Qwen、GLM 等 10 多个系列,接口兼容 OpenAI 风格、迁移只需改 2 处配置,底层适配国产算力并支持流式、函数调用与结构化输出 3 类能力;不足是缺少闭源旗舰、热门模型可能排队。

SambaNova

美国

SambaNova 以自研 RDU 芯片提供低延迟推理云,SambaNova Cloud 暴露兼容 OpenAI 风格的接口、迁移只需替换 1 处 base_url,托管主流开源权重模型并提供企业私有化部署与长上下文支持;不足是公开定价有限、私有化投入较高。

相关标签