TAG COLLECTION

ServerlessGPU 资源聚合

汇总与ServerlessGPU相关的服务商、新闻资讯与公司资料,帮助您快速比较产品、服务与行业动态。

3 服务商 0 新闻资讯 0 公司

服务商

3 条结果

Modal

美国

Modal 用 Python 装饰器获取 GPU,无需编排配置,主打 1 秒级冷启动优化与按秒计费自动缩容到零,内置队列、定时任务与分布式映射可编排批处理流水线,并提供权重缓存与镜像快照;不足是平台抽象强、长驻负载成本高于包年实例。

fal

美国

fal 提供数百个预置生成式模型 API,1 行调用即可出图或出视频,主打 1 秒级实时推理优化,支持自定义模型部署与队列、流式 2 种调用模式,并按 GPU 时长计费可扩容多副本;不足是中文生态较弱、模型清单以海外主流为主。

Baseten

美国

Baseten 用 Truss 打包模型并一键部署,1 份配置可在多种云环境复现,提供自动扩缩与缩容到零、推理性能优化工具与多模型流水线组合,并支持日志指标与一键回滚;不足是私有化需商务沟通、定价对低频负载不够友好。

相关标签