NVIDIA NIM 美国 NVIDIA NIM 把模型封装为容器化微服务,1 个镜像即可启动标准化推理接口,基于 TensorRT 与 TensorRT-LLM 优化可把吞吐提升数倍,支持私有化部署并覆盖文本图像语音与多模态 4 类模型;不足是需自备 GPU、部分模型需授权、上线流程较重。