MLflow

服务商概述

MLflow 项目由 Databricks 于 2018 年在美国旧金山发起并开源，现已加入 Linux Foundation 旗下，是全球采用最广泛的开源 AI 平台/MLOps 工具之一。MLflow 以「轻量、开放、可组合」为设计哲学，提供实验追踪（Tracking）、模型管理（Models）、模型注册（Registry）、可复现项目（Projects）与低代码配方（Recipes）五大核心能力，并以框架无关的方式支持 PyTorch、TensorFlow、scikit-learn、XGBoost、JAX 等主流 ML 框架。

MLflow 的核心价值在于让团队渐进式建立 MLOps 规范：可以只用 Tracking 记录实验，也可以叠加 Registry 建立模型治理流程，再通过 Serving 组件把模型一键发布为 REST API。它的部署极其轻量——只需一个数据库和一个存储后端即可运行，个人研究者、学术团队与大型企业都能低成本自建，因此也被视为开源 MLOps 技术栈中的事实标准组件。

核心优势

• 开源免费、生态庞大：Apache 2.0 许可证完全免费，GitHub 星标约 2 万，已被 Kubeflow、SageMaker、Vertex AI 等多个 MLOps 平台作为实验层组件集成。对预算敏感的团队，这是 AI 平台选型中零授权成本的开局选择。
• 实验追踪标准化：Tracking 组件用几行代码即可记录参数、指标、模型产物、代码版本与运行环境，Web UI 支持按参数和指标维度并排对比上百次实验，直接支撑 模型评估的横向对比需求。
• 模型注册与治理：Model Registry 集中管理模型版本与阶段流转（Candidate→Staging→Production），保留审批记录与谱系（Lineage），为模型微调和上线回滚提供规范化路径。
• 框架无关、部署轻量：Python、R、Java 多语言 SDK 与统一 MLmodel 打包格式，不绑定任何框架；只需 1 个数据库 + 1 个存储后端即可运行，生产级部署可借助 云服务器轻松承载。
• 低代码配方与 LLM 支持：MLflow Recipes 提供可复用的训练/微调模板，2.x 起原生支持 LLM 实验跟踪、LangChain 集成与内置评估指标（ROUGE、BLEU 等）。

产品生态

MLflow Tracking

实验追踪组件，负责记录 ML 实验的参数字典、评价指标、模型产物、代码版本和系统环境。提供 Web UI 用于实验对比与筛选，是团队建立实验规范的基础模块，可独立部署单独使用。

MLflow Models

标准化的模型打包与部署格式（MLmodel 清单 + 序列化产物），支持 mlflow models serve 本地启动 REST API，也支持 build-docker 打包为容器镜像，部署到 Kubernetes、ECS、GKE 等容器平台。

MLflow Registry

集中式模型注册中心，管理模型版本、阶段流转与谱系追踪，支持审批流程，是模型治理和上线审计的核心设施，可与 CI/CD 流水线联动实现自动化发布。

MLflow Projects

定义可复现运行的打包规范（MLproject 文件），将代码、环境依赖与入口命令封装为可移植单元，保证同一实验在不同环境下的可复现性。

MLflow Recipes

低代码配方框架，提供面向分类、回归、LLM 微调等场景的开箱即用模板，以配置文件驱动数据加载、特征工程、训练与评估流程，降低 MLOps 落地门槛。

不足之处

• 生产监控能力弱：MLflow 的模型监控功能较为基础，与 SageMaker Model Monitor、Vertex AI Monitoring 或 Kubeflow + Prometheus 方案相比差距明显，生产环境需借助 Evidently、WhyLabs 等专用工具补足。
• 大规模扩展挑战：实验量达到数万次以上时，Tracking Server 的数据库写入与查询会成为瓶颈，需要读写分离、冷热数据分层等优化投入。
• 企业级能力缺失：开源版缺少多租户隔离、RBAC、SSO 与审计日志，有 SOC 2、HIPAA 等合规要求的组织需升级到 Databricks 托管版或自建权限代理层。
• 编排能力有限：MLflow 专注「实验→注册→部署」闭环，不含复杂 DAG 工作流编排，需搭配 Kubeflow Pipelines、Airflow 等外部引擎。

适用场景

• 实验跟踪与模型治理（★★★★★）：为数据科学团队统一记录、对比和追溯实验，是模型评估流程的基础设施，也是建立规范实验体系的第一步。
• 开源 MLOps 基础组件（★★★★★）：与 Kubeflow、Airflow、KServe 等组合成完整开源 MLOps 技术栈，适合自建 AI 基础设施的团队。
• 轻量模型服务（★★★★☆）：低并发推理需求可直接用 MLflow Serving 启动 REST API，无需引入 Kubernetes 或 Serverless 推理平台。
• 教育与研究（★★★★★）：完全免费、部署轻量，高校与科研机构可低成本搭建实验管理平台。
• 团队协作与知识沉淀（★★★★☆）：共享实验记录、模型产物与评估报告，避免「实验在本地跑、结果靠口述」的协作痛点。

价格参考

注：开源版只需承担自身服务器与存储成本；托管版与 Databricks 平台捆绑计费，适合不想自建运维的团队。

常见问题

• MLflow 与 Neptune.ai / Weights & Biases 如何选择？ 三者定位不同：MLflow 是开源平台，强在模型注册、部署与框架无关性；Neptune.ai 和 Weights & Biases 是 SaaS 产品，强在可视化与团队协作。追求数据自主与零成本选 MLflow，重视可视化体验且预算充足可叠加 SaaS 工具互补使用。

• MLflow 部署需要什么基础设施？ 极轻——只需 1 个数据库（SQLite/MySQL/PostgreSQL）和 1 个存储后端（本地/S3/GCS）即可运行，Tracking Server 为无状态服务，可水平扩展。生产环境建议 4 核 8GB 以上的 云服务器，并配置反向代理、HTTPS 与数据库连接池。

• MLflow 支持 LLM 微调吗？ 支持。MLflow 2.x 起原生支持 LLM 实验跟踪（Prompt、Token 用量、生成参数）、LangChain 集成与内置评估指标（ROUGE、BLEU、毒性检测）。微调流程可参考 模型微调教程。

• MLflow 与 Databricks 是什么关系？ MLflow 由 Databricks 于 2018 年创建并开源，现已是 Linux Foundation 项目；Databricks 仍是主要贡献者，其平台上提供深度集成的企业级托管 MLflow。

• MLflow 如何与 Kubeflow 配合？ Kubeflow 负责 Kubernetes 上的工作流编排与模型服务，MLflow 作为实验跟踪与模型注册组件嵌入其中，两者组合可构建完整的开源 MLOps 平台。