一站式机器学习平台Prophecis

[paoga5008]

Prophecis 是微众银行自研的一站式机器学习平台，集成多种开源机器学习框架，具备机器学习计算集群的多租户管理能力，提供生产环境全栈化容器部署与管理服务。

Prophecis主要包含5个关键服务：Prophecis Machine Learning Flow：机器学习分布式建模工具，具备单机和分布式模式模型训练能力，支持Tensorflow、Pytorch、xgboost等多种机器学习框架，支持从机器学习建模到部署的完整Pipeline；

Prophecis MLLabis：机器学习开发探索工具，提供开发探索服务，是一款基于Jupyter Lab的在线IDE，同时支持GPU及Hadoop集群的机器学习建模任务，支持Python、R、Julia多种语言，集成Debug、TensorBoard多种插件；

Prophecis Model Factory：机器学习模型工厂，提供机器学习模型存储、模型部署测试、模型管理等服务；

Prophecis Data Factory：机器学习数据工厂，提供特征工程工具、数据标注工具和物料管理等服务；

Prophecis Application Factory：机器学习应用工厂，由微众银行大数据平台团队和AI部门联合共建，基于青云(QingCloud)开源的Kubesphere定制开发，提供CI/CD和DevOps工具，GPU集群的监控及告警能力。

全生命周期的机器学习体验：Prophecis的 MLFlow 通过 AppJoint 可以接入到 DataSphere Stdudio 的工作流中，支持从数据上传、数据预处理、特征工程、模型训练、模型评估到模型发布的机器学习全流程。

机器学习应用部署、运维、实验的综合管理平台：基于社区开源方案定制，提供完整的、可靠的、高度灵活的企业级机器学习应用发布、监控、服务治理、日志收集和查询等管理工具，全方位实现对机器学习应用的管控，满足企业对于机器学习应用在线上生产环境的所有工作要求。

一个设计完善的机器学习平台可以在 AI 应用全生命周期的开发和管理过程起到作用。具体而言，设计完善的机器学习平台具备六大能力：一是统一的存储空间，支持多数据源导入。二是 Pipeline 可视化工作流管理与执行，支持数据科学家从数据建模阶段开始的可视化管理，节省成本，快速体现数据科学家的价值；三是基于容器的计算资源分配和软件库安装，支持 TensorFlow、PyTorch 等各种框架；四是支持 GPU、TPU、CPU 框架和异构计算硬件和框架；五是模型管理，支持新手快速上手，无需通过自己实现原始算法，只需要理解算法原理就可以通过调参实现；六是 AI Serving，模型一键封装为 API，一键部署。

相对重要的部分是数据接入、开发环境、分布式训练以及模型管理，其他环节都可以慢慢加进来，但这四个是基础组件。

项目地址： https://gitee.com/WeBank/Prophecis