Prophecis 是微众银行自研的一站式机器学习平台,集成多种开源机器学习框架,具备机器学习计算集群的多租户管理能力,提供生产环境全栈化容器部署与管理服务。
图1 Prophecis整体架构
Prophecis主要包含5个关键服务:
Prophecis Machine Learning Flow:机器学习分布式建模工具,具备单机和分布式模式模型训练能力,支持Tensorflow、Pytorch、xgboost等多种机器学习框架,支持从机器学习建模到部署的完整Pipeline;
Prophecis MLLabis:机器学习开发探索工具,提供开发探索服务,是一款基于Jupyter Lab的在线IDE,同时支持GPU及Hadoop集群的机器学习建模任务,支持Python、R、Julia多种语言,集成Debug、TensorBoard多种插件;
Prophecis Model Factory:机器学习模型工厂,提供机器学习模型存储、模型部署测试、模型管理等服务;
Prophecis Data Factory:机器学习数据工厂,提供特征工程工具、数据标注工具和物料管理等服务;
Prophecis Application Factory:机器学习应用工厂,由微众银行大数据平台团队和AI部门联合共建,基于青云(QingCloud)开源的Kubesphere定制开发,提供CI/CD和DevOps工具,GPU集群的监控及告警能力。
图2 Prophecis功能特色
全生命周期的机器学习体验:Prophecis的 MLFlow 通过 AppJoint 可以接入到 DataSphere Stdudio 的工作流中,支持从数据上传、数据预处理、特征工程、模型训练、模型评估到模型发布的机器学习全流程;
图3 Prophecis对接DSS功能展示
一键式的模型部署服务:Prophecis MF 支持将Prophecis Machine Learning Flow、Prophecis MLLabis 生成的训练模型一键式发布为 Restful API 或者 RPC 接口,实现模型到业务的无缝衔接;
机器学习应用部署、运维、实验的综合管理平台:基于社区开源方案定制,提供完整的、可靠的、高度灵活的企业级机器学习应用发布、监控、服务治理、日志收集和查询等管理工具,全方位实现对机器学习应用的管控,满足企业对于机器学习应用在线上生产环境的所有工作要求。
快速部署Prophecis服务,请参考 Quick Start Guide 文档。
关于配置解释,可参考Quick Start Guide 中的关键配置解释部分。
非常欢迎广大的社区伙伴给我们贡献新代码!
平台列表 Google Cloud AI Cloud Machine Learning Engine 托管的机器学习服务 AutoML 自动化机器学习 机器学习API,如 Jobs, Video Intelligence, Vision, Speech, Natual Language 以及 Tanslation 等 Amazon Machine Learning SageMaker 自动化机器学
面试时长:40min 面试内容: * 自我介绍 * 简历挨着介绍 * modelart * 推理框架 * 精度影响因素 * 算子开发流程 * 手撕:阻塞队列
8月15日 一面(40分钟) 没有笔试,测评做完直达面试,两个面试官,没有手撕。 自我介绍 实习经历 大模型多卡流水并行的实现 资源利用率怎么评估 还有没有其他相关的优化方案 项目经历 八股 多态的概念和原理->虚函数->虚函数指针->多次继承的派生类的虚函数指针和虚函数表的情况 模板类用的多吗->vector在push_back会有什么操作 cpp多线程 你觉得做机器学习平台开发要哪些知识? 你
记录一下字节处女面 2024.07.23 1. 自我介绍 2. 简历从上到下拷打(30 min) 3. os中进程调度方式 4. os中进程的元信息放置在哪里 5. docker中unionFS、namespace、cgroup 6. cgroup中如何在进程调度中体现 7. 介绍一个k8s中你最熟悉的组件(kube-scheduler) 8. 做题:二叉树两个节点的最短边 总体回答的一般般,项目
这本书最初是为北京亚嵌教育研究中心的嵌入式 Linux 系统工程师就业班课程量身定做的教材之一。
大多数人听到“机器学习”,往往会在脑海中勾勒出一个机器人:一个可靠的管家,或是一个可怕的终结者,这取决于你问的是谁。但是机器学习并不是未来的幻想,它已经来到我们身边了。事实上,一些特定领域已经应用机器学习几十年了,比如光学字符识别 (Optical Character Recognition,OCR)。但是直到 1990 年代,第一个影响了数亿人的机器学习应用才真正成熟,它就是垃圾邮件过滤器(sp
大多数人听到“机器学习”,往往会在脑海中勾勒出一个机器人:一个可靠的管家,或是一个可怕的终结者,这取决于你问的是谁。但是机器学习并不是未来的幻想,它已经来到我们身边了。事实上,一些特定领域已经应用机器学习几十年了,比如光学字符识别 (Optical Character Recognition,OCR)。但是直到 1990 年代,第一个影响了数亿人的机器学习应用才真正成熟,它就是垃圾邮件过滤器(sp
1. 项目相关,问了很多 2. 数据不平衡问题怎么解决,分类指标,多分类指标是怎么计算的 3. 集成学习了解吗 4. 一般怎么调参; 5. 超参和参数的区别 6. 一般使用python哪些包?