Prophecis

一站式机器学习平台
授权协议 Apache-2.0
开发语言 Google Go JavaScript HTML/CSS
所属分类 神经网络/人工智能、 机器学习/深度学习
软件类型 开源软件
地区 国产
投 递 者 俞博涛
操作系统 跨平台
开源组织 微众银行
适用人群 未知
 软件概览

Prophecis 是微众银行自研的一站式机器学习平台,集成多种开源机器学习框架,具备机器学习计算集群的多租户管理能力,提供生产环境全栈化容器部署与管理服务。

Architecture

  • 整体架构

    图1 Prophecis整体架构

    Prophecis主要包含5个关键服务:

    • Prophecis Machine Learning Flow:机器学习分布式建模工具,具备单机和分布式模式模型训练能力,支持Tensorflow、Pytorch、xgboost等多种机器学习框架,支持从机器学习建模到部署的完整Pipeline;

    • Prophecis MLLabis:机器学习开发探索工具,提供开发探索服务,是一款基于Jupyter Lab的在线IDE,同时支持GPU及Hadoop集群的机器学习建模任务,支持Python、R、Julia多种语言,集成Debug、TensorBoard多种插件;

    • Prophecis Model Factory:机器学习模型工厂,提供机器学习模型存储、模型部署测试、模型管理等服务;

    • Prophecis Data Factory:机器学习数据工厂,提供特征工程工具、数据标注工具和物料管理等服务;

    • Prophecis Application Factory:机器学习应用工厂,由微众银行大数据平台团队和AI部门联合共建,基于青云(QingCloud)开源的Kubesphere定制开发,提供CI/CD和DevOps工具,GPU集群的监控及告警能力。

  • 功能特色

     

    图2 Prophecis功能特色

     

  • 全生命周期的机器学习体验:Prophecis的 MLFlow 通过 AppJoint 可以接入到 DataSphere Stdudio 的工作流中,支持从数据上传、数据预处理、特征工程、模型训练、模型评估到模型发布的机器学习全流程;

    图3 Prophecis对接DSS功能展示

     

  • 一键式的模型部署服务:Prophecis MF 支持将Prophecis Machine Learning Flow、Prophecis MLLabis 生成的训练模型一键式发布为 Restful API 或者 RPC 接口,实现模型到业务的无缝衔接;

  • 机器学习应用部署、运维、实验的综合管理平台:基于社区开源方案定制,提供完整的、可靠的、高度灵活的企业级机器学习应用发布、监控、服务治理、日志收集和查询等管理工具,全方位实现对机器学习应用的管控,满足企业对于机器学习应用在线上生产环境的所有工作要求。

Quick Start Guide

Developing

Roadmap

  • 关于Prophecis后续的Roadmap,可查看 Roadmap 文档,欢迎大家持续关注!

Contributing

非常欢迎广大的社区伙伴给我们贡献新代码!

 相关资料
  • 平台列表 Google Cloud AI Cloud Machine Learning Engine 托管的机器学习服务 AutoML 自动化机器学习 机器学习API,如 Jobs, Video Intelligence, Vision, Speech, Natual Language 以及 Tanslation 等 Amazon Machine Learning SageMaker 自动化机器学

  • 面试时长:40min 面试内容: * 自我介绍 * 简历挨着介绍 * modelart * 推理框架 * 精度影响因素 * 算子开发流程 * 手撕:阻塞队列

  • 8月15日 一面(40分钟) 没有笔试,测评做完直达面试,两个面试官,没有手撕。 自我介绍 实习经历 大模型多卡流水并行的实现 资源利用率怎么评估 还有没有其他相关的优化方案 项目经历 八股 多态的概念和原理->虚函数->虚函数指针->多次继承的派生类的虚函数指针和虚函数表的情况 模板类用的多吗->vector在push_back会有什么操作 cpp多线程 你觉得做机器学习平台开发要哪些知识? 你

  • 记录一下字节处女面 2024.07.23 1. 自我介绍 2. 简历从上到下拷打(30 min) 3. os中进程调度方式 4. os中进程的元信息放置在哪里 5. docker中unionFS、namespace、cgroup 6. cgroup中如何在进程调度中体现 7. 介绍一个k8s中你最熟悉的组件(kube-scheduler) 8. 做题:二叉树两个节点的最短边 总体回答的一般般,项目

  • 这本书最初是为北京亚嵌教育研究中心的嵌入式 Linux 系统工程师就业班课程量身定做的教材之一。

  • 大多数人听到“机器学习”,往往会在脑海中勾勒出一个机器人:一个可靠的管家,或是一个可怕的终结者,这取决于你问的是谁。但是机器学习并不是未来的幻想,它已经来到我们身边了。事实上,一些特定领域已经应用机器学习几十年了,比如光学字符识别 (Optical Character Recognition,OCR)。但是直到 1990 年代,第一个影响了数亿人的机器学习应用才真正成熟,它就是垃圾邮件过滤器(sp

  • 大多数人听到“机器学习”,往往会在脑海中勾勒出一个机器人:一个可靠的管家,或是一个可怕的终结者,这取决于你问的是谁。但是机器学习并不是未来的幻想,它已经来到我们身边了。事实上,一些特定领域已经应用机器学习几十年了,比如光学字符识别 (Optical Character Recognition,OCR)。但是直到 1990 年代,第一个影响了数亿人的机器学习应用才真正成熟,它就是垃圾邮件过滤器(sp

  • 1. 项目相关,问了很多 2. 数据不平衡问题怎么解决,分类指标,多分类指标是怎么计算的 3. 集成学习了解吗 4. 一般怎么调参; 5. 超参和参数的区别 6. 一般使用python哪些包?