当前位置: 首页 > 软件库 > 云计算 > 云原生 >

XUANWU

云原生数据底座
授权协议 未知
开发语言
所属分类 云计算、 云原生
软件类型 开源软件
地区 不详
投 递 者 陶树
操作系统 未知
开源组织
适用人群 未知
 软件概览

玄武(XUANWU)是国产化云原生数据底座开源项目,包含低代码开发平台白泽(Byzer)、向量化执行引擎 Gluten、资源和服务管理控制台 XUANWU Manager 三大模块。

继 Hadoop 之后,云原生的 Kubernetes 技术上将形成新一代大数据底座,以 Spark 为统一的计算引擎,以湖仓为统一的存储核心,大幅简化数据栈复杂度,上建低代码、低门槛的数据应用,是未来的大势所趋。 经过以金融生产场景的初步测评,云原生数据底座可以让:

  • 整体 IT 资源利用率提升 20-50%,受益于底层的计算统一和存储统一,资源能在企业更大范围内灵活调配
  • 整体计算性能提升约 20%,受益于存算分离架构,计算任务能更有弹性的分布到更多计算节点高速完成
  • 系统运维成本大幅降低,受益于理论上无限的扩容能力,和整合多系统到统一底座的能力
  • 实现国产化、自主可控的技术换代

Kyligence 云原生数据底座能做什么?

Kyligence 云原生数据底座简称 KYLIGENCE XUANWU,它是一个开源套件,旨在提供一个快速体验和验证新技术的平台,推动国产化云原生技术的交流和发展。

  • 快速安装,一行命令完成 Kubernetes 上的安装,30 分钟开始体验云原生的数据能力
  • 一键运行 TPC-H 基准测试,云原生的 SparkSQL 相比 Hadoop 提速约 20%
  • 一键体验弹性伸缩,快速响应业务变化,精准应对潮汐峰谷
  • 在低代码平台上体验 AI 机器学习,从数据准备、模型训练、到模型发布的全链路

后续展望

  • 下一代 Native Spark Engine 核心升级,性能全面提升约 2.5 倍,预计能整体节省 IT 成本约 40%!
  • 自建 Serverless 计算集群,实现企业内的无限扩容 和 pay-as-you-go

alt text

Quick Start

1. 快速部署

1.1 部署 Xuanwu Manager 步骤

Xuanwu Manager 提供对资源、作业和服务的管理与观测能力,它是数据服务运行的基础。

1.1.1 获取安装脚本

wget --no-check-certificate https://s3.cn-north-1.amazonaws.com.cn/public.kyligence.io/xuanwu/release/alpha20221230/install_opensource.sh

1.1.2 执行安装脚本

bash install_opensource.sh

正确部署后,使用浏览器即可访问 Xuanwu Manager 各项功能,目前支持两种身份登录:

  • 租户管理员:xuanwu/ADMIN/Xuanwu@319(默认)
  • 平台管理员:ADMIN/KYLIN(默认)

1.2 部署数据服务步骤

1.2.1 获取安装脚本

# 获取安装包并解压
wget --no-check-certificate https://s3.cn-north-1.amazonaws.com.cn/public.kyligence.io/xuanwu-services/release/alpha20221230_opensource.tar.gz

1.2.2 配置对象存储

请修改 xuanwu-1.0-alpha-part-1/values.yaml

# 对象存储
storage:
  type: obs # 华为填写 obs,阿里填写 oss
  bucket: https://mybucket.obs.cn-east-3.myhuaweicloud.com # bucket 地址(obs 为例)
  accessKey: yourAccessKey
  secretKey: yourSecretKey

1.2.3 配置 RSS

为提高存算分离架构下计算引擎执行稳定性,推荐部署 RSS 服务,请将 RSS Master 地址填入文件 xuanwu-1.0-alpha-part-1/values.yaml ,示例如下:

kyuubi:
  spark:
    rss: # RSS 地址
      - addresses:
        - ip: 10.1.2.146
        ports:
        - port: 9097
          protocol: TCP
      - addresses:
        - ip: 10.1.2.147
        ports:
        - port: 9097
          protocol: TCP
      - addresses:
        - ip: 10.1.2.148
        ports:
        - port: 9097
          protocol: TCP

1.2.4 执行安装脚本

在安装包目录下找到 install.sh 并执行

2. 快速使用

2.1 一行命令,生成 TPC-DS 数据集

进入安装包根目录,执行

kubectl apply -f ./tpcds-setup.yaml

查看数据集生成进度,执行 kubectl get job tpcds-setup -n xuanwu ,当 COMPLETIONS 显示 1/1 表示完成

NAME        COMPLETIONS   DURATION   AGE
tpcds-setup   1/1           33m        48m

2.2 一行命令,运行 TPC-DS 基准测试

进入安装包根目录,执行

kubectl apply -f ./tpcds-run.yaml

查看数据集生成进度,执行 kubectl get job tpcds-run -n xuanwu ,当 COMPLETIONS 显示 1/1 表示完成

NAME        COMPLETIONS   DURATION   AGE
tpcds-run   1/1           33m        48m

查看测试结果,执行 kubectl logs job.batch/tpcds-run -n xuanwu

3. 部署 Byzer

为在低代码平台上体验 AI 机器学习,从数据准备、模型训练、到模型发布的全链路,通过 Xuanwu Manager 的 Web GUI 可以快速部署 Byzer

 相关资料
  • 楼主研一,但是误投了暑期实习,所以顺便就面了 1.在滴滴工作做的内容 2.做短视频后端的背景是什么?为什么要做? 3.这个项目做了哪些东西? 4.关注的表是怎么设计的?关注和被关注者关系存储在一行么?存储在一行又什么问题?不存在一行又有什么问题?(没搞懂什么意思)(回答的不好) 5.项目中rabbitmq用在哪些场景?(关注和点赞) 6.rabbitmq的架构说一下 7.rabbitmq是否有消息

  • 要想搞明云原生的未来,首先我们要弄明白云原生是什么。CNCF给出的定义是: 容器化 微服务 容器可以动态调度 我认为云原生实际上是一种理念或者说是方法论,它包括如下四个方面: 容器化:作为应用包装的载体 持续交付:利用容器的轻便的特性,构建持续集成和持续发布的流水线 DevOps:开发与运维之间的协同,上升到一种文化的层次,能够让应用快速的部署和发布 微服务:这是应用开发的一种理念,将单体应用拆分

  • 主要内容:什么是云原生,云原生的4大组件,如何云原生什么是云原生 技术的变革,一定是思想先行,云原生是一种构建和运行应用程序的方法,是一套技术体系和方法论。云原生(CloudNative)是一个组合词,Cloud+Native。Cloud表示应用程序位于云中,而不是传统的数据中心;Native表示应用程序从设计之初即考虑到云的环境,原生为云而设计,在云上以最佳姿势运行,充分利用和发挥云平台的弹性+分布式优势。Pivotal公司的Matt Stine

  • 现在我们将探索云原生应用架构的几个主要特征,和这些特征是如何解决我们前面提到的使用云原生应用架构的动机。 12因素应用 12因素应用是一系列云原生应用架构的模式集合,最初由Heroku提出。这些模式可以用来说明什么样的应用才是云原生应用。它们关注速度、安全、通过声明式配置扩展、可横向扩展的无状态/无共享进程以及部署环境的整体松耦合。如Cloud Foundry、Heroku和Amazon Elas

  • 云原生是一种应用开发风格,鼓励在持续交付和价值驱动开发领域轻松采用最佳实践。相关的学科是建立12-factor Apps,其中开发实践与交付和运营目标相一致,例如通过使用声明式编程和管理和监控。Spring Cloud以多种具体方式促进这些开发风格,起点是一组功能,分布式系统中的所有组件都需要或需要时轻松访问。 许多这些功能都由Spring Boot覆盖,我们在Spring Cloud中建立。更多

  • 软件正在吞噬这个世界。—Mark Andreessen 近些年来,在一些长期由领导者支配的行业中,这些领导者的领先地位已经岌岌可危,这都是由以这些行业为核心业务的软件公司造成的。像Square、Uber、Netflix、Airbnb和特斯拉这样的公司能够持续快速增长,并且拥有傲人的市场估值,成为它们所在行业的新领导者。这些创新公司有什么共同点? 快速创新 持续可用的服务 弹性可扩展的Web 以移动