玄武(XUANWU)是国产化云原生数据底座开源项目,包含低代码开发平台白泽(Byzer)、向量化执行引擎 Gluten、资源和服务管理控制台 XUANWU Manager 三大模块。
继 Hadoop 之后,云原生的 Kubernetes 技术上将形成新一代大数据底座,以 Spark 为统一的计算引擎,以湖仓为统一的存储核心,大幅简化数据栈复杂度,上建低代码、低门槛的数据应用,是未来的大势所趋。 经过以金融生产场景的初步测评,云原生数据底座可以让:
Kyligence 云原生数据底座简称 KYLIGENCE XUANWU,它是一个开源套件,旨在提供一个快速体验和验证新技术的平台,推动国产化云原生技术的交流和发展。
Xuanwu Manager 提供对资源、作业和服务的管理与观测能力,它是数据服务运行的基础。
1.1.1 获取安装脚本
wget --no-check-certificate https://s3.cn-north-1.amazonaws.com.cn/public.kyligence.io/xuanwu/release/alpha20221230/install_opensource.sh
1.1.2 执行安装脚本
bash install_opensource.sh
正确部署后,使用浏览器即可访问 Xuanwu Manager 各项功能,目前支持两种身份登录:
1.2.1 获取安装脚本
# 获取安装包并解压
wget --no-check-certificate https://s3.cn-north-1.amazonaws.com.cn/public.kyligence.io/xuanwu-services/release/alpha20221230_opensource.tar.gz
1.2.2 配置对象存储
请修改 xuanwu-1.0-alpha-part-1/values.yaml
# 对象存储 storage: type: obs # 华为填写 obs,阿里填写 oss bucket: https://mybucket.obs.cn-east-3.myhuaweicloud.com # bucket 地址(obs 为例) accessKey: yourAccessKey secretKey: yourSecretKey
1.2.3 配置 RSS
为提高存算分离架构下计算引擎执行稳定性,推荐部署 RSS 服务,请将 RSS Master 地址填入文件 xuanwu-1.0-alpha-part-1/values.yaml
,示例如下:
kyuubi: spark: rss: # RSS 地址 - addresses: - ip: 10.1.2.146 ports: - port: 9097 protocol: TCP - addresses: - ip: 10.1.2.147 ports: - port: 9097 protocol: TCP - addresses: - ip: 10.1.2.148 ports: - port: 9097 protocol: TCP
1.2.4 执行安装脚本
在安装包目录下找到 install.sh
并执行
进入安装包根目录,执行
kubectl apply -f ./tpcds-setup.yaml
查看数据集生成进度,执行 kubectl get job tpcds-setup -n xuanwu
,当 COMPLETIONS 显示 1/1 表示完成
NAME COMPLETIONS DURATION AGE
tpcds-setup 1/1 33m 48m
进入安装包根目录,执行
kubectl apply -f ./tpcds-run.yaml
查看数据集生成进度,执行 kubectl get job tpcds-run -n xuanwu
,当 COMPLETIONS 显示 1/1 表示完成
NAME COMPLETIONS DURATION AGE
tpcds-run 1/1 33m 48m
查看测试结果,执行 kubectl logs job.batch/tpcds-run -n xuanwu
为在低代码平台上体验 AI 机器学习,从数据准备、模型训练、到模型发布的全链路,通过 Xuanwu Manager 的 Web GUI 可以快速部署 Byzer
楼主研一,但是误投了暑期实习,所以顺便就面了 1.在滴滴工作做的内容 2.做短视频后端的背景是什么?为什么要做? 3.这个项目做了哪些东西? 4.关注的表是怎么设计的?关注和被关注者关系存储在一行么?存储在一行又什么问题?不存在一行又有什么问题?(没搞懂什么意思)(回答的不好) 5.项目中rabbitmq用在哪些场景?(关注和点赞) 6.rabbitmq的架构说一下 7.rabbitmq是否有消息
要想搞明云原生的未来,首先我们要弄明白云原生是什么。CNCF给出的定义是: 容器化 微服务 容器可以动态调度 我认为云原生实际上是一种理念或者说是方法论,它包括如下四个方面: 容器化:作为应用包装的载体 持续交付:利用容器的轻便的特性,构建持续集成和持续发布的流水线 DevOps:开发与运维之间的协同,上升到一种文化的层次,能够让应用快速的部署和发布 微服务:这是应用开发的一种理念,将单体应用拆分
主要内容:什么是云原生,云原生的4大组件,如何云原生什么是云原生 技术的变革,一定是思想先行,云原生是一种构建和运行应用程序的方法,是一套技术体系和方法论。云原生(CloudNative)是一个组合词,Cloud+Native。Cloud表示应用程序位于云中,而不是传统的数据中心;Native表示应用程序从设计之初即考虑到云的环境,原生为云而设计,在云上以最佳姿势运行,充分利用和发挥云平台的弹性+分布式优势。Pivotal公司的Matt Stine
现在我们将探索云原生应用架构的几个主要特征,和这些特征是如何解决我们前面提到的使用云原生应用架构的动机。 12因素应用 12因素应用是一系列云原生应用架构的模式集合,最初由Heroku提出。这些模式可以用来说明什么样的应用才是云原生应用。它们关注速度、安全、通过声明式配置扩展、可横向扩展的无状态/无共享进程以及部署环境的整体松耦合。如Cloud Foundry、Heroku和Amazon Elas
云原生是一种应用开发风格,鼓励在持续交付和价值驱动开发领域轻松采用最佳实践。相关的学科是建立12-factor Apps,其中开发实践与交付和运营目标相一致,例如通过使用声明式编程和管理和监控。Spring Cloud以多种具体方式促进这些开发风格,起点是一组功能,分布式系统中的所有组件都需要或需要时轻松访问。 许多这些功能都由Spring Boot覆盖,我们在Spring Cloud中建立。更多
软件正在吞噬这个世界。—Mark Andreessen 近些年来,在一些长期由领导者支配的行业中,这些领导者的领先地位已经岌岌可危,这都是由以这些行业为核心业务的软件公司造成的。像Square、Uber、Netflix、Airbnb和特斯拉这样的公司能够持续快速增长,并且拥有傲人的市场估值,成为它们所在行业的新领导者。这些创新公司有什么共同点? 快速创新 持续可用的服务 弹性可扩展的Web 以移动