配置脚本以及目录下载:点我下载
一、规划好端口ip
架构图如下,任意抽取每个副本集中的一个分片(非仲裁节点)可以组成一份完整的数据。
1. 第一个副本集rs1
share1 10.0.0.7:30011:/data/share_rs/share_rs1/share1/data/ share2 10.0.0.7:40011:/data/share_rs/share_rs1/share2/data/ share3 10.0.0.7:50011:/data/share_rs/share_rs1/share3/data/
2. 第二个副本集rs2
share1 10.0.0.7:30012:/data/share_rs/share_rs2/share1/data/ share2 10.0.0.7:40012:/data/share_rs/share_rs2/share2/data/ share3 10.0.0.7:50012:/data/share_rs/share_rs2/share3/data/
3. 第三个副本集rs3
share1 10.0.0.7:30013:/data/share_rs/share_rs3/share1/data/ share2 10.0.0.7:40013:/data/share_rs/share_rs3/share2/data/ share3 10.0.0.7:50013:/data/share_rs/share_rs3/share3/data/
4.config server
config1 10.0.0.7:30002:/data/share_rs/config/config1/data/ config2 10.0.0.7:30002:/data/share_rs/config/config2/data/ config3 10.0.0.7:30002:/data/share_rs/config/config3/data/
5. mongos
mongos1 10.0.0.7:30001:/data/share_rs/mongos/mongos1/data/ mongos2 10.0.0.7:30001:/data/share_rs/mongos/mongos2/data/ mongos3 10.0.0.7:30001:/data/share_rs/mongos/mongos3/data/
二、创建相应的目录
mkdir -p /data/share_rs/{share_rs1,share_rs2,share_rs3}/{share1,share2,share3}/{data,log} mkdir -p /data/share_rs/mongos/{mongos1,mongos2,mongos3}/{data,log} mkdir -p /data/share_rs/config/{config1,config2,config3}/{data,log}
三、配置mongs和config的配置文件(其他副本参考修改端口以及ip)
[mongo@mongo config1]$ cat mongo.conf dbpath=/data/share_rs/config/config1/data/ logpath=/data/share_rs/config/config1/log/mongo.log logappend=true port=30002 fork=true rest=true httpinterface=true configsvr=true [mongo@mongo mongs1]$ cat mongo.conf logpath=/data/share_rs/mongos/mongos1/log/mongo.log logappend=true port=30001 fork=true configdb=10.0.0.7:30002,10.0.0.7:40002,10.0.0.7:50002 chunkSize=1
四、依次启动三个副本上的config服务器以及mongs服务器
mongod -f /data/share_rs/config/config1/mongo.conf mongod -f /data/share_rs/config/config2/mongo.conf mongod -f /data/share_rs/config/config3/mongo.conf mongos -f /data/share_rs/mongos/mongos1/mongo.conf mongos -f /data/share_rs/mongos/mongos2/mongo.conf mongos -f /data/share_rs/mongos/mongos3/mongo.conf
五、配置mong分片的的配置文件(其他副本参考修改端口以及ip),同一个分片的副本集名称一样,即replSet。
第一个副本集的一个分片 [mongo@mongo share_rs1]$ cat share1/mongo.conf dbpath=/data/share_rs/share_rs1/share1/data logpath=/data/share_rs/share_rs1/share1/log/mongo.log logappend=true port=30011 fork=true rest=true httpinterface=true replSet=rs1 shardsvr=true 第二个副本集的一个分片 [mongo@mongo share_rs2]$ cat share1/mongo.conf dbpath=/data/share_rs/share_rs2/share1/data logpath=/data/share_rs/share_rs2/share1/log/mongo.log logappend=true port=30012 fork=true rest=true httpinterface=true replSet=rs2 shardsvr=true 第三个副本集的一个分片 [mongo@mongo share_rs1]$ cat share1/mongo.conf dbpath=/data/share_rs/share_rs3/share1/data logpath=/data/share_rs/share_rs3/share1/log/mongo.log logappend=true port=30013 fork=true rest=true httpinterface=true replSet=rs3 shardsvr=true
六、启动各个分片以及相应的副本
mongod -f /data/share_rs/share_rs1/share1/mongo.conf mongod -f /data/share_rs/share_rs1/share2/mongo.conf mongod -f /data/share_rs/share_rs1/share3/mongo.conf mongod -f /data/share_rs/share_rs2/share1/mongo.conf mongod -f /data/share_rs/share_rs2/share2/mongo.conf mongod -f /data/share_rs/share_rs2/share3/mongo.conf mongod -f /data/share_rs/share_rs3/share1/mongo.conf mongod -f /data/share_rs/share_rs3/share2/mongo.conf mongod -f /data/share_rs/share_rs3/share3/mongo.conf [mongo@mongo share_rs]$ ps -ef | grep mongo | grep share | grep -v grep mongo 2480 1 0 12:50 ? 00:00:03 mongod -f /data/share_rs/share_rs1/share1/mongo.conf mongo 2506 1 0 12:50 ? 00:00:03 mongod -f /data/share_rs/share_rs1/share2/mongo.conf mongo 2532 1 0 12:50 ? 00:00:02 mongod -f /data/share_rs/share_rs1/share3/mongo.conf mongo 2558 1 0 12:50 ? 00:00:03 mongod -f /data/share_rs/share_rs2/share1/mongo.conf mongo 2584 1 0 12:50 ? 00:00:03 mongod -f /data/share_rs/share_rs2/share2/mongo.conf mongo 2610 1 0 12:50 ? 00:00:02 mongod -f /data/share_rs/share_rs2/share3/mongo.conf mongo 2636 1 0 12:50 ? 00:00:01 mongod -f /data/share_rs/share_rs3/share1/mongo.conf mongo 2662 1 0 12:50 ? 00:00:01 mongod -f /data/share_rs/share_rs3/share2/mongo.conf mongo 2688 1 0 12:50 ? 00:00:01 mongod -f /data/share_rs/share_rs3/share3/mongo.conf mongo 3469 1 0 13:17 ? 00:00:00 mongod -f /data/share_rs/config/config1/mongo.conf mongo 3485 1 0 13:17 ? 00:00:00 mongod -f /data/share_rs/config/config2/mongo.conf mongo 3513 1 0 13:17 ? 00:00:00 mongod -f /data/share_rs/config/config3/mongo.conf mongo 3535 1 0 13:18 ? 00:00:00 mongos -f /data/share_rs/mongos/mongos1/mongo.conf mongo 3629 1 0 13:22 ? 00:00:00 mongos -f /data/share_rs/mongos/mongos2/mongo.conf mongo 3678 1 0 13:22 ? 00:00:00 mongos -f /data/share_rs/mongos/mongos3/mongo.conf
七、设置副本集
1.登录第一个副本的一个分片,为其设置副本集 mongo 127.0.0.1:30011/admin config = { _id:"rs1", members:[ {_id:0,host:"10.0.0.7:30011"}, {_id:1,host:"10.0.0.7:40011"}, {_id:2,host:"10.0.0.7:50011",arbiterOnly:true} ] } -- >; 注意:这里id rs1 需要与副本集中的名称一样即replSet的值 rs.initiate(config) { "ok" : 1 } -- >; 提示这个说明初始化成功 2.登录第二个副本的一个分片,为其设置副本集 mongo 127.0.0.1:30012/admin config = { _id:"rs2", members:[ {_id:0,host:"10.0.0.7:30012"}, {_id:1,host:"10.0.0.7:40012"}, {_id:2,host:"10.0.0.7:50012",arbiterOnly:true} ] } rs.initiate(config) { "ok" : 1 } -- >; 提示这个说明初始化成功 3.登录第三个副本的一个分片,为其设置副本集 mongo 127.0.0.1:30013/admin config = { _id:"rs3", members:[ {_id:0,host:"10.0.0.7:30013"}, {_id:1,host:"10.0.0.7:40013"}, {_id:2,host:"10.0.0.7:50013",arbiterOnly:true} ] } rs.initiate(config) { "ok" : 1 } -- >; 提示这个说明初始化成功
八、目前前搭建了mongodb配置服务器、路由服务器,各个分片服务器,不过应用程序连接mongos 路由服务器并不能使用分片机制,还需要在程序里设置分片配置,让分片生效。
连接到第一个mongos上 mongo 10.0.0.7:30001/admin db.runCommand({addshard:"rs1/10.0.0.7:30011,10.0.0.7:40011,10.0.0.7:50011",allowLocal:true}); db.runCommand({addshard:"rs2/10.0.0.7:30012,10.0.0.7:40012,10.0.0.7:50012"}); db.runCommand({addshard:"rs3/10.0.0.7:30013,10.0.0.7:40013,10.0.0.7:50013"}); -- >; 将第一个分片的所有副本全部加入 -- >; 如里shard是单台服务器,用 db.runCommand( { addshard : "[: ]" } )这样的命令加入 -- >; 如果shard是副本集,用db.runCommand( { addshard : "replicaSetName/[:port][,serverhostname2[:port],…]" });这样的格式表示. mongos>; sh.status() --- Sharding Status --- sharding version: { "_id" : 1, "minCompatibleVersion" : 5, "currentVersion" : 6, "clusterId" : ObjectId("57f33f4d35d9c494714adfa7") } shards: { "_id" : "rs1", "host" : "rs1/10.0.0.7:30011,10.0.0.7:40011" } { "_id" : "rs2", "host" : "rs2/10.0.0.7:30012,10.0.0.7:40012" } { "_id" : "rs3", "host" : "rs3/10.0.0.7:30013,10.0.0.7:40013" } active mongoses: "3.2.7" : 3 balancer: Currently enabled: yes Currently running: no Failed balancer rounds in last 5 attempts: 0 Migration Results for the last 24 hours: No recent migrations databases:
九、将集合进行分片。
db.runCommand({enablesharding:"testcol"}); -- >; 指定testdb分片生效 db.runCommand({shardcollection: "testcol.testdoc",key : {id: 1} } ) -- >; 指定数据库里需要分片的集合和片键 -->; 插入测试数据 for (var i = 1; i <;= 100000; i++){ db.testdoc.save({id:i,"name":"harvey"})}; -- >; 查看该集合的状态 db.testcol.stats();
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对小牛知识库的支持。
本文向大家介绍Docker 搭建集群MongoDB的实现步骤,包括了Docker 搭建集群MongoDB的实现步骤的使用技巧和注意事项,需要的朋友参考一下 前言 由于公司业务需要,我们打算自己搭建 MongoDB 的服务,因为 MongoDB 的云数据库好贵,我们这次采用副本集的方式来搭建集群,三台服务器,一主、一副、一仲裁 基本概念 Replica Set 副本集:一个副本集就是一组 Mongo
本文档介绍用 3 台服务器构建 Seafile 高可用集群的架构。这里介绍的架构仅能实现“服务高可用”,而不能支持通过扩展更多的节点来提升服务性能。如果您需要“可扩展 + 高可用”的方案,请参考Seafile 可扩展集群文档。 在这种高可用架构中包含3个主要的系统部件: Seafile 服务器:提供 Seafile 服务的软件 MariaDB 数据库集群:保存小部分的 Seafile 元数据,比如
一、Zookeeper集群搭建 为保证集群高可用,Zookeeper 集群的节点数最好是奇数,最少有三个节点,所以这里搭建一个三个节点的集群。 1.1 下载 & 解压 下载对应版本 Zookeeper,这里我下载的版本 3.4.14。官方下载地址:https://archive.apache.org/dist/zookeeper/ # 下载 wget https://archive.apache.
一、集群规划 这里搭建一个 3 节点的 Spark 集群,其中三台主机上均部署 Worker 服务。同时为了保证高可用,除了在 hadoop001 上部署主 Master 服务外,还在 hadoop002 和 hadoop003 上分别部署备用的 Master 服务,Master 服务由 Zookeeper 集群进行协调管理,如果主 Master 不可用,则备用 Master 会成为新的主 Mas
一、高可用简介 Hadoop 高可用 (High Availability) 分为 HDFS 高可用和 YARN 高可用,两者的实现基本类似,但 HDFS NameNode 对数据存储及其一致性的要求比 YARN ResourceManger 高得多,所以它的实现也更加复杂,故下面先进行讲解: 1.1 高可用整体架构 HDFS 高可用架构如下: 图片引用自:https://www.edureka.
本章节将示范三台 zookeeper 服务端集群搭建步骤。 所需准备工作,创建三台虚拟机环境并安装好 java 开发工具包 JDK,可以使用 VM 或者 vagrant+virtualbox 搭建 centos/ubuntu 环境,本案例基于宿主机 windows10 系统同时使用 vagrant+virtualbox 搭建的 centos7 环境,如果直接使用云服务器或者物理机同理。 步骤一:准