mongo集群迁移删除孤立文档

客官°小女子只卖身不卖艺 2022-09-22 15:56 11阅读 0赞

在正常情况下，系统中不会有孤立文档。不过，块迁移过程中的一些失败情况可能会留下孤立文档，孤立文档不属于分片范围。

使用cleanupOrphaned命令从分片中删除孤立文档

语法：

db.runCommand( \{

cleanupOrphaned: "<database>.<collection>",

startingFromKey: <minimumShardKeyValue>,

secondaryThrottle: <boolean>,

writeConcern: <document>

\} )

此命令需要在admin数据库下运行，千万注意命令要在mongod进程中执行，不可以在mongos路由进程中执行，运行cleanupOrphaned不需要停止balance进程，建议在非高峰业务时间的时候运行

原理：

![Center][]

Shard A 所有的chunk:

Chunk 1 范围是\{ x: minKey \} --> \{ x: -75 \},

Chunk 2 范围是 \{ x: -75 \} --> \{ x: 25 \}, and

Chunk 4 范围是 \{ x: 175 \} --> \{ x: 200 \}.

Shard B 所有的chunk:

Chunk 3 范围是 \{ x: 25 \} --> \{ x: 175 \} and

Chunk 5 范围是\{ x: 200 \} --> \{ x: maxKey \}.

该情况产生原因是mongod的片的范围是不断调整的，或者在balance移动数据以后源数据没有删除，数据字典里面记录的是新的分片的范围信息。由于这里使用的是mongod去执行这个命令，所有只有一个shard，上述图所述的是一个shard的实际存储信息（非字典信息），假如这些chunk在数据字典里记录的属于shard A，是检查并删除下一个集合属于shard B的chunk，然后执行计划结束。因为这个chunk就是孤立文档，在config数据字典里面没有的。

例如：

删除mydb.mycol1集合，在 \{ x: 10 \} => \{ x: MaxKey \}范围的孤立文档，实现需要确定对应mongod的shard的范围，然后从中删除

首先mongos查看范围情况

[dbadmin@bd-stg-mongodb-76][dbadmin_bd-stg-mongodb-76]:~$mongo localhost:12001/admin -u dbadmin -p

mongos> sh.status()

\--- Sharding Status ---

sharding version: \{

"\_id" : 1,

"minCompatibleVersion" : 5,

"currentVersion" : 6,

"clusterId" : ObjectId("57146d38f71635a4755aa902")

shards:

\{  "\_id" : "rs1",  "host" : "rs1/mongodb01:10001,mongodb02:10001" \}

\{  "\_id" : "rs2",  "host" : "rs2/mongodb02:10002,mongodb03:10002" \}

\{  "\_id" : "rs3",  "host" : "rs3/mongodb01:10003,mongodb03:10003" \}

\{  "\_id" : "rs4",  "host" : "rs4/mongodb01:10004,mongodb02:10004" \}

active mongoses:

"3.2.5" : 3

balancer:

Currently enabled:  yes

Currently running:  no

Failed balancer rounds in last 5 attempts:  2

Last reported error:  could not find host matching read preference \{ mode: "primary" \} for set rs4

Time of Reported error:  Fri May 13 2016 17:30:06 GMT+0800 (CST)

Migration Results for the last 24 hours:

No recent migrations

databases:

\{  "\_id" : "mydb",  "primary" : "rs4",  "partitioned" : true \}

mydb.mycol1

shard key: \{ "id" : 1 \}

unique: false

balancing: true

chunks:

rs1     2

rs2     2

rs3     2

rs4     1

\{ "id" : \{ "$minKey" : 1 \} \} -->> \{ "id" : 2 \} on : rs3 Timestamp(3, 0)

\{ "id" : 2 \} -->> \{ "id" : 16 \} on : rs2 Timestamp(3, 1)

\{ "id" : 16 \} -->> \{ "id" : 73557 \} on : rs2 Timestamp(5, 0)

\{ "id" : 73557 \} -->> \{ "id" : 131012 \} on : rs3 Timestamp(6, 0)

\{ "id" : 131012 \} -->> \{ "id" : 188469 \} on : rs1 Timestamp(6, 1)

\{ "id" : 188469 \} -->> \{ "id" : 200000 \} on : rs1 Timestamp(4, 4)

\{ "id" : 200000 \} -->> \{ "id" : \{ "$maxKey" : 1 \} \} on : rs4 Timestamp(4, 0)

\{  "\_id" : "sisyphus",  "primary" : "rs2",  "partitioned" : true \}

\{  "\_id" : "mydb1",  "primary" : "rs1",  "partitioned" : false \}

\{  "\_id" : "mydb2",  "primary" : "rs3",  "partitioned" : false \}

这里得到的信息是rs1/mongodb01:10001，还有 \{ "id" : 131012 \} -->> \{ "id" : 188469 \} on : rs1 Timestamp(6, 1)    ，  \{ "id" : 188469 \} -->> \{ "id" : 200000 \} on : rs1 Timestamp(4, 4) ，10001端口片名rs1 片chunk范围 131012- 188469， 188469- 200000。

连接mongod

[dbadmin@bd-stg-mongodb-76][dbadmin_bd-stg-mongodb-76]:~$mongo localhost:10001/admin -u dbadmin -p

use admin

db.runCommand( \{

"cleanupOrphaned": " mydb.mycol1 ",

"startingFromKey": \{  id :  188469 \},

"secondaryThrottle": true

\} )

查看日志

2016-07-01T11:43:32.487+0800 I SHARDING \[conn49\] remotely refreshing metadata for mydb.mycol1 based on current shard version 6|1||571497ca947360416b8ff6fa, current metadata version is 6|1||571497ca947360416b8ff6fa

2016-07-01T11:43:32.516+0800 I ASIO     \[NetworkInterfaceASIO-ShardRegistry-0\] Successfully connected to mongodb03:11001

2016-07-01T11:43:32.543+0800 I ASIO     \[NetworkInterfaceASIO-ShardRegistry-0\] Successfully connected to mongodb02:11001

2016-07-01T11:43:32.544+0800 I SHARDING \[conn49\] metadata of collection mydb.mycol1 already up to date (shard version : 6|1||571497ca947360416b8ff6fa, took 56ms)

2016-07-01T11:43:32.544+0800 I SHARDING \[conn49\]  Deleter starting delete for: mydb.mycol1 from \{ id: 200000.0 \} -> \{ id: MaxKey \}, with opId: 4762243

2016-07-01T11:43:32.544+0800 I SHARDING \[conn49\] Helpers::removeRangeUnlocked time spent waiting for replication: 0ms

2016-07-01T11:43:32.544+0800 I SHARDING \[conn49\]  rangeDeleter deleted 0 documents for mydb.mycol1 from \{ id: 200000.0 \} -> \{ id: MaxKey \}

红色部分说明，此范围chunk孤立的chunk

由于孤立文档删除以后， cleanupOrphaned命令即执行结束。这里我们使用循环删除，来删除所有孤立文档。

use admin

var nextKey = \{ \};

var result;

while ( nextKey != null ) \{

result = db.runCommand( \{ cleanupOrphaned: "mydb.mycol1", startingFromKey: nextKey \} );

if (result.ok != 1)

print("Unable to complete at this time: failure or timeout.")

printjson(result);